Clique sobre o botão de legendas para ver a tradução automática para o português.

“Google, Big Data e o fim do livre arbítrio” – Yuval Noah HARARI

Financial Times, 26 de agosto de 2016

Esqueça esse papo de ouvir a si mesmo. Na era da informação, os algoritmos têm a resposta, escreve o historiador Yuval Noah Harari.

Durante milhares de anos os seres humanos acreditaram que a autoridade vinha dos deuses. Depois, na era moderna, o humanismo gradualmente transferiu a autoridade das divindades para as pessoas. Jean-Jacques Rousseau resumiu essa revolução em Émile, seu tratado sobre a educação de 1762. Buscando as regras de conduta para a vida, Rousseau as encontrou “na profundidade do meu coração, traçadas pela natureza em caracteres que nada pode apagar. Apenas preciso consultar a mim mesmo em relação ao que desejo fazer; o que sinto que é bom, é bom; o que sinto que é mau, é mau.” Pensadores humanistas como Rousseau nos convenceram de que nossos próprios sentimentos são a última fonte de significado, e que nosso livre arbítrio é, portanto, a mais alta das autoridades.

Agora, uma nova mudança está acontecendo. Assim como a autoridade religiosa fora legitimada pelas mitologias religiosas, e a autoridade humana legitimada pelas ideologias humanistas, assim também os gurus da hi-tech e os profetas do Vale do Silício estão criando uma nova narrativa universal que legitima a autoridade de algoritmos e do Big Data. Este novo credo pode ser chamado “Dataísmo”. Em sua forma mais extrema, os proponentes da visão de mundo dataísta percebem o universo inteiro como um fluxo de informação, veem os organismos como pouco mais do que algoritmos bioquímicos e acreditam que a vocação cósmica da humanidade é criar um sistema absolutamente abrangente de processamento de informações – e então fundir-se nele.

Nós já estamos nos tornando pequenos chips dentro de um imenso sistema que ninguém realmente entende. Todos os dias, eu absorvo incontáveis porções de dados por e-mail, ligações telefônicas e artigos, processo a informação e transmito de volta novas porções através de mais e-mails, ligações telefônicas e artigos. Não sei realmente onde eu me encaixo neste grande esquema de coisas, e como minhas porções de informação se conectam com aquelas que são produzidas por bilhões de outros seres humanos e computadores. Não tenho tempo para descobrir, pois estou muito ocupado respondendo e-mails. Esse incansável fluxo de informação dispara novas invenções e interrupções que ninguém planeja, controla ou compreende.

Mas ninguém precisa entender. Tudo o que você precisa fazer é responder o seu e-mail mais rápido. Assim como os capitalistas do livre mercado acreditam na mão invisível do mercado, assim também os dataístas acreditam na mão invisível do fluxo de informação. Conforme o sistema global de processamento de dados se torna onisciente e onipotente, conectar-se ao sistema se torna a fonte de todo significado. O novo mote diz: “Se você experiencia algo, grave-o e faça upload. Se você fizer o upload, compartilhe-o.” Os dataístas também acreditam que, com informação biométrica e poder computacional suficientes, esse sistema absolutamente abrangente poderia compreender os seres humanos muito melhor do que nós mesmos nos entendemos. Quando isso acontecer, os seres humanos perderão toda sua autoridade, e as práticas humanistas como eleições democráticas se tornarão obsoletas como a dança da chuva e facas de pedra polida.

Quando Michael Gove anunciou sua efêmera candidatura para se tornar o primeiro-ministro britânico após a votação do Brexit em junho, ele explicou: “A cada passo da minha vida política eu me fiz uma pergunta: o que é a coisa certa a ser feita? O que seu coração te diz?” É por isso que, segundo Gove, ele lutou tanto pelo Brexit, e foi por isso que ele se sentiu compelido a trair seu antigo aliado Boris Johnson e concorreu, ele mesmo, à posição de cão-líder – porque o seu coração lhe disse para fazer isso.

Gove não é o único a escutar seu coração em momentos críticos. Nos últimos séculos o humanismo viu o coração humano como a suprema fonte de autoridade não apenas em política como também em qualquer outra área de atividade. Desde a infância somos bombardeados por uma torrente de slogans humanistas que nos aconselham: “Escute a si mesmo, seja verdadeiro consigo mesmo, confie em si mesmo, siga o seu coração, faça o que lhe parece bom.”

Em política, acreditamos que a autoridade depende da livre escolha de eleitores comuns. Na economia de mercado, dizemos que o cliente sempre tem razão. A arte humanista pensa que a beleza está no olho de que a vê; a educação humanista nos ensina a pensar por nós mesmos; e a ética humanista nos aconselha que, se algo nos parece bom, devemos ir adiante e fazê-lo. É claro que a ética humanista frequentemente encontra dificuldade em situações em que algo que me faz sentir bem faz você se sentir mal. Por exemplo, todo ano ao longo da última década a comunidade LGBT israelita tem promovido paradas gay nas ruas de Jerusalém. É um dia único de harmonia nesta cidade varrida por conflitos, pois é a única ocasião em que judeus, cristãos e muçulmanos religiosos encontram de repente uma causa comum – eles todos se enfurecem contra a parada gay.

O que é realmente interessante, contudo, é o argumento usado pelos fanáticos religiosos. Eles não dizem: “Você não deve fazer uma parada gay porque Deus proíbe a homossexualidade.” Em vez disso, eles explicam para todos os microfones e câmeras de TV disponíveis que “ver uma parada gay passar pela cidade santa de Jerusalém ofende nossos sentimentos. Assim como os gays querem que nós respeitemos seus sentimentos, eles deveriam respeitar os nossos.” Não importa o que você pensa sobre este dilema particular; é muito mais importante entender que, numa sociedade humanista, debates políticos e éticos são conduzidos em nome de sentimentos humanos conflituosos, e não em nome de mandamentos divinos.

E mais, o humanismo está agora enfrentando um desafio existencial e a ideia de “livre arbítrio” está ameaçada. Insights científicos sobre a maneira como nossos cérebros e corpos operam sugerem que nossos sentimentos não são uma qualidade espiritual especialmente humana. São, em vez disso, mecanismos bioquímicos que todos os mamíferos e pássaros utilizam de modo a fazer decisões calculando, com rapidez, probabilidades de sobrevivência e reprodução.

Contrariamente à opinião popular, os sentimentos não são o oposto da racionalidade; eles são a racionalidade evolucionária tornada carne. Quando um babuíno, uma girafa ou um homem veem um leão, o medo surge porque um algoritmo bioquímico calcula os dados relevantes e conclui que a probabilidade de morte é alta. Similarmente, os sentimentos de atração sexual surgem quando outros algoritmos bioquímicos calculam que um indivíduo na proximidade oferece uma grande probabilidade de acasalamento bem-sucedido. Estes algoritmos bioquímicos evoluíram e se aprimoraram ao longo de milhões de anos de evolução. Se os sentimentos de um ancestral remoto cometeram um erro, os genes que moldavam aqueles sentimentos não passaram para a próxima geração.

Ainda que os humanistas estivessem errados em pensar que os nossos sentimentos refletiam algum misterioso “livre arbítrio”, o humanismo até agora fazia muito bem um sentido prático. Pois, muito embora não houvesse nada mágico a respeito dos nossos sentimentos, eles eram não obstante o melhor método no universo para tomar decisões – e nenhum sistema exterior poderia esperar entender meus sentimentos melhor do que eu. Mesmo se a Igreja Católica ou a KGB soviética me espionassem a cada minuto do meu dia-a-dia, elas careceriam o conhecimento biológico e o poder computacional necessário para calcular os processos bioquímicos que moldam os meus desejos e escolhas. Portanto, o humanismo estava certo em dizer as pessoas que escutassem os seus corações. Se você tivesse que escolher entre dar ouvidos à Bíblia ou dar ouvidos aos seus sentimentos, seria muito melhor se você desse ouvidos aos seus sentimentos. A Bíblia representa as opiniões e vieses de alguns padres da antiga Jerusalém. Os seus sentimentos, por outro lado, representam a sabedoria acumulada de milhões de anos de uma evolução que passo pelos mais rigorosos testes de controle de qualidade da seleção natural.

Entretanto, conforme a Igreja e a KGB cedem lugar ao Google e ao Facebook, o humanismo perde suas vantagens práticas. Pois nós estamos agora na confluência de duas grandes ondas científicas. Por um lado, os biólogos estão decifrando os mistérios do corpo humano e, particularmente, do cérebro e dos sentimentos humanos. Ao mesmo tempo, os cientistas da computação nos estão dando um poder de processamento de dados sem precedentes. Quando se juntam as duas coisas, tem-se sistemas externos que podem monitorar e entender meus sentimentos muito melhor do que eu mesmo consigo. Uma vez que os sistemas de Big Data me conhecem melhor do que eu mesmo me conheço, a autoridade se transfere dos humanos para os algoritmos. O Big Data poderia então empoderar o Big Brother.

Isto já tem acontecido no campo da medicina. As mais importantes decisões médicas da sua vida são cada vez mais baseadas não nos seus sentimentos de doença ou bem-estar, nem mesmo nos prognósticos bem informados do seu médico, mas nos cálculos dos computadores que conhecem você melhor do que você mesmo. Um exemplo recente desse processo é o caso da atriz Angelina Jolie. Em 2013, Jolie fez um teste genético que provou que ela carregava uma perigosa mutação do gene BRCA1. De acordo com os bancos de dados estatísticos, as mulheres que carregam esta mutação têm uma probabilidade de 87% de desenvolver câncer de mama. Ao mesmo tempo, ainda que Jolie não tivesse o câncer, ela decidiu antecipar a doença e passar por uma dupla mastectomia. Ela não se sentia doente, mas sabiamente decidiu dar ouvidos aos algoritmos computacionais. “Pode ser que você não sinta nada de errado”, dizem os algoritmos, “mas há uma bomba-relógio em andamento no seu DNA. Faça algo em relação a isso – agora!”

O que já está ocorrendo na medicina provavelmente acontecerá mais e mais em outras áreas. Começa com coisas simples, como qual livro ler e comprar. Como os humanistas escolhem um livro? Eles vão a uma livraria, caminham entre as prateleiras, folheiam um livro e leem as primeiras páginas de outro, até que alguma intuição o faz conectar com um capítulo específico. Os dataístas utilizam a Amazon. Conforme eu acesso a loja virtual da Amazon, uma mensagem aparece na tela e me diz: “Eu sei quais livros você gostou no passado. Pessoas como interesses similares também tendem a gostar este ou aquele novo livro.”

Isso é só o começo. Dispositivos como o Kindle, da Amazon, são capazes de coletar constantemente dados sobre seus usuários conforme eles leem livros digitais. O seu Kindle pode monitorar quais partes de um livro você leu rápido, e quais você leu com mais demora; em qual página você fez uma pausa, e em qual frase abandonou o livro, para nunca mais pegá-lo de volta. Se o Kindle fosse aperfeiçoado com dispositivos de reconhecimento facial e sensores biométricos, ele saberia como cada frase influenciou sua frequência cardíaca e sua pressão sanguínea. Ele saberia o que te fez rir, o que te entristeceu, o que te deixou com raiva. Em breve, os livros lerão você enquanto você os lê. E, enquanto você rapidamente esquece a maior parte do que leu, os programas de computadores nunca esquecem nada. Tais dados deveriam eventualmente permitir que a Amazon escolha livros para você com uma precisão assombrosa. Eles também permitirão à Amazon saber exatamente quem você, e como acionar os seus botões emocionais.

Leve isso às suas conclusões lógicas e, eventualmente, as pessoas podem dar aos algoritmos a autoridade para tomar as decisões mais importantes de suas vidas, como com quem se casar. Na Europa medieval, os padres e os genitores tinham a autoridade de escolher seu parceiro por você. Nas sociedades humanistas, nós damos essa autoridade aos nossos sentimentos. Numa sociedade dataísta eu pedirei ao Google para decidir. “Escute, Google”, direi eu, “tanto João quanto Paulo estão me cortejando. Eu gosto de ambos, mas de maneira diferente, e está difícil me decidir. Dado tudo o que você sabe, o que me aconselha a fazer?”

E o Google responderá: “Bem, eu conheço você desde o dia que você nasceu. Eu li todos os seus e-mails, gravei todas as suas conversas telefônicas, conheço os seus filmes favoritos, o seu DNA e toda a história biométrica do seu coração. Eu tenho informações exatas sobre cada relacionamento que você teve, e posso te mostrar gráficos, segundo a segundo, da sua frequência cardíaca, da sua pressão sanguínea e dos seus níveis de açúcar de quando você saiu com João ou Paulo. E, naturalmente, eu os conheço tão bem quanto conheço você. Baseado em toda essa informação, nos meus incríveis algoritmos e em décadas de estatísticas sobre milhões de relacionamentos, eu te aconselho a sair com o João, com uma probabilidade de 87 por cento de que você esteja mais satisfeita com ele a longo prazo.

“De fato, eu conheço você tão bem que até sei que você não gostou desta resposta. O Paulo é mais atraente do que o João e, como você dá um peso muito grande às aparências externas, esperava que eu dissesse ‘Paulo’. A aparência importa, é claro, mas não tanto quanto você imagina. Seus algoritmos bioquímicos – que evoluíram desde dezenas de milhares de anos atrás na savana africana – conferem à beleza exterior um peso de 35 por cento na classificação geral de parceiros potenciais. Os meus algoritmos – que se baseiam nos mais recentes estudos e estatísticas – dizem que a aparência tem apenas 14 por cento de impacto no êxito de longo prazo de relacionamentos românticos. Então, mesmo que tenha levado a beleza do Paulo em consideração, eu ainda te digo que você ficaria mais bem com o João.”

O Google não precisará ser perfeito. Não precisará estar correto o tempo todo. Apenas precisará ser melhor, em termos de média, do que eu. E isso não é tão difícil, pois a maioria das pessoas não se conhecem muito bem, e a maioria das pessoas frequentemente cometem os mais terríveis erros nas mais importantes decisões de suas vidas.

A visão de mundo dataísta é muito atrativa para os políticos, homens de negócios e consumidores comuns porque oferece tecnologias revolucionarias e enormes novos poderes. Por todo o medo de perdermos nossa privacidade e nossa livre escolha, quando os consumidores têm de escolher entre manter sua privacidade e ter acesso a assistência médica de superior qualidade, a maioria escolherá a saúde.

Para os acadêmicos e os intelectuais, o dataísmo promete oferecer o Santo Graal científico que nos escapou durante séculos: uma única teoria abrangente que unifica todas as disciplinas científicas, da musicologia à economia, chegando à biologia. De acordo com o dataísmo, a quinta sinfonia de Beethoven, uma bolha da bolsa de valores e o vírus da gripe não passam de três padrões de fluxo de informação que pode ser analisado utilizando-se os mesmos conceitos e as mesmas ferramentas básicos. Essa ideia é extremamente atraente. Ela dá aos cientistas uma linguagem comum, estabelece pontes sobre abismos acadêmicos e facilmente exporta insights através de fronteiras disciplinares.

Certamente, como todos os dogmas abrangentes do passado, o dataísmo também pode estar fundado sobre uma incompreensão em relação à vida. Particularmente, o dataísmo não oferece nenhuma resposta ao notório “problema duro da consciência”. No presente, estamos muito longe de explicar a consciência em termos de processamento de dados. Por que é que, quando bilhões de neurônios no cérebro dispararam sinais particulares uns aos outros, um sentimento subjetivo de amor, ou de medo, ou de raiva, aparece? Não fazemos ideia.

Mas, mesmo se o dataísmo estiver errado sobre a vida, ele pode ainda assim dominar o mundo. Muitos credos anteriores ganharam uma enorme popularidade e um enorme poder apesar de seus erros factuais. Se o cristianismo e o comunismo conseguiram, por que não o dataísmo? O dataísmo tem prospectos especialmente positivos, pois está se espalhando atualmente através de todas as disciplinas cientificas. Um paradigma científico unificado pode facilmente se tornar um dogma inquestionável.

Se você não gosta disso e quer se manter aquém do alcance dos algoritmos, talvez haja apenas um único conselho a lhe dar, o mais antigo que existe: conhece-te a ti mesmo. No final, é apenas uma simples questão empírica. Enquanto você possuir insight e auto-conhecimento maiores do que os algoritmos, suas escolhas continuarão sendo superiores e você manterá pelo menos alguma autoridade em suas mãos. Se, todavia, os algoritmos parecem prestes a tomar conta de tudo, é principalmente porque a maioria dos seres humanos mal se conhece.

Yuri Noah Harari é o autor de Homo Deus – Uma Breve História do Amanhã e de Sapiens – Uma Breve História da Humanidade.

Fonte: https://portalcioranbr.wordpress.com/2020/06/21/google-bigdata-livre-arbitrio-harari/

Tradução do inglês: Rodrigo Inácio R. Sá Menezes

Com tradução para o Português-BR no botão de legendas, Mark Zuckerberg recebeu também a Yuval Noah Harari para uma conversa franca sobre grandes desafios – como parte de uma série de discussões públicas por parte do CEO do Facebook sobre o futuro da tecnologia na sociedade. A principal questão que debatem é: o que faremos com os problemas sistêmicos da atual revolução tecnológica? Também vale a pena assistir porque deixa evidente a parceria entre os controladores da percepção da realidade no mundo com o suposto profeta apocalíptico-tecnológico Yuval Noah Harari.