Yuval Noah Harari é o equivalente a Elias ou João Batista do Anticristo, com suas “profecias” acerca do futuro da Humanidade. Haveria, porventura, um ou mais dentre os pastores, redatores e influencers adventistas, dispostos a se contrapor a ele, demonstrando que, biblicamente, Deus é quem está no comando da História e, embora essa possível fusão de barro com ferro (corpo humano + bio-tecnologia = transumanos) possa ser tentada, Deus não permitirá seu avanço por muito tempo. Afinal de contas, não escreveu Ellen G. White que, Deus provocou o Dilúvio por conta da prática da manipulação genética no período antediluviano?
“Se houve um pecado maior que qualquer outro que requereu a destruição da raça humana pelo dilúvio, este foi o vil crime da amalgamação de homens e animais, que desfigurou a imagem de Deus e causou confusão por toda parte. Deus Se propôs a destruir por um dilúvio essa poderosa raça longeva que corrompera seus caminhos diante dEle.” Spiritual Gifts, vol.3, p. 64.
“Todas as espécies de animais que Deus criara foram preservadas na arca. As espécies confusas que Deus não criou, que eram resultado de amalgamação, foram destruídas pelo dilúvio. Desde o dilúvio, tem havido amalgamação de homens e animais, conforme pode ser visto nas quase infindas variedades de espécies de animais, e em certas raças de homens”. Idem, p. 75.
Desfigurar a imagem de Deus nos seres humanos mais uma ez acelerará o desagrado divino sobre os controladres do mundo e provocará a repentina destruição dos maus…
Clique botão de legendas para acompanhar a tradução automática para o português-BR:
No meio do turbilhão de mudanças que só a inovação traz, às vezes é bom ter um tempo para parar e refletir: afinal, para onde o mundo está indo? Como será a sociedade do futuro? O que meus filhos e netos vão encontrar? As respostas variam de acordo com quem está falando. Por isso, fomos atrás da mesma pessoa que já respondeu essas mesmas perguntas para Bill Gates, Barack Obama, Mark Zuckerberg: o historiador e autor Yuval Noah Harari.
Se você não conhece ele de nome, talvez tenha visto algum dos seus livros por aí: “Sapiens: uma breve história da humanidade”; “Homo Deus: uma breve história do amanhã”. Neles, o historiador pinta um pouco da nossa realidade passada e o que ainda está por vir. Inteligência artificial tomando o mundo? Metade do mundo sem emprego – e uma economia sem propósito? As projeções de Harari são de arrepiar até mesmo os roteiristas mais criativos de Black Mirror. Mas, como o historiador mesmo fala: se a gente não encarar essas possibilidades, talvez a gente nunca consiga se preparar de verdade para o que vem por aí.
Yuval, você se debruçou bastante sobre o tema da Inteligência Artificial nos últimos anos. Talvez a primeira pergunta que a gente quer fazer seja um pouco fora da curva, mas, o que não é IA?
Há muita confusão sobre o que inteligência artificial significa ou não, especialmente em lugares como o Vale do Silício. Para mim, a maior confusão de todas é entre inteligência e consciência. Noventa e cinco por cento dos filmes de ficção científica são baseados no erro de que uma inteligência artificial será inevitavelmente uma consciência artificial. Eles presumem que os robôs terão emoções, sentirão coisas, que os humanos se apaixonarão por eles ou que desejarão nos destruir. Isso não é verdade.
Nas últimas décadas, houve um imenso desenvolvimento na inteligência computacional e exatamente zero desenvolvimento na consciência computacional. Não há absolutamente nenhuma razão para pensar que os computadores estão perto de desenvolver a consciência. Eles podem estar se movendo ao longo de uma trajetória muito diferente da evolução dos mamíferos. No caso dos mamíferos, a evolução os conduziu a uma inteligência maior por meio da consciência, mas, no caso dos computadores, eles podem estar progredindo ao longo de uma rota paralela e muito diferente para a inteligência que simplesmente não envolve a consciência.
(Entrevista ao Podcast The Ezra Klein Show, publicada em 27 de março de 2017)
Com consciência ou não, a IA pode acabar com os nossos trabalhos nos próximos anos?
Podem aparecer muitos novos tipos de empregos, mas isso não irá necessariamente resolver o problema. Os seres humanos têm basicamente apenas dois tipos de capacidades – físicas e cognitivas – e se os computadores nos superarem em ambas, eles podem superar-nos nos novos empregos tal como o fizeram nos antigos. Então, qual será a utilidade de seres humanos nesse mundo? O que faremos com milhares de milhões de seres humanos economicamente inúteis? Não sabemos. Não temos qualquer modelo econômico para tal situação. Esta pode ser a maior questão econômica e política do século XXI.
(Entrevista ao português Jornal de Notícias publicada em 27 de maio de 2017)
Ok, isso é um pouco assustador…
Ninguém sabe realmente como será o mundo dentro de 30 ou 60 anos. Na verdade, acho que a nossa capacidade de entender o mundo é hoje menor do que nunca. No passado, o conhecimento humano aumentava lentamente e a tecnologia demorava tempo a ser desenvolvida, de modo que a política e a economia também mudavam a um ritmo lento. Hoje, o nosso conhecimento aumenta em uma velocidade vertiginosa e, teoricamente, deveríamos entender o mundo cada vez melhor. Mas o que acontece é exatamente o contrário. Os nossos conhecimentos recém-adquiridos levam a mudanças econômicas, sociais e políticas mais rápidas. Na tentativa de entender o que está acontecendo, aceleramos a acumulação de conhecimento, o que leva apenas a movimentações mais rápidas e maiores. Consequentemente, estamos cada vez menos aptos a dar sentido ao presente ou a prever o futuro. Ninguém sabe realmente o que está acontecendo hoje no mundo, ou onde estaremos no futuro.
Não fazemos ideia de como a Europa ou o resto do mundo vai ser em 2050. Não sabemos o que as pessoas farão como trabalho, não sabemos como serão as relações de gênero, as pessoas poderão viver muito mais do que hoje e o próprio corpo humano pode sofrer uma revolução sem precedentes graças à bioengenharia e a interfaces diretas entre cérebro e computador.
(Entrevista ao português Jornal de Notícias publicada em 27 de maio de 2017)
Alguns especialistas acreditam que a IA não chegou para substituir o trabalho humano, mas para fazer atividades complementares que irão edificar as profissões atuais. O que você acredita que opõe essa versão?
Não temos nenhuma garantia de que os trabalhos que vão surgir serão suficientes para compensar os que vão desaparecer. Também não está claro se os humanos serão capazes de realizar esses novos trabalhos melhor que a inteligência artificial. E, ainda, um terceiro problema é quantas pessoas terão a habilidade necessária para se reciclar. (Entrevista ao El País em 3 de novembro de 2016)
E ainda tem a questão de que a IA está se tornando cada vez mais uma rede de algoritmos e dados, qual o impacto disso no mercado de trabalho?
Mas o fato é que a IA será muito mais cooperativa, pelo menos potencialmente, do que os humanos. Para dar um exemplo famoso, agora todo mundo está falando sobre carros autônomos. A grande vantagem de um carro que dirige sozinho em relação a um motorista humano não é apenas que, como um veículo individual, o carro que dirige sozinho provavelmente é mais seguro, mais barato e mais eficiente do que um carro movido por humanos. A vantagem realmente grande é que os carros autônomos podem ser conectados uns aos outros para formar uma única rede de uma maneira que você não pode fazer com motoristas humanos.
É o mesmo com muitos outros campos. Se você pensar em medicina, hoje você tem milhões de médicos humanos e muitas vezes você tem problemas de comunicação entre médicos diferentes, mas se você mudar para médicos de IA, você realmente não terá milhões de médicos diferentes. Você tem uma única rede médica que monitora a saúde de todas as pessoas no mundo.
Se agora mesmo, enquanto falamos, um médico de IA em Timbuktu descobrir uma nova doença ou um novo tratamento, essas informações estarão imediatamente disponíveis para meu médico de IA pessoal em seu smartphone. Algumas das maiores vantagens da IA estão no campo da cooperação, não na inteligência. (Entrevista ao Podcast The Ezra Klein Show, publicada em 27 de março de 2017)
Mas por que as pessoas acreditam que a IA vai ficar apenas em uma funcionalidade?
Não é porque eu superestimei a IA. É porque a maioria das pessoas tende a superestimar os seres humanos. Para substituir a maioria dos humanos, a IA não terá que fazer coisas muito espetaculares. A maioria das coisas que o sistema político e econômico precisa dos seres humanos é, na verdade, muito simples.
Anteriormente, conversamos sobre como dirigir um táxi ou diagnosticar uma doença. Isso é algo que a IA em breve será capaz de fazer melhor do que os humanos, mesmo sem consciência, mesmo sem ter emoções ou sentimentos ou superinteligência. A maioria dos humanos hoje faz coisas muito específicas que uma IA em breve será capaz de fazer melhor do que nós.
Se você voltar no tempo, para os dias de caçadores-coletores, a história é diferente. Seria extremamente difícil construir um robô caçador-coletor que pudesse competir com um ser humano. Mas criar um carro autônomo que seja melhor do que um motorista de táxi humano? Isso é fácil. Para criar um médico de IA que diagnostique o câncer melhor do que um médico humano? Isso é fácil.
O que estamos falando no século 21 é a possibilidade de que a maioria dos humanos perderá seu valor econômico e político. Eles se tornarão uma espécie de classe massiva e inútil – inútil não do ponto de vista de sua mãe ou de seus filhos, inútil do ponto de vista do sistema econômico, militar e político. Quando isso acontece, o sistema também perde o incentivo para investir em seres humanos.
E o que aconteceria com essa parcela da sociedade ociosa?
O problema crucial não é criar novos empregos. O problema crucial é a criação de novos empregos que os humanos executem melhor do que os algoritmos. Consequentemente, em 2050, uma nova classe de pessoas pode surgir – a classe inútil. Pessoas que não estão apenas desempregadas, mas também são impossíveis de empregar.
A mesma tecnologia que torna os humanos inúteis também pode tornar viável alimentar e sustentar as massas desempregadas por meio de algum esquema de renda básica universal. O verdadeiro problema será então manter as massas ocupadas e contentes. As pessoas devem se envolver em atividades com propósito, ou enlouquecem. Então, o que a classe inutilizada fará o dia todo?
Em qualquer caso, o fim do trabalho não significará necessariamente o fim do significado, porque o significado é gerado mais pela imaginação do que pelo trabalho. O trabalho é essencial para o significado apenas de acordo com algumas ideologias e estilos de vida. Escudeiros ingleses do século XVIII, judeus ultraortodoxos de hoje e crianças em todas as culturas e épocas encontraram muito interesse e significado na vida, mesmo sem trabalhar. As pessoas em 2050 provavelmente serão capazes de jogar jogos mais profundos e construir mundos virtuais mais complexos do que em qualquer época anterior da história.
(…) Mas e a verdade? E a realidade? Queremos realmente viver em um mundo no qual bilhões de pessoas estão imersas em fantasias, perseguindo objetivos fictícios e obedecendo a leis imaginárias? Bem, goste ou não, esse é o mundo em que vivemos há milhares de anos.
(Artigo publicado no The Guardian em 8 de maio de 2017)
De maneira individual, uma forma de lutar contra participar dessa “classe economicamente inutilizada” é se reinventar, mas qual o limite disso?
O problema com este cenário é que ele assume que a IA atingirá sua capacidade máxima em 2025, o que está extremamente longe da verdade. Não estamos nem nos aproximando da capacidade total da IA. Vai apenas acelerar. Então, sim, teremos essas mudanças enormes em 2025 – mas teremos mudanças ainda maiores em 2035, e mudanças ainda maiores em 2045, e pessoas que terão que se reajustar repetidamente a essas coisas.
Como indivíduos, o que podemos fazer é bastante limitado. Se você for muito rico e bem-sucedido, é claro que terá todos os recursos do mundo para se proteger contra esse tipo de convulsão. Mas se você for uma pessoa comum, precisará de muita ajuda. Acho que o mais importante é investir na inteligência emocional e no equilíbrio mental, porque os desafios mais difíceis serão psicológicos. Mesmo que haja um novo emprego, e mesmo que você obtenha apoio do governo para se “encaixar”, você precisa de muita flexibilidade mental para gerenciar essas transições. Adolescentes ou jovens de 20 e poucos anos, eles são muito bons com mudanças. Mas depois de certa idade – quando você chega aos 40, 50 – a mudança é estressante. E uma arma que você terá [é] a flexibilidade psicológica para passar por essa transição aos 30, 40, 50 e 60 anos de idade. O investimento mais importante que as pessoas podem fazer não é aprender uma habilidade específica— ”Vou aprender a programar” ou“ Vou aprender chinês” ou algo parecido. Não, o investimento mais importante é realmente construir essa mentalidade ou personalidade mais flexível.
(Entrevista à GQ publicada em 30 de setembro de 2018)
E de maneira coletiva, o que precisa ser feito para evitar um cenário muito ruim com a IA?
Precisamos encontrar um mecanismo para cooperação global em torno de questões do tipo como evitar uma corrida armamentista de IA, como evitar que diferentes países corram para construir sistemas de armas autônomos e robôs assassinos como arma. A menos que tenhamos cooperação, não podemos impedir isso, porque todos os países dirão: “Bem, não queremos produzir robôs assassinos – é uma má ideia – mas não podemos permitir que nossos rivais façam isso antes de nós, então devemos fazer isso primeiro, “e então você tem uma corrida para o fundo.
Da mesma forma, se você pensar sobre as possíveis interrupções no mercado de trabalho e na economia causada por IA e automação. Portanto, é bastante óbvio que haverá empregos no futuro, mas eles estarão uniformemente distribuídos entre as diferentes partes do mundo? Um dos resultados potenciais da revolução da IA poderia ser a concentração de imensa riqueza em alguma parte do mundo e a completa falência de outras partes. Haverá muitos novos empregos para engenheiros de software na Califórnia, mas talvez não haja empregos para trabalhadores têxteis e motoristas de caminhão em Honduras e no México.
Então, o que eles farão? Se não encontrarmos uma solução em nível global, como criar uma rede de segurança global para proteger os humanos contra os choques de IA, e permitindo-lhes usar as oportunidades da IA, então criaremos a mais desigual situação econômica que já existiu. Vai ser muito pior ainda do que aconteceu na Revolução Industrial quando alguns países se industrializaram – a maioria dos países não – e as poucas potências industriais passaram a conquistar, dominar e explorar todos os outros. Então, como criamos cooperação o suficiente para que os enormes benefícios da IA e da automação não cheguem apenas, digamos, à Califórnia e ao leste da China, enquanto o resto do mundo está sendo deixado para trás.
(Live com Mark Zuckerberg publicada no Facebook em 26 de abril de 2019)
Você acha que as pessoas entendem as implicações das revoluções bio e infotech que estão em andamento?
Cinco anos atrás, a inteligência artificial parecia ficção científica. Ainda que no mundo acadêmico e nos negócios privados se conhecessem as potencialidades, pelo menos, no campo político e no discurso público quase não se ouvia falar disso. Então, alguns governos perceberam o que está acontecendo. Minha impressão é que os chineses perceberam primeiro o que estava acontecendo. Acho que isso se origina do trauma nacional da revolução industrial, quando eles perderam o trem e foram deixados para trás e sofreram terrivelmente. Eles farão de tudo para estar na frente da revolução da IA. Desde 2017, os europeus e americanos também perceberam. E agora estamos caminhando para uma corrida armamentista em grande escala da inteligência artificial, o que é uma notícia muito, muito ruim.
(Entrevista ao The Guardian publicada em 5 de agosto de 2018) — [1]
Seja nas redes sociais, nos bancos, nos aplicativos de mensagem ou até no próprio software de ler e-mails, os algoritmos estão em todos os lugares e, consequentemente, na sua vida. Mas, o que acontece quando a sua vida passa a ser controlada por eles? Afinal, a sua vida pode ser controlada por eles? O historiador e guru Yuval Noah Harari acha que sim.
Graças ao big data, à inteligência artificial e ao aprendizado por máquinas, pela primeira vez na história começa a ser possível conhecer uma pessoa melhor do que ela mesma, hackear seres humanos, decidir por eles. Além disso, começamos a ter o conhecimento biológico necessário para entender o que está acontecendo em seu interior, em seu cérebro. Temos uma compreensão cada vez maior da biologia. O grande assunto são os dados biométricos. Não se trata apenas dos dados que você deixa quando clica na web, que dizem aonde você vai, mas dos dados que dizem o que acontece no interior de seu corpo. Como as pessoas que usam aplicativos que reúnem informações constantes sobre a pressão arterial e as pulsações. Agora um governo pode acompanhar esses dados e, com capacidade de processamento suficiente, é possível chegar ao ponto de me entender melhor do que eu mesmo. Com essa informação, pode facilmente começar a me manipular e controlar da forma mais efetiva que jamais vi.
(Entrevista ao El Pais em 20 de agosto de 2018)
Que perguntas são importantes para você?
O maior problema político, legal e filosófico de nossa época é como regular a propriedade dos dados. No passado, delimitar a propriedade da terra foi fácil: colocava-se uma cerca e escrevia-se no papel o nome do dono. Quando surgiu a indústria moderna, foi preciso regular a propriedade das máquinas. E conseguiu-se. Mas os dados? Estão em toda parte e em nenhuma. Posso ter uma cópia do meu prontuário médico, mas isso não significa que seja o proprietário desses dados, porque pode haver milhões de cópias deles. Precisamos de um sistema diferente. Qual? Não sei. Outra pergunta-chave é como conseguir maior cooperação internacional.
(Entrevista à revista iHU, do Instituto Humano Unisinos, publicada em 27 de agosto de 2018)
Já estamos nos tornando minúsculos chips dentro de um sistema gigante que ninguém realmente entende. Todos os dias absorvo incontáveis bits de dados por meio de e-mails, telefonemas e artigos; processo os dados; e transmito de volta novos bits por meio de mais e-mails, telefonemas e artigos. Eu realmente não sei onde me encaixo no grande esquema das coisas, e como meus bits de dados se conectam com os bits produzidos por bilhões de outros humanos e computadores. Não tenho tempo para descobrir, porque estou muito ocupado respondendo e-mails. Esse fluxo de dados implacável gera novas invenções e interrupções que ninguém planeja, controla ou compreende.
Mas ninguém precisa entender. Tudo que você precisa fazer é responder seus e-mails mais rapidamente. Assim como os capitalistas de livre mercado acreditam na mão invisível do mercado, os dataístas acreditam na mão invisível do fluxo de dados. À medida que o sistema global de processamento de dados se torna onisciente e onipotente, a conexão com o sistema se torna a fonte de todo significado. O novo lema diz: “Se você experimentar algo – grave. Se você gravar algo – faça upload. Se você enviar algo – compartilhe”.
Mas aí temos um ponto a se pensar: se os dados são tão importantes como uma força religiosa, qual o poder daquelas empresas ou governos que os detêm?
Aqueles que controlam os dados controlam o futuro não apenas da humanidade, mas o futuro da própria vida. Porque hoje, os dados são o ativo mais importante do mundo.
No passado, o controle e a propriedade da terra e, subsequentemente, da maquinaria industrial dividiam os humanos em diferentes classes, aristocratas e plebeus, capitalistas e proletários.
Agora os dados estão substituindo o maquinário como o ativo mais importante. E se muitos dados ficarem concentrados em poucas mãos, a humanidade não se dividirá em classes – ela se dividirá em espécies.
O que isso tudo pode querer dizer para os países?
No século 21, para fazer de um país uma colônia, você não precisa enviar tanques. Você só precisa retirar os dados. Estamos vendo agora uma nova forma de imperialismo – você pode chamá-la de “colonialismo de dados”. É tudo uma questão de dados. Imagine uma situação na Grécia em 20 anos, quando alguém em Moscou, ou em Pequim ou em Washington tem todos os dados pessoais de cada político, cada jornalista, cada juiz, cada oficial militar. Eles conhecerão todo o seu prontuário médico, seus problemas, suas doenças anteriores. Eles terão conhecimento de toda a sua vida sexual e de qualquer pessoa que você conheceu nos últimos 30 anos. Eles saberão cada suborno que você aceitou, cada piada que você contou sobre um grupo ou minoria. A Grécia algum dia será um país independente em tal cenário ou será uma colônia de dados?
(Entrevista ao jornal grego Ekathimerini em 4 de outubro de 2020)
É a coisa mais importante que está acontecendo agora e a deixamos nas mãos de umas poucas empresas. Permitir que o Facebook e a Amazon moldem o futuro da humanidade tem perigos inerentes. Não porque representem o mal, mas porque têm sua própria visão limitada do mundo, seus próprios interesses e não representam ninguém, ninguém votou neles. A maioria dos partidos e governos não têm uma visão séria do futuro da humanidade.
(Entrevista ao El País em 3 de novembro de 2016)
Cada vez mais dados que essas empresas têm, mais ela se tornam gigantes…
Mas há outra dificuldade maior em quebrar o monopólio das companhias gigantes de dados e de tecnologia da informação. Se tomarmos, por exemplo, a indústria automotiva, e você tiver uma empresa só controlando todo o mercado automotivo, tecnicamente, não é tão difícil dividir esse monopólio gigantesco em cinco empresas, cada uma controlando 20% do mercado automotivo. É difícil politicamente mas tecnicamente é fácil.
Se você tiver um sistema de rede social com um bilhão de pessoas e outro sistema de rede social com apenas dez milhões de pessoas, todos vão querer estar no de 1 bilhão. Se você pegar o Facebook e dividi-lo ao meio, isso criará uma situação bastante instável, porque se você tiver cinco redes sociais, cada uma com 20% do mercado, e uma delas abrir uma pequena vantagem todos irão migrar para ela, porque eu quero estar com todos os meus amigos no mesmo lugar. Não quero ter só 20% dos meus amigos em uma rede social e o resto dos amigos em outras redes sociais. Portanto, é inerente à tecnologia essa tendência ao monopólio e acontece a mesma coisa com a prospecção de dados. Quanto mais dados estiverem concentrados em um só lugar, melhores serão suas estatísticas e melhores serão suas previsões.
(Entrevista ao Roda Viva em 13 de novembro de 2019)
Mas aí a gente olha para os governos, e a preocupação aumenta mais. Você mesmo fala que os sistemas de dados e de conhecimento sobre os outros podem ajudar os governos autoritários a crescerem. Como?
Isso significa que um sistema externo pode conhecê-lo melhor do que você mesmo. Pode prever suas escolhas e decisões. Pode manipular suas emoções e vender qualquer coisa, seja um produto ou um político.
(…)
Quando você começa a dar aos algoritmos autoridade para decidir o que estudar, onde morar, com quem se casar, em quem votar. O algoritmo faz recomendações e cabe a você decidir se deseja seguir a recomendação ou não. Em muitos casos, as pessoas seguirão as recomendações porque perceberam por experiência que os algoritmos fazem escolhas melhores. As recomendações podem nunca ser perfeitas, mas não precisam ser. Eles apenas precisam ser melhores, em média, do que os seres humanos. Isso não é impossível porque os seres humanos muitas vezes cometem erros terríveis, mesmo nas decisões mais importantes de suas vidas. Este não é um cenário futuro. Já damos aos algoritmos autoridade para decidir quais filmes assistir e quais livros comprar. Porém, quanto mais você confia no algoritmo, mais você perde a capacidade de tomar decisões por conta própria. Depois de alguns anos seguindo as recomendações do Google Maps, você não tem mais o instinto de para onde ir. Você não conhece mais sua cidade. Portanto, embora teoricamente você ainda tenha autoridade, na prática essa autoridade está mudando para o algoritmo.
(Entrevista ao Nautilus em 27 de dezembro de 2018)
E por que devemos nos preocupar com esse cenário?
Os partidos fascistas nos anos trinta e a KGB soviética controlavam as pessoas. Mas não conseguiam seguir todos os indivíduos pessoalmente nem manipulá-los individualmente porque não tinham a tecnologia. Nós começamos a tê-la. Graças ao big data, à inteligência artificial e ao aprendizado por máquinas, pela primeira vez na história começa a ser possível conhecer uma pessoa melhor do que ela mesma, hackear seres humanos, decidir por eles. Além disso, começamos a ter o conhecimento biológico necessário para entender o que está acontecendo em seu interior, em seu cérebro. Temos uma compreensão cada vez maior da biologia. O grande assunto são os dados biométricos. Não se trata apenas dos dados que você deixa quando clica na web, que dizem aonde você vai, mas dos dados que dizem o que acontece no interior de seu corpo. Como as pessoas que usam aplicativos que reúnem informações constantes sobre a pressão arterial e as pulsações. Agora um governo pode acompanhar esses dados e, com capacidade de processamento suficiente, é possível chegar ao ponto de me entender melhor do que eu mesmo. Com essa informação, pode facilmente começar a me manipular e controlar da forma mais efetiva que jamais vi.
(Entrevista ao El Pais em 20 de agosto de 2018)
Quando você fala que a gente pode ser hackeado, o que significa, exatamente?!
Estamos entrando em uma era de hackear humanos. E eu diria que o fato mais importante que qualquer pessoa viva hoje precisa saber sobre o século 21 é que estamos nos tornando animais que podem ser hackeados.
Muitas pessoas já usam os rastreadores fitness Fitbit que medem constantemente sua frequência cardíaca e pressão arterial. Você cruza isso com o que compra e o que pesquisa online, ou com o que lê ou assiste na televisão. Você assiste a um filme e, ao mesmo tempo, a Netflix sabe o que está acontecendo com sua frequência cardíaca ou com seu cérebro.
Quando você combina nosso crescente entendimento da biologia, especialmente da ciência do cérebro, com o enorme poder de computação que o aprendizado de máquina e a IA estão nos dando, o que você obtém dessa combinação é a capacidade de hackear humanos, o que significa prever suas escolhas, para entender seus sentimentos, para manipulá-los e também para substituí-los. Se você pode hackear algo, também pode substituí-lo.
(Entrevista à rede de TV Al Jazeera publicada em 24 de agosto de 2018)
Mas você acha mesmo possível que o que a gente sente seja manipulado, como fica o livre arbítrio?
Os humanos têm um arbítrio – mas ele não é livre. Você não tem a prerrogativa de decidir que desejos terá. Não decide se vai ser introvertido ou extrovertido, descontraído ou ansioso, gay ou hétero. Os humanos fazem escolhas – mas elas nunca são escolhas independentes. Cada escolha depende de um monte de condições biológicas, sociais e pessoais que você não é capaz de determinar por si mesmo. Sou capaz de decidir o que comer, com quem me casar e em quem votar, mas essas escolhas são determinadas em parte por meus genes, minha bioquímica, meu gênero, meu contexto familiar, minha cultura nacional etc – e eu não escolhi quais genes ou qual família ter.
(…) Se você observar cuidadosamente a sua mente, vai se dar conta de que tem pouco controle sobre o que está acontecendo lá e de que não está escolhendo livremente o que pensar, o que sentir e o que querer.
(Artigo “O Mito da Liberdade” publicado traduzido na Veja em 28 de dezembro de 2018)
O que eu quero dizer é que se você quer seguir o seu coração, você deve ter cuidado. Porque se algo assiste e monitora seu coração 24 horas por dia e conhece mais o seu coração do que você, você pode ser um agente duplo.
(Artigo de sua autoria publicado no Wall Street Journal em 1 de maio de 2020)
Quando esse tipo de manipulação tecnológica deve começar a acontecer?
Na verdade, já vimos um vislumbre disso na última epidemia de notícias falsas.
Sempre houve notícias falsas, mas o que é diferente desta vez é que você pode personalizar a história para indivíduos específicos, porque você conhece o preconceito desse indivíduo em particular. Quanto mais as pessoas acreditam no livre arbítrio, que seus sentimentos representam alguma capacidade espiritual mística, mais fácil é manipulá-las, porque não pensarão que seus sentimentos estão sendo produzidos e manipulados por algum sistema externo.
(Entrevista ao The Guardian em 5 de agosto de 2018)
Talvez o mais difícil da gente encarar é que a natureza dos dados e da análise de grande quantidade de dados exige a centralização – e que pode ir contra o que entendemos como democracia…
A IA possibilita o processamento de enormes quantidades de informações de maneira centralizada. Na verdade, ele pode tornar os sistemas centralizados muito mais eficientes do que os sistemas difusos, porque o aprendizado de máquina funciona melhor quando a máquina tem mais informações para analisar. Se você desconsiderar todas as preocupações com a privacidade e concentrar todas as informações relacionadas a um bilhão de pessoas em um banco de dados, acabará com algoritmos muito melhores do que se respeitar a privacidade individual e tiver em seu banco de dados apenas informações parciais sobre um milhão de pessoas. Um governo autoritário que ordena que todos os seus cidadãos tenham seu DNA sequenciado e compartilhem seus dados médicos com alguma autoridade central ganharia uma vantagem imensa em genética e pesquisa médica sobre sociedades nas quais os dados médicos são estritamente privados. A principal desvantagem dos regimes autoritários no século 20 – o desejo de concentrar todas as informações e poder em um só lugar – pode se tornar sua vantagem decisiva no século 21.
As novas tecnologias continuarão a surgir, é claro, e algumas delas podem encorajar a distribuição em vez da concentração de informação e poder. A tecnologia Blockchain, e o uso de criptomoedas habilitadas por ela, é atualmente apresentado como um possível contrapeso à energia centralizada. Mas a tecnologia de blockchain ainda está em estágio embrionário, e ainda não sabemos se ela irá de fato contrabalançar as tendências centralizadoras da IA. Lembre-se de que a Internet também foi alardeada em seus primeiros dias como uma panaceia libertária que libertaria as pessoas de todos os sistemas centralizados – mas agora está posicionada para tornar a autoridade centralizada mais poderosa do que nunca.
(Artigo de sua autoria publicado na The Atlantic na edição de outubro de 2018)
Por ultimo, algumas pessoas acham as suas visões de futuro pessimistas, o que você fala para essas pessoas?
O que eu faço não é uma profecia. É só uma possibilidade. Ainda podemos evitar que o pior ocorra. Para que isso seja possível, precisamos nos conscientizar de que o progresso real nunca ocorre por si próprio. A mera invenção de tecnologias não é suficiente para melhorar a vida. Toda inovação tecnológica pode ser usada para diferentes propósitos — alguns bons, outros ruins. Precisamos garantir que seja empregada em benefício de toda a humanidade, e não só de poucos.
(Entrevista à revista Veja publicada em 18 de setembro de 2019) — [2]
Fontes:
[1] https://morse-news.com/post/yuval-noah-harari-futuro-entrevista/
[2] https://morse-news.com/post/dataismo-futuro-big-data-yuval-noah-harari/
Pedimos que se algum pastor, influencer ou pregador adventistas se dispuser a contestar o falso profeta das elites globais, informe-nos o link para que possamos também divulgar aqui no site.