Yuval Noah Harari on big data, Google and the end of free will

De Governança Algoritmos
Ir para: navegação, pesquisa

... o humanismo está agora enfrentando um desafio existencial e a idéia de “livre arbítrio” está sob ameaça. Os insights científicos sobre o modo como nossos cérebros e corpos funcionam sugerem que nossos sentimentos não são uma qualidade espiritual exclusivamente humana. Pelo contrário, são mecanismos bioquímicos que todos os mamíferos e aves usam para tomar decisões, calculando rapidamente as probabilidades de sobrevivência e reprodução.

Ao contrário da opinião popular, os sentimentos não são o oposto da racionalidade; eles são racionalidade evolucionária feita carne. Quando um babuíno, girafa ou humano vê um leão, o medo surge porque um algoritmo bioquímico calcula os dados relevantes e conclui que a probabilidade de morte é alta. Da mesma forma, sentimentos de atração sexual surgem quando outros algoritmos bioquímicos calculam que um indivíduo próximo oferece uma alta probabilidade de acasalamento bem-sucedido. Esses algoritmos bioquímicos evoluíram e melhoraram através de milhões de anos de evolução. Se os sentimentos de algum ancestral antigo cometeram um erro, os genes que moldam esses sentimentos não passaram para a geração seguinte.

Embora os humanistas estivessem errados ao pensar que nossos sentimentos refletiam algum misterioso “livre-arbítrio”, até agora o humanismo ainda fazia muito sentido prático. Pois embora não houvesse nada de mágico em nossos sentimentos, eles eram, no entanto, o melhor método no universo para tomar decisões - e nenhum sistema externo poderia esperar compreender melhor meus sentimentos do que eu. Mesmo que a Igreja Católica ou a KGB soviética me espiassem a cada minuto de cada dia, eles não tinham o conhecimento biológico e o poder computacional necessários para calcular os processos bioquímicos que moldam meus desejos e escolhas. Por isso, o humanismo estava correto em dizer às pessoas para seguirem seu próprio coração. Se você tivesse que escolher entre ouvir a Bíblia e ouvir seus sentimentos, era muito melhor ouvir seus sentimentos. A Bíblia representava as opiniões e preconceitos de alguns padres na antiga Jerusalém. Seus sentimentos, em contraste, representaram a sabedoria acumulada de milhões de anos de evolução que passaram nos mais rigorosos testes de controle de qualidade da seleção natural.

No entanto, à medida que a Igreja e a KGB abrem caminho para o Google e o Facebook, o humanismo perde suas vantagens práticas. Pois estamos agora na confluência de duas ondas de maré científicas. Por um lado, os biólogos estão decifrando os mistérios do corpo humano e, em particular, do cérebro e dos sentimentos humanos. Ao mesmo tempo, os cientistas da computação estão nos dando um poder de processamento de dados sem precedentes. Quando você coloca os dois juntos, você obtém sistemas externos que podem monitorar e entender meus sentimentos muito melhor do que eu. Uma vez que os sistemas de Big Data me conhecem melhor do que eu mesmo, a autoridade passará dos humanos para os algoritmos. O Big Data poderia, então, capacitar o Big Brother.

Isso já aconteceu no campo da medicina. As decisões médicas mais importantes em sua vida baseiam-se cada vez mais não em seus sentimentos de doença ou bem-estar, nem mesmo nas previsões informadas de seu médico - mas nos cálculos de computadores que o conhecem melhor do que você mesmo. Um exemplo recente desse processo é o caso da atriz Angelina Jolie. Em 2013, Jolie fez um teste genético que provou que ela estava carregando uma mutação perigosa do gene BRCA1. Segundo os bancos de dados estatísticos, as mulheres portadoras dessa mutação têm 87% de probabilidade de desenvolver câncer de mama. Embora na época Jolie não tivesse câncer, ela decidiu antecipar a doença e fazer uma mastectomia dupla. Ela não se sentiu mal, mas sabiamente decidiu ouvir os algoritmos de computador. “Você pode não sentir que algo está errado”, disse o algoritmo, “mas há uma bomba-relógio no seu DNA. Faça algo sobre isso - agora!

O que já está acontecendo na medicina provavelmente ocorrerá em mais e mais campos. Começa com coisas simples, como qual livro comprar e ler. Como os humanistas escolhem um livro? Eles vão a uma livraria, vagueiam entre os corredores, folheando um livro e lendo as primeiras frases de outro, até que algum pressentimento os conecte a um tomo particular. Dataistas usam a Amazon. Quando entro na loja virtual da Amazon, uma mensagem aparece e me diz: “Eu sei quais livros você gostou no passado. Pessoas com gostos semelhantes também tendem a amar este ou aquele novo livro ”.

Isto é apenas o começo. Dispositivos como o Kindle, da Amazon, são capazes de coletar dados constantemente em seus usuários enquanto lêem livros. Seu Kindle pode monitorar quais partes de um livro você lê rapidamente, e quais são devagar; em qual página você fez uma pausa e em qual frase você abandonou o livro, para nunca mais pegá-lo. Se o Kindle fosse atualizado com software de reconhecimento facial e sensores biométricos, saberia como cada sentença influenciou sua freqüência cardíaca e pressão sangüínea. Saberia o que te fez rir, o que te deixou triste, o que te deixou com raiva. Em breve, os livros irão lê-lo enquanto você os lê. E enquanto você rapidamente esquece a maior parte do que lê, os programas de computador nunca precisam esquecer. Tais dados devem eventualmente permitir que a Amazon escolha livros para você com precisão incomum. Ele também permitirá que a Amazon saiba exatamente quem você é e como pressionar seus botões emocionais.

Leve isso para sua conclusão lógica e, eventualmente, as pessoas podem dar aos algoritmos a autoridade para tomar as decisões mais importantes em suas vidas, como com quem se casar. Na Europa medieval, padres e pais tinham a autoridade de escolher seu cônjuge para você. Nas sociedades humanistas, damos essa autoridade aos nossos sentimentos. Em uma sociedade datista, pedirei ao Google que escolha. “Escute, Google”, direi, “John e Paul estão me cortejando. Eu gosto de ambos, mas de uma maneira diferente, e é muito difícil de decidir. Dado tudo o que você sabe, o que você me aconselha a fazer?

E o Google responderá: “Bem, eu conheço você desde o dia em que você nasceu. Li todos os seus e-mails, gravei todos os seus telefonemas e conheço seus filmes favoritos, seu DNA e toda a história biométrica do seu coração. Eu tenho dados exatos sobre cada data que você passou, e eu posso mostrar gráficos de segundo a segundo da sua freqüência cardíaca, pressão arterial e níveis de açúcar sempre que você fosse a um encontro com John ou Paul. E, naturalmente, eu os conheço tanto quanto conheço você. Com base em toda essa informação, nos meus excelentes algoritmos e em décadas de estatísticas sobre milhões de relacionamentos - aconselho-o a ir com John, com uma probabilidade de 87% de estar mais satisfeito com ele no longo prazo.

“De fato, eu te conheço tão bem que até sei que você não gosta dessa resposta. Paul é muito mais bonito do que John e, como você dá muito peso às aparências externas, secretamente queria que eu dissesse "Paul". Parece importante, claro, mas não tanto quanto você pensa. Seus algoritmos bioquímicos - que evoluíram dezenas de milhares de anos atrás na savana africana - conferem à beleza externa um peso de 35% em sua classificação geral de potenciais parceiros. Meus algoritmos - que são baseados nos estudos e estatísticas mais atualizados - dizem que os visuais têm apenas 14% de impacto sobre o sucesso a longo prazo dos relacionamentos amorosos. Então, apesar de ter levado em conta a beleza de Paul, ainda lhe digo que você ficaria melhor com John.

O Google não precisa ser perfeito. Não precisa estar correto o tempo todo. Terá que ser melhor, em média, do que eu. E isso não é tão difícil, porque a maioria das pessoas não se conhece muito bem e a maioria das pessoas comete erros terríveis nas decisões mais importantes de suas vidas.

A visão de mundo dos dados é muito atraente para políticos, empresários e consumidores comuns porque oferece tecnologias inovadoras e imensos novos poderes. Por todo o medo de perder a nossa privacidade e a nossa livre escolha, quando os consumidores têm de escolher entre manter a sua privacidade e ter acesso a cuidados de saúde muito superiores - a maioria escolhe a saúde.

Para estudiosos e intelectuais, o Dataism promete fornecer o Santo Graal científico que nos iludiu por séculos: uma única teoria abrangente que unifica todas as disciplinas científicas, desde a musicologia, passando pela economia, até a biologia. De acordo com Dataism, a Fifth Symphony de Beethoven, uma bolha de bolsa de valores e o vírus da gripe são apenas três padrões de fluxo de dados que podem ser analisados ​​usando os mesmos conceitos e ferramentas básicos. Essa ideia é extremamente atraente. Isso dá a todos os cientistas uma linguagem comum, constrói pontes sobre as divergências acadêmicas e facilmente exporta insights através das fronteiras disciplinares.

É claro que, como os dogmas abrangentes anteriores, o Dataismo também pode ser fundado em um mal entendido da vida. Em particular, o Dataism não tem resposta para o notório “problema difícil da consciência”. No momento, estamos muito longe de explicar a consciência em termos de processamento de dados. Por que é que quando bilhões de neurônios no cérebro disparam sinais específicos um para o outro, um sentimento subjetivo de amor ou medo ou raiva aparece? Nós não temos a menor ideia.

Mas mesmo que o Datísmo esteja errado sobre a vida, ele ainda pode conquistar o mundo. Muitos credos anteriores ganharam enorme popularidade e poder apesar de seus erros factuais. Se o cristianismo e o comunismo pudessem fazê-lo, por que não o datísmo? O Dataism tem perspectivas especialmente boas, porque atualmente está se espalhando por todas as disciplinas científicas. Um paradigma científico unificado pode facilmente se tornar um dogma inatacável.

Se você não gosta disso e quer ficar além do alcance dos algoritmos, provavelmente há apenas um conselho para dar a você, o mais antigo do livro: conheça-se. No final, é uma questão empírica simples. Contanto que você tenha uma maior percepção e autoconhecimento do que os algoritmos, suas escolhas ainda serão superiores e você manterá pelo menos alguma autoridade em suas mãos. Se os algoritmos, no entanto, parecem prontos para assumir o controle, é principalmente porque a maioria dos seres humanos dificilmente se conhece.

Yuval Noah Harari é o autor do "Homo Deus: Uma Breve História do Amanhã", publicado pela Harvill Secker em 8 de setembro. Ele estará falando em Londres, Cambridge, Manchester e Bristol. Para mais informações, vá para po.st/HomoDeusEvents