Weapons of math destruction: How big data increases inequality and threatens democracy

Nós vivemos na era do algoritmo. Cada vez mais, as decisões que afetam nossas vidas - onde vamos à escola, se obtemos um empréstimo de carro, quanto pagamos pelo seguro de saúde - estão sendo feitas não por humanos, mas por modelos matemáticos. Em teoria, isso deve levar a uma maior justiça: todos são julgados de acordo com as mesmas regras e o preconceito é eliminado. Mas como Cathy O'Neil revela neste livro urgente e necessário, o oposto é verdadeiro. Os modelos usados ​​atualmente são opacos, não regulamentados e incontestáveis, mesmo quando estão errados. Mais preocupantes, reforçam a discriminação: se um estudante pobre não pode obter um empréstimo porque um modelo de empréstimo o considera arriscado demais (em virtude de seu código postal), ele é cortado do tipo de educação que poderia tirá-lo da pobreza. e uma espiral viciosa segue. Modelos estão apoiando os sortudos e punindo os oprimidos, criando um “coquetel tóxico para a democracia”. Bem-vindo ao lado sombrio do Big Data. Traçando o arco da vida de uma pessoa, O'Neil expõe os modelos de caixa preta que moldam nosso futuro, tanto como indivíduos quanto como sociedade. Essas “armas de destruição de matemática” classificam professores e alunos, selecionam currículos, concedem (ou negam) empréstimos, avaliam trabalhadores, visam eleitores, estabelecem liberdade condicional e monitoram nossa saúde.