The Black Box Society

Todos os dias, as corporações estão conectando os pontos sobre nosso comportamento pessoal - examinando silenciosamente as pistas deixadas pelos nossos hábitos de trabalho e pelo uso da Internet. Os dados compilados e os retratos criados são incrivelmente detalhados, a ponto de serem invasivos. Mas quem liga os pontos sobre o que as empresas estão fazendo com essa informação? A Black Box Society argumenta que todos nós precisamos ser capazes de fazê-lo - e estabelecer limites em como o big data afeta nossas vidas.

Algoritmos ocultos podem (ou arruinar) reputações, decidir o destino dos empreendedores ou até mesmo devastar toda uma economia. Envolta em sigilo e complexidade, as decisões nas principais empresas do Vale do Silício e de Wall Street eram consideradas neutras e técnicas. Mas vazamentos, denunciantes e disputas legais lançaram nova luz sobre o julgamento automatizado. Comportamento egoísta e imprudente é surpreendentemente comum e fácil de esconder em código protegido por sigilo legal e real. Mesmo depois de bilhões de dólares de multas terem sido cobrados, os reguladores subfinanciados podem ter apenas arranhado a superfície desse comportamento preocupante. Frank Pasquale expõe como interesses poderosos abusam do sigilo para obter lucro e explica maneiras de controlá-los. A transparência exigente é apenas o primeiro passo. Uma sociedade inteligível asseguraria que as principais decisões de suas empresas mais importantes são justas, não discriminatórias e abertas a críticas. O Vale do Silício e Wall Street precisam aceitar a mesma responsabilidade que impõem aos outros.