The Trouble with Algorithmic Decisions

Atualmente estamos testemunhando um aumento acentuado no uso de ferramentas de tomada de decisão algorítmica. Nestes casos, uma nova onda de preocupações políticas é apresentada. Este artigo se esforça para mapear essas questões, separando o trigo do joio. O objetivo é fornecer aos formuladores de políticas e acadêmicos uma estrutura abrangente para abordar esses problemas espinhosos em suas várias capacidades. Para alcançar este objetivo, este artigo concentra sua atenção em uma estrutura analítica geral, que será aplicada a um subconjunto específico da discussão geral. O quadro analítico reduzirá a discussão para duas dimensões, cada uma das quais abordando dois elementos centrais. Esses quatro fatores exigem uma discussão distinta, às vezes ausente na literatura existente. As duas dimensões são (1) os problemas específicos e novos que o processo supostamente gera e (2) os atributos específicos que os exacerbam. Embora os problemas sejam articulados de várias maneiras, eles provavelmente poderiam ser reduzidos a duas grandes categorias: preocupações baseadas na eficiência e na justiça. No contexto dessa discussão, esses problemas geralmente estão ligados a dois atributos salientes que os processos algorítmicos apresentam - sua natureza opaca e automatizada.