The threat of algocracy: Reality, resistance and accommodation

Uma das tendências mais notáveis ​​nos últimos anos é a crescente dependência dos processos de tomada de decisões públicas (burocráticos, legislativos e legais) em algoritmos, isto é, instruções passo a passo programadas por computador para obter um dado conjunto de entradas e produzir uma saída. A questão levantada por este artigo é se o surgimento de tal governança algorítmica cria problemas para a legitimidade moral ou política de nossos processos de tomada de decisão pública. Ignorando as preocupações comuns com a proteção de dados e privacidade, argumenta-se que a tomada de decisão baseada em algoritmos representa uma ameaça significativa à legitimidade de tais processos. Modelando meu argumento sobre a ameaça de epistocracia de Estlund, chamo isso de "ameaça da algocracia". O artigo esclarece a natureza dessa ameaça e aborda duas soluções possíveis (nomeadas, respectivamente, “resistência” e “acomodação”). Argumenta-se que nenhuma solução é provável que seja bem-sucedida, pelo menos não sem arriscar muitas outras coisas que valorizamos na tomada de decisões sociais. O resultado é uma conclusão um pouco pessimista em que nos confrontamos com a possibilidade de estarmos criando processos de tomada de decisão que restringem e limitam as oportunidades de participação humana.