The challenges and limits of big data algorithms

Big data está conduzindo o uso do algoritmo para governar tarefas mundanas, mas de missão crítica. Os algoritmos raramente operam sozinhos e suas (des) utilidades dependem dos aspectos cotidianos da captura, processamento e utilização de dados. No entanto, à medida que os algoritmos se tornam cada vez mais autônomos e invisíveis, eles se tornam mais difíceis para o público detectar e examinar seu status de imparcialidade. Algoritmos podem introduzir sistematicamente preconceitos inadvertidos, reforçar a discriminação histórica, favorecer uma orientação política ou reforçar práticas indesejáveis. No entanto, é difícil responsabilizar os algoritmos à medida que eles evoluem continuamente com tecnologias, sistemas, dados e pessoas, o fluxo e refluxo de prioridades políticas e os conflitos entre lógicas institucionais novas e antigas. Maior abertura e transparência não necessariamente melhoram a compreensão. Neste editorial, argumentamos que, ao desvendar a imperceptibilidade, a materialidade e a governamentalidade de como os algoritmos funcionam, podemos enfrentar melhor os desafios inerentes à prática curatorial de dados e algoritmos. Abordagens frutíferas para mais pesquisas sobre o uso de algoritmos para aproveitar os méritos e utilidades de uma forma computacional de governança tecnocrática são apresentadas.