Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability
Modelos para entender e responsabilizar os sistemas há muito se apóiam em ideais e lógicas de transparência. Ser capaz de verÀs vezes, um sistema equivale a saber como ele funciona e governá-lo - um padrão que se repete em trabalhos recentes sobre transparência e sistemas computacionais. Mas as “caixas pretas” podem ser abertas e, em caso afirmativo, isso seria suficiente? Neste artigo, interrogamos criticamente o ideal de transparência, traçamos algumas de suas raízes em culturas epistemológicas científicas e sociotécnicas, e apresentamos 10 limitações à sua aplicação. Concentramo-nos especificamente na inadequação da transparência para compreender e governar sistemas algorítmicos e esboçar uma tipologia alternativa de responsabilidade algorítmica baseada em compromissos construtivos com as limitações dos ideais de transparência.
