Algorithmic opacity: making algorithmic processes transparent through abstraction hierarchy

Neste artigo, apresentamos o problema da opacidade algorítmica e os desafios que ela representa para a tomada de decisão ética na análise de inteligência criminal. Algoritmos de aprendizado de máquina têm desempenhado papéis importantes no processo de tomada de decisão nas últimas décadas. Os analistas de inteligência estão cada vez mais sendo apresentados à automação inteligente de caixa preta que usa algoritmos de aprendizado de máquina para encontrar padrões ou ocorrências interessantes e incomuns em grandes conjuntos de dados. A opacidade algorítmica é a falta de visibilidade dos processos computacionais, de tal forma que os seres humanos não são capazes de inspecionar seu funcionamento interno para verificar por si mesmos como os resultados e conclusões foram computados. Esse é um problema que leva a vários problemas éticos. No projeto VALCRI, desenvolvemos uma hierarquia de abstração e um espaço de decomposição de abstração para identificar importantes relações funcionais e invariantes do sistema em relação aos objetivos éticos. Essas relações explicativas podem ser valiosas para tornar o processo algorítmico transparente durante o processo de análise de inteligência criminal.

Keywords Algorithmic transparency, Abstraction Hierarchy, opacity, transparency, ethical decision-making, Machine learning