Algorithmic regulation and the rule of law

Link: https://royalsocietypublishing.org/doi/full/10.1098/rsta.2017.0355

Resumo

Nesta breve contribuição, faço a distinção entre regulação orientada por código e orientada por dados como as novas instanciações da regulação legal. Antes de me aprofundar na regulação orientada por dados, explico a diferença entre lei e regulação e a relevância de tal diferença para o estado de direito. Eu discuto inteligência artificial (ALI) como um meio para permitir a previsão legal quantificada e a mineração de argumentação, ambas baseadas no aprendizado de máquina. Isso levanta a questão de saber se a implementação de tais tecnologias deve contar a lei ou regulamentos, e o que isso significa para o seu desenvolvimento. Por fim, proponho o conceito de "aprendizado de máquina agonística" como um meio de trazer a regulamentação orientada por dados sob o império da lei. Isso implica obrigar desenvolvedores, advogados e aqueles que estão sujeitos às decisões da ALI a reintroduzir interrogatórios adversários no nível de sua arquitetura computacional.

Este artigo é parte de uma discussão que trata da questão 'A crescente onipresença de algoritmos na sociedade: implicações, impactos e inovações'.

1. Regulação por algoritmo?

Os sistemas computacionais cada vez mais "infundem" a legislação, a administração e a adjudicação governamentais. Por exemplo, a legislação pode, em algum momento, ser escrita de uma forma que seja propícia à aplicação algorítmica, pode ser automatizada, notadamente decisões administrativas, e os tribunais podem empregar Inteligência Legal Artificial (ALI) para apoiar o julgamento. Este breve ensaio questiona o que isso significa para o estado de direito, levantando uma série de questões, tais como: Estamos confrontando a fusão de legislação e administração, na medida em que a legislação se torna auto-executável? Poderia ser um julgamento legal em algum momento e combinado com sua previsão? Os sistemas automatizados serão executados em software proprietário ou muito complexos para serem explicados? Se esses sistemas não são testáveis, eles podem ser contestáveis? Os sistemas de decisão algorítmica requerem novos tipos de interpretabilidade, no nexo entre aprendizado de máquina e lei? Isso requer uma nova hermenêutica legal?

Para entender melhor a natureza dessas questões e suas respostas, discuto primeiro dois tipos de regulação algorítmica, a saber, 'orientada por código' e 'orientada a dados'. Isso, por sua vez, provocará uma nova perspectiva sobre o direito atual e moderno como fundamentalmente "orientado pelo texto". A regulação algorítmica substitui a regulação humana, torna-se importante reconsiderar como a natureza do direito moderno, orientada por texto, tem o que é chamado de "força da lei". Tal força, definida em termos de "efeito legal" e atos de fala performativa, deve ser distinguida dos fundamentos comportamentais do paradigma regulador que entende a força do direito como uma questão de influenciar o comportamento. Depois de distinguir a lei da regulação, este ensaio traçará a transformação da lei orientada por texto em regulação orientada por código e dados [1], demonstrando como isso iria corroer a gramática e o alfabeto do direito positivo moderno, ao mesmo tempo em que puxaria o tapete sob o estado de direito.

Na seção final, defendo que os advogados precisam agir em conjunto diante de grandes investimentos em ALI e regulamentação inteligente. Como eu explico, isso exigirá uma nova hermenêutica baseada em uma compreensão adequada do vocabulário e da gramática da aprendizagem de máquina (ML) e das tecnologias de contabilidade distribuída. Como exemplo, defendo o "aprendizado agonístico de máquina", que deve trazer contestação adversária ao coração do projeto do ALI.