European Union regulations on algorithmic decision-making and a" right to explanation"

Resumimos o impacto potencial que o novo Regulamento Geral de Proteção de Dados da União Européia terá sobre o uso rotineiro de algoritmos de aprendizado de máquina. Previsto para entrar em vigor como lei em toda a UE em 2018, restringirá a tomada de decisões individuais automatizadas (isto é, algoritmos que tomam decisões com base em preditores de nível de usuário) que “afetam significativamente” os usuários. A lei também criará efetivamente um “direito à explicação”, por meio do qual um usuário pode solicitar uma explicação sobre uma decisão algorítmica que foi feita sobre eles. Argumentamos que, embora essa lei represente grandes desafios para a indústria, ela destaca as oportunidades para os cientistas da computação.

--- ---

Artigo 22. Tomada de decisão individual automatizada, incluindo perfilação

1. O titular dos dados tem o direito de não ser objecto de uma decisão baseada exclusivamente no tratamento automatizado, incluindo a criação de perfis, que produz efeitos legais em relação a ele ou que de forma similar afeta significativamente a pessoa.

2. O no 1 não é aplicável se a decisão: (a) for necessário para celebrar ou executar um contrato entre o titular dos dados e um controlador de dados; (b) Esteja autorizado pela legislação da União ou do Estado-Membro a que o responsável pelo tratamento esteja sujeito e que também estabeleça medidas adequadas; salvaguardar os direitos e liberdades da pessoa em causa e os interesses legítimos; ou (c) baseia-se no consentimento explícito do titular dos dados.

3. Nos casos referidos nas alíneas a) ec) do n.º 2, o responsável pelo tratamento de dados deve aplicar as medidas adequadas para salvaguardar direitos e liberdades da pessoa em causa e interesses legítimos, pelo menos o direito de obter intervenção humana por parte do controlador, expressar seu ponto de vista e contestar a decisão.

4. As decisões referidas no n.º 2 não devem basear-se em categorias especiais de dados pessoais a que se refere o n.º 1 do artigo 9.º, a menos aplicação do artigo 9.º, n.º 2, alíneas a) ou g), e medidas adequadas para salvaguardar os direitos e liberdades interesses estão no lugar.