Algorithmic Regulation: A Critical Interrogation
Inovações em tecnologias de comunicação digital em rede, incluindo o surgimento de 'Big Data', sistemas onipresentes de computação e armazenamento em nuvem, podem estar dando origem a um novo sistema de ordenamento social conhecido como regulação algorítmica. Regulação algorítmica refere-se a sistemas de tomada de decisão que regulam um domínio de atividade para gerenciar riscos ou alterar comportamentos através da geração computacional contínua de conhecimento, através da coleta sistemática de dados (em tempo real, de forma contínua) emitidos diretamente de numerosos componentes dinâmicos pertencentes ao sistema. ambiente regulamentado, a fim de identificar e, se necessário, refinar automaticamente (ou estimular o refinamento) as operações do sistema para atingir uma meta pré-especificada.
Ele fornece uma análise descritiva da regulação algorítmica, classificando esses sistemas de tomada de decisão como reativos ou preventivos e oferece uma taxonomia que identifica 8 formas diferentes de regulação algorítmica com base em sua configuração em cada um dos três estágios do processo cibernético: notadamente, no nível do estabelecimento de padrões (padrões comportamentais adaptativos vs. fixos); coleta e monitoramento de informações (dados históricos versus previsões baseadas em dados inferidos) e no nível de sanções e mudanças comportamentais (execução automática versus sistemas de recomendação). Ele mapeia os contornos de vários debates emergentes que cercam a regulação algorítmica, com base em insights de estudos de governança reguladora, críticas legais, estudos de vigilância e estudos de dados críticos para destacar várias preocupações sobre a legitimidade da regulação algorítmica.
======================= =========================== =======================
A chamada revolução do big data está atualmente em andamento. Muitos afirmam que ela será tão perturbadora para a sociedade no século 21 quanto o sistema de produção em massa de Henry Ford no final do século XIX (Boyd e Crawford 2012). Embora 'Big Data' tenha sido definido de várias maneiras, uso o termo para se referir ao conjunto sociotécnico que utiliza uma técnica metodológica que combina uma tecnologia (constituída por uma configuração de hardware e software de processamento de informações que pode filtrar e classificar grandes quantidades de dados em muito pouco tempo) com um processo (através do qual processos algorítmicos são aplicados para extrair um grande volume de dados digitais para encontrar padrões e correlações dentro desses dados, destilando os padrões em análise preditiva e aplicando a análise a novos dados) Cohen 2012: 1919).
A empolgação em torno do Big Data está enraizada em sua capacidade de identificar padrões e correlações que não podem ser detectados pela cognição humana, convertendo volumes massivos de dados (muitas vezes sob forma não estruturada) em uma forma particular de conhecimento altamente intensiva em dados e criando assim um novo modo de produção de conhecimento (Cohen 2012: 1919).
Indústrias, acadêmicos e governos estão adotando entusiasticamente essas tecnologias, todas buscando aproveitar seu tremendo potencial para melhorar a qualidade e a eficiência de muitas atividades, incluindo a tarefa de regulamentação, que este artigo questiona examinando criticamente o fenômeno da "regulação algorítmica". Ele se baseia em insights seletivos da literatura científica legal e social, destacando as críticas emergentes do poder algorítmico e o surgimento de sistemas automatizados baseados em dados para informar a tomada de decisões e regular o comportamento.
Meu principal objetivo é mapear os contornos dos debates emergentes, levantando questões para futuras pesquisas, em vez de oferecer respostas definitivas, procedendo em quatro partes. A parte I oferece uma definição funcional de regulação algorítmica. A Parte II constrói, então, uma taxonomia de sistemas regulatórios algorítmicos baseados em sua configuração em cada um dos três estágios do processo cibernético: notadamente, no nível do estabelecimento de padrões (adaptativos versus simples, padrões comportamentais fixos); coleta de informações e monitoramento (dados históricos versus previsões baseadas em dados inferidos), e no nível de sanções e mudanças comportamentais (execução automática versus sistemas de recomendação). As partes III, IV e V fornecem uma análise crítica da regulação algorítmica, identificando preocupações sobre sua legitimidade extraída seletivamente de várias vertentes da literatura acadêmica, incluindo governança regulatória e administração pública, estudos jurídicos, estudos de vigilância e estudos de dados críticos. A Parte VI conclui, esboçando os contornos de uma ampla agenda de pesquisa ancorada em uma de estudos jurídicos sobre governança legal e regulatória.
========================= ========================== ======================================
2. The mechanisms and forms of algorithmic regulation
2.1 What is algorithmic regulation?
Embora o empresário do Vale do Silício, Tim O'Reilly, exorte os governos a adotar a regulação algorítmica para resolver problemas políticos, ele não define a regulação algorítmica, mas apenas aponta para vários sistemas tecnológicos1 que ele afirma compartilhar quatro características: (a) uma profunda compreensão do resultado desejado; (b) medição em tempo real para determinar se esse resultado está sendo alcançado; (c) algoritmos (ou seja, um conjunto de regras) que fazem ajustes com base em novos dados; e (d) análise periódica mais profunda sobre se os próprios algoritmos estão corretos e funcionando conforme o esperado (O'Reilly 2013). Como maior precisão e rigor são necessários para a análise crítica, começo oferecendo uma definição de regulação algorítmica, explorando o que significa descrever algo como "algorítmico" e explicando como vou entender o termo "regulação".
Em seu sentido mais amplo, os algoritmos são procedimentos codificados para resolver um problema, transformando os dados de entrada em um resultado desejado (Gillespie 2013; 2014). Embora os algoritmos não precisem ser implementados em software, os computadores são fundamentalmente máquinas de algoritmos, projetadas para armazenar e ler dados, aplicar procedimentos matemáticos a dados de maneira controlada e oferecer novas informações como saída. Mesmo quando confinado ao software, o termo "algoritmo" pode ser entendido de várias maneiras. Os engenheiros de software provavelmente adotarão um entendimento técnico de algoritmos, referindo-se à série lógica de etapas para organizar e agir em um corpo de dados para alcançar rapidamente um resultado desejado que ocorre após a geração de um 'modelo', ou seja, a formalização do problema e o objetivo em termos computacionais (Gillespie 2013; 2014; Dourish 2016). Mas os cientistas sociais tipicamente usam o termo como um adjetivo para descrever o conjunto sociotécnico que inclui, não apenas algoritmos, mas também as redes computacionais nas quais eles funcionam, as pessoas que os projetam e operam, os dados (e usuários) nos quais eles agem. e as instituições que fornecem esses serviços, todas ligadas a um esforço social mais amplo e constituindo parte de uma família de sistemas de autoridade para a produção de conhecimento. Nesse sentido, Gillespie sugere que, ao descrever algo como 'algorítmico', nossa preocupação é com a inserção de procedimentos produzidos por, ou relacionados a, um sistema de informação sociotécnica que é pretendido por seus projetistas como funcional e ideologicamente comprometido com a geração computacional de conhecimento. Para ele, "o que é central é o compromisso com o procedimento, e a forma como o procedimento distancia seus operadores humanos do ponto de contato com os outros e do manto de responsabilidade pela intervenção que eles fazem" (Gillespie 2014).
Embora os algoritmos computacionais incluam aqueles que codificam funções matemáticas simples, a excitação em torno do Big Data é amplamente atribuída a algoritmos de aprendizado de máquina sofisticados, alimentados por conjuntos de dados massivos (e frequentemente não estruturados) que operam computacionalmente e se afastam das técnicas tradicionais de modelagem estatística (Dourish 2016: 7). A modelagem estatística tradicional requer que o analista especifique uma função matemática contendo variáveis explicativas selecionadas e, por meio de análise de regressão, permite a identificação da adequação entre os dados e essas escolhas analíticas. Em contraste, o aprendizado de máquina não requer uma especificação a priori de relações funcionais entre variáveis. Em vez disso, os algoritmos operam minerando os dados usando várias técnicas2 para identificar padrões e correlações entre os dados e que são usados para estabelecer um modelo funcional de relações entre entradas e saídas. Este modelo é gradualmente melhorado pelo 'aprendizado' iterativo, isto é, testando suas previsões e corrigindo-as quando erradas, até identificar algo como o que é entendido nas estatísticas convencionais como uma 'linha de melhor ajuste' para gerar um modelo que forneça o mais forte. relação preditiva entre entradas e saídas. Por conseguinte, esta abordagem metodológica é por vezes descrita como "deixar os dados falarem" 4 (MayerSchonberger e Cukier 2013: 6). Enquanto os modelos de regressão estatísticos convencionais trabalhavam com 10 ou mais variáveis diferentes (como sexo, idade, renda, ocupação, nível educacional, renda e assim por diante) e talvez tamanhos amostrais de milhares, algoritmos de aprendizado de máquina que direcionam o tipo de ferramentas analíticas preditivas que agora estão em uso comum são projetados para trabalhar com centenas (e às vezes dezenas de milhares) de variáveis ('recursos') e tamanhos de amostra de milhões ou bilhões (Mackenzie 2015: 434)
A decisão algorítmica refere-se ao uso de sistemas de conhecimento gerados por algoritmos para executar ou informar decisões, e que podem variar amplamente em simplicidade e sofisticação. A regulação algorítmica refere-se aos sistemas de governança regulatória que utilizam a tomada de decisão algorítmica. Embora o escopo e o significado do termo 'regulação' e 'governança regulatória' sejam contestados (Baldwin et al 2010), adoto a definição oferecida pela acadêmica de governança reguladora Julia Black, que define a regulação (ou governança regulatória) como tentativas intencionais de gerenciar o risco ou alterar o comportamento a fim de atingir algum objetivo pré-especificado (Black 2014). Várias características deste entendimento da regulação merecem destaque. Em primeiro lugar, embora a regulação seja amplamente considerada uma tarefa crítica dos governos, a regulação também é buscada por atores e entidades não estatais (Black 2008). Assim como uma autoridade de transporte público pode regular o movimento de veículos para otimizar o fluxo de tráfego, da mesma forma, uma empresa de mídia social como o Facebook pode regular o comportamento de postagem e visualização dos usuários para otimizar seus retornos financeiros. Em segundo lugar, o tamanho da "população" regulada é altamente variável. Pode referir-se às ações intencionais de uma pessoa que adota algum sistema ou estratégia para regular algum aspecto de seu próprio comportamento (como um indivíduo que usa um dispositivo de rastreamento de condicionamento físico para ajudá-la a garantir um nível mínimo de atividade física diária) por meio de sistemas regulatórios que buscam direcionar e influenciar o comportamento de um grande número de pessoas ou entidades, como os sistemas algorítmicos empregados pelas plataformas de compartilhamento de carros digitais, Uber, para permitir que os motoristas ofereçam serviços de transporte de veículos a indivíduos em condições prévias. taxa especificada sem ter qualquer relação anterior. Em terceiro lugar, porque a regulação é, acima de tudo, uma atividade intencional dirigida a alcançar um objetivo pré-especificado, qualquer sistema regulador deve ter algum tipo de “diretor” do sistema para determinar o objetivo global do sistema regulatório. Nesse sentido, refiro-me à regulação algorítmica como sistemas de tomada de decisão que regulam um domínio de atividade para gerenciar riscos ou alterar comportamentos através da geração computacional contínua de conhecimento a partir de dados emitidos e coletados diretamente (em tempo real de forma contínua) a partir de numerosos componentes pertencentes ao ambiente regulado, a fim de identificar e, se necessário, refinar automaticamente (ou solicitar refinamento) as operações do sistema para atingir uma meta pré-especificada.
