Mudanças entre as edições de "Free Speech in the Algorithmic Society: Big Data, Private Governance, and New School Speech Regulation"

Edição atual tal como às 22h58min de 19 de novembro de 2018

Já passamos dos primeiros dias da Internet para a Sociedade Algoritmica. A Sociedade Algoritmica apresenta o uso de algoritmos, agentes de inteligência artificial e Big Data para governar populações. Também conta com empresas de infraestrutura digital, grandes plataformas multinacionais de mídia social e mecanismos de busca que se situam entre os estados-nações tradicionais e indivíduos comuns, e servem como reguladores do discurso para fins especiais.

A Sociedade Algoritmica apresenta dois problemas centrais para a liberdade de expressão. Primeiro, o Big Data permite novas formas de manipulação e controle, que as empresas privadas tentarão legitimar e isolar a partir da regulamentação, invocando os princípios da liberdade de expressão. Aqui os argumentos da Primeira Emenda provavelmente serão empregados para evitar garantias de privacidade digital e impedir a regulamentação da proteção do consumidor. Em segundo lugar, as empresas de infra-estrutura digital de propriedade privada e as plataformas on-line controlam o discurso, da mesma forma que os estados-nações antigamente. Aqui, a Primeira Emenda, como normalmente interpretada, é simplesmente inadequada para proteger a capacidade prática de falar. A primeira parte do ensaio descreve como regular negócios on-line que empregam Big Data e decisões algorítmicas de acordo com os princípios da liberdade de expressão. Algumas dessas empresas são "fiduciários de informação" para seus usuários finais; eles devem exercer deveres de boa fé e não manipulação. Outras empresas que não são fiduciárias de informação têm o dever de não se engajar em "incômodo algorítmico": elas não podem externalizar os custos de sua análise e uso de Big Data em terceiros inocentes.

A segunda parte do ensaio se volta para o modelo pluralista emergente de regulação da fala online. Esse modelo pluralista contrasta com o modelo diádico tradicional no qual os estados-nações regulavam o discurso de seus cidadãos.

No modelo pluralista, os governos territoriais continuam a regular diretamente a fala. Mas eles também tentam coagir ou cooptar proprietários de infra-estrutura digital para regular o discurso dos outros. Este é o regulamento da fala da "nova escola". Proprietários de infra-estrutura digital, e especialmente empresas de mídia social, agora atuam como governadores privados de comunidades de fala, criando e aplicando várias regras e normas das comunidades que governam. Finalmente, os usuários finais, organizações da sociedade civil, hackers e outros atores privados repetidamente pressionam as empresas de infra-estrutura digital a regular o discurso de certas maneiras e a não regulá-lo em outros. Esse cabo-de-guerra triangular - e não o tradicional modelo diádico de estados que regulam a fala de partidos privados - caracteriza a capacidade prática de falar na sociedade algorítmica.

O ensaio usa os exemplos do direito a ser esquecido e o problema das notícias falsas para ilustrar o modelo pluralista emergente - e a nova regulação do discurso escolar - em ação.

À medida que a governança privada se torna central para a liberdade de expressão, tanto os usuários finais quanto os estados-nações pressionam a governança privada. Os países da nação tentam cooptar empresas privadas para se tornarem burocracias para a aplicação da regulamentação do discurso do ódio e novas doutrinas como o direito ao esquecimento. Por outro lado, os usuários finais exigem cada vez mais garantias processuais, devido processo, transparência e proteção igualitária das empresas on-line privadas.

Quanto mais os usuários finais enxergarem as empresas como governadoras, ou como soberanos com fins especiais, mais os usuários finais esperam - e exigem - que essas empresas estejam em conformidade com as obrigações básicas dos governadores em relação àquelas que governam. Essas obrigações incluem justiça processual no tratamento de reclamações e aplicação de sanções, aviso, transparência, explicações fundamentadas, consistência e conformidade com os valores do estado de direito - a "lei", neste caso, são as normas e políticas publicamente declaradas da empresa. As empresas de infra-estrutura digital, por sua vez, descobrirão que precisam assumir novas obrigações sociais para atender a essas crescentes ameaças e expectativas tanto dos estados-nação quanto dos usuários finais.

Keywords: First Amendment, freedom of speech, algorithms, algorithmic society, Big Data, information fiduciary, algorithmic nuisance, private governance, digital infrastructur