Mudanças entre as edições de "'''The Policy Deficit Behind Canadian Artificial Intelligence'''"

Edição das 03h42min de 16 de julho de 2019

Pesquisadores canadenses são pioneiros em vários campos que compreendem a inteligência artificial (IA), e isso estimulou algum impulso na atração de investimentos estrangeiros e apoio do governo. Mas quando se trata de governança da IA, o Canadá está atrasado e ficando cada vez mais para trás com cada dia de negligência e inação.

É desconcertante: não só o Canadá é uma posição indiscutivelmente ótima para liderar a governança da IA, mas a IA é atualmente uma das áreas de política pública mais discutidas. Pergunte a quase qualquer um o que é a IA, o que eles pensam sobre a IA ou que áreas da AI são preocupantes e eles expressarão incerteza, dúvida e até medo . Eles viram os filmes, leram ficção científica e, para muitos deles, a IA representa não apenas uma ameaça - que vai desde a possível perda de empregos até o armamento autônomo -, mas uma crise existencial que levará a um dia de julgamento. , quando as máquinas se levantam contra as pessoas.

Pode-se argumentar que essas preocupações e desconfiança generalizadas sobre a IA refletem um profundo desejo de ver algum tipo de modelo de governança ou estrutura regulatória aplicada à IA.

No entanto, a coorte de funcionários do governo e de políticas públicas focada na governança da IA ​​é pequena. Cinco pessoas parecem estar liderando a acusação.

Michael Karlin, que trabalha para a Secretaria do Conselho do Tesouro do Canadá. Karlin está estudando o papel da IA ​​dentro do governo e como parte da prestação de serviços públicos, mas não abordando a governança da própria AI. Taylor Owen, professor assistente da Universidade da Colúmbia Britânica e membro do conselho do Centro de Inovação em Governança Internacional, publicou um trabalho que levanta a necessidade da governança da IA, em termos alarmantes e urgentes. Elizabeth Dubois, professora assistente da Universidade de Ottawa, está examinando o papel e a influência dos bots políticos nas eleições e, em geral, está interessada em como aumentar a participação e o engajamento político. Ian Kerr, que ocupa o cargo de Presidente de Pesquisa em Ética, Direito e Tecnologia na Faculdade de Direito da Universidade de Ottawa, recentemente co-editou o Robot Law , um livro sobre a interseção entre lei, robótica e inteligência artificial. Sua paixão atual é pedir uma proibição internacional de robôs assassinos - literalmente abordando a profunda preocupação primária alimentada pela ficção científica que a maioria dos canadenses tem sobre AI. Kerr passou os últimos anos tentando fazer com que o governo canadense assumisse a liderança, sem efeito. Kerr é um dos maiores especialistas mundiais em AI, direito, ética e governança, mas o governo ainda precisa agir em sua chamada para a ação. Finalmente, há Fenwick McKelvey, professor assistente na Universidade Concordia. Sua pesquisa abrange a neutralidade da rede, a política de plataformas (como o Facebook e o Twitter), bots nas eleições (com Dubois) e a governança da IA. McKelvey também participa de uma iniciativa liderada pela Université de Montréal, que elaborou a Declaração de Montreal para o Desenvolvimento Responsável da IA . Como uma estrutura ética, ela fornece o único exemplo de trabalho do Canadá em direção à governança da IA, embora em grande parte na forma de perguntas. Efetivamente, é isso. Fora de novas pesquisas e projetos desses poucos pioneiros ambiciosos, a governança da IA ​​está operando a partir de um livro de regras bem datado.

O Canadá está inadimplente com a Carta de Direitos e Liberdades quando se trata de governar a IA. De acordo com a equipe de relações com a mídia da Inovação, Ciência e Desenvolvimento Econômico do Canadá, a governança da AI também se enquadra na “estrutura de mercado existente”, além da Lei de Proteção de Informações Pessoais e Documentos Eletrônicos ( PIPEDA ). Tradução: a estrutura de mercado existente é de propriedade e operada por grandes entidades estrangeiras e opera dentro de uma estrutura de privacidade que não tem dentes e tem sido amplamente malsucedida em responsabilizar essas empresas.

No entanto, há uma variedade de maneiras pelas quais os aplicativos, impactos e influências da AI podem estar violando a Carta. O exemplo mais óbvio disso é a discriminação. A IA está sendo usada cada vez mais para auxiliar, aumentar ou até mesmo substituir a tomada de decisão humana, mas pesquisas iniciais sugerem que preconceitos nos dados ou vieses nos modelos de aprendizado de máquina podem fazer com que esses sistemas discriminem de acordo com raça, gênero ou status socioeconômico.

A Carta de Direitos e Liberdades permanente emparelhada com o PIPEDA e a “estrutura de mercado existente” não é adequada. Essa colcha de retalhos de políticas criadas para outra finalidade não pode se aproximar das principais questões de governança da AI.

Para começar, a maioria dos usuários não está fornecendo consentimento significativo para o uso de suas informações, pois eles não estão em condições de entender como os aplicativos de IA estão usando. Em segundo lugar, a agregação de dados é frequentemente empregada para anonimizar e proteger a privacidade. No entanto, as correlações empregadas pela IA avançada permitem a identificação efetiva e a desanunização dos usuários. No contexto das estruturas de mercado existentes, os canadenses devem confiar em caixas-pretas para garantir que os direitos da Carta não sejam violados, ou que a IA e os algoritmos não estejam discriminando as pessoas.

Dubois argumenta que “a IA está se tornando difundida e onipresente. Como canadenses, precisamos estar cientes dessa realidade e confiantes de que nosso governo está protegendo nossos interesses e necessidades ”.

Para McKelvey, essas necessidades começam com eleições, dado o crescente papel dos bots no processo eleitoral e o poder de disseminação da mídia de plataformas como o Facebook e o Twitter. O PIPEDA não cobre partidos políticos, e o uso de propaganda em mídia social em campanhas políticas permite um tipo de alvo e manipulação que as leis existentes não previam.

E, a longo prazo, McKelvey quer ver as leis de privacidade usadas para retardar o desenvolvimento da IA, ou pelo menos para ajudar a torná-la mais transparente para os mais afetados por ela. Ele ressalta que o combustível atual para o surgimento da IA ​​é nossa informação pessoal.

"Os canadenses estão participando voluntariamente de um experimento que eles não entendem e, sem dúvida, não concordam", diz ele.

Para ser justo, a pesquisa e o financiamento estão voltados para a AI no Canadá, com o governo federal prometendo apenas US $ 125 milhões no orçamento de 2017. Vários níveis de governo e do setor privado têm defendido a indústria dominada por estrangeiros, apoiando as empresas com fundos de pesquisa e desenvolvimento. Mas o entusiasmo diminui quando se trata de trabalhar em questões de ética e governança.

O novo portal Canada.ai é um ótimo exemplo. Criado pelas organizações que recebem financiamento federal para buscar pesquisa e desenvolvimento de IA, o site foi criado para "mostrar a liderança do Canadá no campo da inteligência artificial".

O site concentra-se exclusivamente no lado comercial da AI; questões de governança, ou perspectivas de cientistas sociais, éticos ou pesquisadores das humanidades estão ausentes, apesar de suas contribuições substanciais para a discussão em torno da governança da IA. Os pesquisadores destacados acima certamente não são mencionados.

Quando perguntados sobre quais iniciativas federais estavam em andamento para examinar ou abordar a governança da IA, a equipe de relações com a mídia da Inovação, Ciência e Desenvolvimento Econômico do Canadá disse que estava financiando as organizações que fazem parte do Canada.ai e nada mais. Os projetos que receberam financiamento estão focados na funcionalidade da IA, não na governança da IA, então não é de admirar que os esforços federais não tenham semeado um plano para o marco regulatório da IA.

Esta abordagem está em contraste directo com a da União Europeia, onde o Regulamento Geral de Protecção de Dados dá à Europa a oportunidade de desenvolver uma capacidade genuína de governação da IA.

A Europa reconhece que a inovação em governança precisa acompanhar a inovação tecnológica. Parece senso comum: à medida que a economia é transformada pela IA, o ambiente regulador deve se manter. Os direitos dos cidadãos precisam ser protegidos, e a capacidade do governo de governar deve ser mantida.

Na América do Norte, o libertarianismo é o discurso político dominante quando se trata de tecnologia. Muitas vezes chamado de Ideologia Californiana , este sistema serve bem aos interesses do Vale do Silício, mas certamente não atende aos interesses dos canadenses. Curiosamente, a Microsoft apresentou o caso no Fórum Econômico Mundial de janeiro de 2018, em Davos, de que o mundo precisa de novas leis e regulamentos para governar a IA .

Quanto mais adiarmos o desenvolvimento da capacidade de governar a IA, mais difícil será governá-la e usar as políticas públicas como meio de responder ou engajar o mundo ao nosso redor. Talvez esse seja o objetivo dos libertários do Vale do Silício - criar novos monopólios que sejam livres de regulação e livres da responsabilidade pública.

O bairro de Quayside , em Toronto, é um exemplo perfeito de como isso pode acontecer. O site abrigará uma “vizinhança inteligente” construída pela Sidewalk Labs da Alphabet como uma espécie de modelo para o futuro das cidades. Nesse contexto, as pessoas não são vistas como cidadãos, mas como sujeitos de uma grande experiência - “usuários” de um bairro, em vez de membros de uma comunidade ou participantes de uma sociedade democrática. Dado que o governo municipal, e muito menos o governo provincial ou federal, tem pouca ou nenhuma experiência na governança da IA, o que pode fazer para envolver ou supervisionar essa experiência?

A regulação em uma sociedade democrática geralmente se concentra no princípio de prevenir ou mitigar o dano. Quando se trata de tecnologia, e AI em particular, temos sido cegos ou intencionalmente ignorantes. Dois livros recentes, Armas da destruição de matemática de Cathy O'Neil : Como o volume de dados aumenta a desigualdade e ameaça a democracia (2016) e a desqualificação automatizada de Virginia Eubanks : como ferramentas de alta tecnologia perfilam, policiam e punem os pobres (2017), fazem o caso que a falta de governança efetiva da IA ​​pode resultar em danos consideráveis.

Talvez haja espaço nos regulamentos canadenses existentes - lei federal de privacidade e lei de concorrência - para governar a IA. A governança eficaz, no entanto, requer uma compreensão dos danos potenciais que podem advir dos sistemas de inteligência artificial, e como as questões de privacidade, segurança ou ética se cruzam com as leis e regulamentações existentes. Esse tipo de colaboração interdisciplinar não está acontecendo atualmente no cenário da IA ​​canadense.

É assustador tentar regulamentar titãs de tecnologia estrangeiros como Facebook, Google ou Amazon, mas as pessoas - inclusive canadenses - têm algo de incrível valor que essas empresas querem: informações pessoais. Combine esse ativo com a crescente especialização da sociedade no vasto mundo da IA ​​e, de repente, o público em geral tem uma posição de negociação bastante forte.

Os medos dizem que a regulamentação sufocará a inovação ou que as empresas estrangeiras sairão e partirão para outro lugar. Neste caso, o oposto é verdadeiro.

No Canadá, a inovação em IA é apoiada pelo público, seja por meio de fundos públicos ou instituições, ou pelas informações pessoais dos canadenses. Os Facebooks e Googles do mundo não vão a lugar nenhum. A fim de continuar colhendo as informações dos canadenses, eles vão se dobrar a quase todas as leis criadas, e a Europa é um ótimo estudo de caso para isso. O sistema universitário continuará a produzir pesquisas de classe mundial, e os desenvolvedores continuarão a encontrar novas oportunidades comerciais possibilitadas pela tecnologia emergente.

A questão não é se toda essa inovação acontecerá, mas sob quais termos ela acontecerá - e isso está em debate. Na era da IA, o apoio do governo não pode parar na inovação de software ou produtos. A inovação do governo também deve acontecer.