Ir direto ao conteúdo

Por que o conselho de ética do Google durou só 10 dias

Grupo discutiria assuntos relacionados a tecnologias de inteligência artificial, como a performance dos algoritmos e casos de discriminação de gênero e raça – o chamado ‘viés algorítmico’

     

    O Google encerrou seu conselho de ética para avaliar o desenvolvimento de tecnologias de inteligência artificial, dez dias depois de sua inauguração. O fim do Advanced Technology External Advisory Council (Conselho Consultivo Externo de Tecnologia Avançada, em tradução livre) foi anunciado em 4 de abril de 2019.

    Formado por oito integrantes, o conselho deveria se reunir quatro vezes ao longo de 2019. No fim do ano, deveria entregar um relatório com recomendações para a gigante americana de tecnologia.

    Mas, segundo revelou o portal americano Vox, em 3 de abril de 2019, o grupo foi desfeito antes de entrar em atividade: um integrante, Alessandro Acquisti, se demitiu e outros dois, Kay Coles Gomes e Dyan Gibbens, foram alvo de petições assinadas por funcionários do Google pedindo suas demissões.

    Qual era a proposta do conselho

    Inicialmente, o conselho contemplaria especialistas de diversas áreas, incluindo ciência da computação, engenharia, filosofia, psicologia, políticas públicas e políticas internacionais.

    Foi formado para discutir questões éticas levantadas pelas novas tecnologias, como o papel da inteligência artificial em governos autoritários e o funcionamento dos algoritmos em casos de discriminação de gênero e raça. 

    A criação do conselho foi também uma resposta encontrada pelo Google para o fato de que, em anos recentes, a empresa esteve no centro de polêmicas provocadas por suas ferramentas de inteligência artificial.

    Polêmicas no Google

    O caso dos drones

    Em março de 2018, o Google assinou um contrato com o Pentágono, o Departamento de Defesa dos Estados Unidos, para melhorar a inteligência artificial de drones militares. Diante das críticas ao chamado Projeto Maven, o Google não renovou o contrato e publicou um conjunto de diretrizes éticas em junho de 2018. Entre elas, a empresa se compromete a não permitir que seu software de inteligência artificial seja usado em armas, vigilância ou violações de direitos humanos.

    O reconhecimento facial

    Em julho de 2015, a empresa também precisou se manifestar publicamente e pedir desculpas pois a ferramenta de reconhecimento facial identificou um casal negro como “gorilas” no Google Fotos.

    O histórico criminal

    Em fevereiro de 2013, a pesquisadora Latanya Sweeney, professora de Harvard, publicou um estudo que constatou discriminação racial nos algoritmos nos anúncios do Google Ads, serviço de publicidade da empresa: nomes associados a afrodescendentes eram mais suscetíveis a receber propagandas de checagem de histórico criminal no mecanismo de busca.

    Por que se discute ética na inteligência artificial

    Inteligência artificial se refere à inteligência presente em máquinas. Desenvolvido na década de 1950, o conceito remete à capacidade de raciocínio por máquinas, espelhado no funcionamento da mente humana. Ferramentas de inteligência artificial funcionam a partir de algoritmos, que são sequências de comandos feitas para cumprir funções ou resolver questões.

    Os algoritmos refletem comportamentos humanos. Estão sujeitos a falhas, intencionais ou não, que podem reforçar estereótipos e atitudes discriminatórias de gênero, nacionalidade, raça ou orientação sexual.

    Além do Google, outras empresas de tecnologia tiveram casos em que seus algoritmos geraram polêmica, como Amazon, Facebook, Flickr e Microsoft. Profissionais do setor e ativistas descrevem o problema como “discriminação algorítmica” ou “viés algorítmico”.

    Nos Estados Unidos, onde estão concentradas as maiores empresas de tecnologia, a cientista da computação Joy Buolamwini, do Media Lab do MIT (Instituto de Tecnologia de Massachusetts), fundou a Liga da Justiça Algorítmica.

    Esta e outras instituições argumentam que, para diminuir o preconceito presente na estrutura de alguns algoritmos, é preciso privilegiar a diversidade na contratação de profissionais para desenvolvimento de software, dar transparência ao funcionamento dos programas, expor casos de discriminação e exigir discussões sobre ética.

    Além do Google, a Microsoft mantém um comitê consultivo de ética. O Facebook financia um centro independente de pesquisa sobre ética na inteligência artificial na Universidade Técnica de Munique. Nenhum deles possui poder de decisão nas empresas. 

    Em setembro de 2016, Amazon, DeepMind, Facebook, Google, IBM e Microsoft também lançaram um consórcio para desenvolver pesquisas e pensar práticas melhores na área, o Partnership on Artificial Intelligence (Parceria na Inteligência Artificial, em tradução livre).

    O fim do conselho do Google

    Segundo o executivo Kent Walker, do Google, o comitê não conseguiria funcionar como esperado.

    “Nós continuaremos a ser responsáveis no nosso trabalho nas importantes questões levantadas pela inteligência artificial. E encontraremos diferentes maneiras de ouvir opiniões externas nesses tópicos”, escreveu Walker, ao formalizar o fim do conselho, em 4 de abril de 2019.

    Quem eram os integrantes

    • Alessandro Acquisti - Economista e pesquisador. Professor de Tecnologia da Informação e Políticas Públicas na Universidade Carnegie Mellon, nos Estados Unidos
    • Bubacarr Bah - Especialista em matemática computacional, pesquisador sênior no Instituto Africano de Ciências Matemáticas e professor assistente na Universidade de Stellenbosch, na África do Sul
    • De Kai - Professor de Ciência da Computação e Engenharia na Universidade de Hong Kong
    • Dyan Gibbens - Especialista em engenharia industrial e diretora-executiva da Trumbull, uma startup ligada ao desenvolvimento de drones para defesa
    • Joanna Bryson - Especialista em psicologia e inteligência artificial. Professora associada da Universidade de Bath, no Reino Unido
    • Kay Coles James - Especialista em políticas públicas e atualmente presidente da The Heritage Foundation, um think tank conservador americano
    • Luciano Floridi - Filósofo e especialista em ética digital. Professor na Universidade de Oxford, no Reino Unido
    • William Joseph Burns - Diplomata e especialista em relações internacionais. Atualmente é presidente do Carnegie Endowment for International Peace, o mais antigo think tank americano

    Alessandro Acquisti renunciou à posição no conselho via Twitter. “Embora esteja dedicado a pesquisar questões-chave éticas de justiça, direitos e inclusão em inteligência artificial, não acredito que este seja o fórum certo para mim”, postou.

    Dyan Gibbens foi alvo de críticas de funcionários do Google por estar vinculada a uma empresa de drones. A crítica ao envolvimento da empresa com a área militar americana tem precedentes: em 2018, 4.000 funcionários se manifestaram contra o Projeto Maven.

    Kay Coles Gomes, por sua vez, foi criticada por comentários transfóbicos. Mais de 2.500 funcionários assinaram uma petição pedindo a saída de Kay que, à frente da The Heritage Foundation, também tem um histórico de declarações polêmicas contra imigrantes e contra a existência de mudanças climáticas.

    Na análise da jornalista Kelsey Piper, do Vox, o conselho estava fadado ao fracasso. Primeiro, pois apenas um ano de atividade, conforme inicialmente previsto, não seria o suficiente para analisar sequer uma fração dos produtos do Google.

    Entre as funções do conselho de ética, também não ficou claro se as recomendações do comitê fariam diferença na tomada de decisões da empresa. Para Piper, tal como foi organizado, o comitê era, na verdade, uma estratégia de “marketing de inteligência artificial”.

    Todos os conteúdos publicados no Nexo têm assinatura de seus autores. Para saber mais sobre eles e o processo de edição dos conteúdos do jornal, consulte as páginas Nossa equipe e Padrões editoriais. Percebeu um erro no conteúdo? Entre em contato. O Nexo faz parte do Trust Project.

    Já é assinante?

    Entre aqui

    Continue sua leitura

    Para acessar este conteúdo, inscreva-se abaixo no Boletim Coronavírus, uma newsletter diária do Nexo: