Ir direto ao conteúdo

Onde o reconhecimento facial foi banido nos EUA. E a situação no Brasil

Tecnologia que usa inteligência artificial para identificar rostos é questionada pela falta de precisão e risco à privacidade

 

No dia 17 de julho, o conselho municipal de Oakland, no estado americano da Califórnia, proibiu o uso de tecnologias de reconhecimento facial por órgãos governamentais, incluindo a polícia. A decisão ocorreu com base em preocupações sobre a precisão desses sistemas, e com a privacidade dos cidadãos.

“A tecnologia de reconhecimento facial traz o risco de que moradores de Oakland fiquem menos seguros, uma vez que a identificação equivocada de indivíduos [pela polícia] pode levar ao mal uso da força, ao falso encarceramento e à perseguição de minorias”, escreveu a presidente do conselho municipal, Rebecca Kaplan, em um memorando público no qual recomenda a proibição.

Oakland é a terceira cidade americana a impedir que o governo use essa tecnologia. A pioneira, em maio, foi a também californiana San Francisco – lar de gigantes da tecnologia como Google, Facebook, Pinterest, Twitter e YouTube.

Também em San Francisco, a regra vale apenas para as polícias e outras agências públicas, que ficam proibidas inclusive de usar informações obtidas por sistemas de reconhecimento facial do setor privado. A decisão se insere em um conjunto de medidas legislativas que exigem que agências governamentais criem políticas internas para controlar seu uso de tecnologias de vigilância.

Responsável pela elaboração da lei, o supervisor municipal Aaron Pesky afirmou que “nós temos uma responsabilidade maior em regular o excesso de tecnologia precisamente porque as empresas têm suas sedes aqui”.

No final de junho de 2019, a cidade de Somerville, no estado de Massachusetts, também proibiu departamentos governamentais de usar software de reconhecimento facial nos espaços públicos.

A tecnologia de reconhecimento facial vem sendo adotada também no Brasil, por empresas e pelo governo – o que inclui forças policiais – em parceria com companhias estrangeiras. Não há no país, entretanto, um marco regulatório federal específico sobre o tema, ou restrições locais como as dessas três cidades americanas.

O que é o reconhecimento facial

Sistemas de reconhecimento facial são tecnologias de inteligência artificial que têm o poder de identificar rostos a partir de imagens captadas digitalmente.

Esse tipo de tecnologia pode ser usada, por exemplo, para identificar se um rosto registrado por uma câmera está sorrindo, ou se carrega uma expressão triste.

Há também sistemas de reconhecimento facial capazes de verificar se a imagem de um rosto bate com outras imagens relativas ao mesmo rosto, a partir de padrões de formato e textura da pele. Dessa forma é feita a identificação de pessoas.

Em geral, sistemas de reconhecimento facial funcionam ao comparar uma imagem sob análise com outras referências de um banco de dados. Há vários usos para a tecnologia.

Exemplos do uso por empresas

Facebook

Em 2014, o Facebook lançou um sistema de reconhecimento facial desenvolvido a partir de milhões de imagens do seu banco de dados. Segundo nota da empresa na época do lançamento, o sistema identifica com precisão de 97,35% a quem a imagem de um rosto pertence, quando há referências da pessoa disponíveis. Ele serve, por exemplo, para sugerir qual rosto pode ser marcado em uma imagem na rede social.

Apple

Em 2017, a Apple lançou novos modelos de iPhone em que é possível desbloquear o aparelho a partir de seu sistema de reconhecimento facial.

Em lojas

Nos Estados Unidos, uma empresa chamada FaceFirst vende a lojas um sistema de reconhecimento facial que promete identificar, a partir de uma base de dados, se um cliente já foi pego furtando.

Público de shows

Em entrevista à revista Rolling Stone em dezembro de 2018, a cantora pop Taylor Swift afirmou que, durante um de seus shows, uma câmera foi posicionada em um quiosque em que vídeos seus eram exibidos. Por meio dela, foram captadas imagens das pessoas que paravam para assistir. Elas depois foram comparadas com um banco de dados de stalkers (perseguidores) da artista.

 

A preocupação no campo da segurança

Segundo estudo publicado em 2016 pelo Centro de Privacidade e Tecnologia da universidade americana de Georgetown, cerca de metade da população adulta dos Estados Unidos tinha, até então, seu rosto “fichado” por sistemas de reconhecimento facial, como o usado pelo FBI, a polícia federal americana. É possível que essa proporção tenha aumentado desde então.

A tecnologia está sendo utilizada no país para verificar se o rosto na foto de um passaporte bate com o rosto da pessoa em trânsito.

Ela está presente também em departamentos de polícia locais, em cidades como Las Vegas, Orlando, San Jose, San Diego, Nova York, Boston, Detroit e Durham. Pode ser usada para identificar pessoas procuradas pela Justiça, por exemplo.

Ainda é, no entanto, difícil mensurar a extensão completa do uso dessa tecnologia. Em entrevista ao jornal americano The New York Times, o advogado Matt Cagle, da ONG União Americana para as Liberdades Civis (ACLU, na sigla em inglês), que defende direitos e liberdades individuais constitucionais nos Estados Unidos, afirmou que “basicamente, governos e empresas têm mantido muito segredo sobre onde a tecnologia vem sendo usada, então o público está em grande medida no escuro a respeito do estado das coisas”.

Imprecisão em rostos negros

Entre outros pontos, essa tecnologia é questionada quanto à sua precisão. Diversos estudos indicam que sistemas de reconhecimento facial são mais capazes de identificar homens brancos do que pessoas com feições de outras etnias.

Em 2015, o Google teve que se desculpar após o sistema de identificação facial do Google Photos classificar imagens de pessoas negras como gorilas.

Uma pesquisa publicada em 2018 na revista Proceedings of Machine Learning Research analisou os sistemas de reconhecimento facial de três empresas importantes: Microsoft, IBM e da chinesa Megvii.

A taxa de erro dos sistemas era menor do que 1% para homens de pele clara. Mas chegava a até 12% para homens negros, e era de entre 21% e 35% para o caso da análise de mulheres negras.

Isso fortalece o temor de que sistemas de identificação na área de segurança possam levar a importunações indevidas especialmente para quem é negro, ao menos com o uso da tecnologia disponível atualmente.

Em maio de 2018, a ONG britânica Big Brother Watch, que combate o uso de sistemas de coleta de dados e vigilância de cidadãos no Reino Unido, lançou um relatório a partir de dados relativos ao uso dessa tecnologia pela Polícia Metropolitana de Londres, e pela polícia do Sul de Gales.

Com base em dados requisitados ao governo, a entidade concluiu que, em 95% dos casos em que imagens foram combinadas às de pessoas procuradas, tratava-se na verdade de indivíduos inocentes.

Ao The New York Times, Joel Engardio, vice-presidente da ONG Stop Crime SF, que busca promover o combate ao crime, criticou a proibição em San Francisco, e defendeu uma moratória, até que a tecnologia de reconhecimento facial seja aperfeiçoada.

Há também o temor de que a permissividade em relação ao uso desses sistemas na área de segurança leve a ações invasivas e discriminatórias do Estado sobre a população.

Um exemplo acontece hoje na China. No país, o governo vem processando imagens captadas por uma rede de milhões de câmeras de segurança por meio de sistemas de reconhecimento facial, como parte de uma estratégia de vigilância sobre membros da minoria étnica muçulmana Uigur. O sistema busca por qualquer pessoa que tenha traços físicos correspondentes àqueles da etnia Uigur.

Sistemas de reconhecimento facial também vêm sendo implementados no Brasil para usos similares aos americanos, inclusive na área de segurança pública. Por aqui, no entanto, ainda não há medidas restritivas como as criadas pelas três cidades dos EUA.

Exemplos de uso no Brasil

Aeroportos

Segundo uma reportagem publicada em agosto de 2018 no portal UOL, a Receita Federal emprega desde 2016 um sistema de reconhecimento facial para identificar os rostos de quem desembarca de voos internacionais. Dados dos passageiros dos voos são cruzados com os rostos de cada um deles, e com listas de procurados internacionalmente. A partir disso, uma parcela dos passageiros é encaminhada para uma fase extra de inspeção. A Polícia Federal também usa reconhecimento facial para comparar o rosto do passageiro com a imagem presente em seu passaporte

Tribunal Superior Eleitoral

O Tribunal Superior Eleitoral coleta fotos de eleitores para afastar fraudes na emissão de novos documentos. Atualmente, o sistema conta com mais de 90 milhões de pessoas cadastradas.

No comércio

Em julho de 2018, o SPC Brasil passou a oferecer a lojas um sistema para comparar a imagem do rosto de clientes com aquelas presentes em um banco de dados com mais de 30 milhões de imagens. O sistema busca confirmar se a pessoa é quem afirma ser, com a promessa de evitar golpes na concessão de crédito. Um sistema similar vem sendo disponibilizado desde o início de 2018 pela CredDefense.

Transporte público

Desde 2017, tecnologias de reconhecimento facial vêm sendo usadas em ônibus de Porto Alegre. Câmeras são instaladas próximo ao leitor do cartão para verificar o rosto dos usuários e evitar o uso irregular de cartões para estudantes ou idosos. Um sistema similar é utilizado em Curitiba. Em julho de 2019, o Metrô de São Paulo anunciou a intenção de implementar um sistema similar.

Segurança na Bahia

O governo da Bahia vem implementando, em parceria com a empresa chinesa Huawei, tecnologia de reconhecimento facial na segurança pública. Entre março e junho de 2019, 35 pessoas foram presas no estado após serem identificadas pelos sistemas. Em maio de 2019, o governador, Rui Costa (PT), participou de um fórum na cidade de Shenzhen, na China, em que apresentou uma palestra intitulada “Transformação Digital no Estado da Bahia” e destacou casos de prisões no Carnaval de Salvador. O governador visitou a sede da Huawei, e afirmou que a intenção é ampliar o serviço para 55 cidades. A Hauwei tem também um convênio com a prefeitura de Campinas, em um projeto chamado de Safe City.

Segurança no Rio de Janeiro

Em dezembro de 2018, o Estado do Rio de Janeiro firmou um convênio com a empresa britânica Staff of Technology Solutions para identificar criminosos listados na base de dados do Disque Denúncia a partir de reconhecimento facial. Em janeiro de 2019, a Secretaria de Estado de Polícia Militar do Rio de Janeiro começou a implementar um sistema de reconhecimento facial por meio de câmeras de trânsito e de segurança em Copacabana. Neste caso, o sistema é implementado em parceria com a operadora de telefonia Oi que, por sua vez, tem uma parceria com a Huawei desde outubro de 2018. O objetivo é identificar pessoas com pedidos de prisão expedidos. Até julho de 2019, oito foragidos já haviam sido presos com uso do sistema, segundo informações do jornal O Dia. No mesmo mês, uma mulher foi detida pela polícia e levada a uma delegacia, após ser apontada pelo sistema como uma homicida. Tratava-se de um equívoco.

Viagem do PSL

Em janeiro de 2019, uma delegação de deputados e senadores do PSL viajou à China a convite do governo chinês para conhecer sistemas de reconhecimento facial. Na ocasião, afirmaram ter a intenção de apresentar um projeto de lei obrigando o uso dessa tecnologia em locais públicos para auxiliar a polícia a prender suspeitos ou foragidos.

Uma visão sobre o reconhecimento facial hoje

O Nexo conversou com Fabro Steibel, diretor do Instituto Tecnologia e Sociedade, uma organização da sociedade civil que busca usar tecnologia na solução de problemas sociais, a respeito do uso da tecnologia de reconhecimento facial.

Como você avalia a tecnologia de reconhecimento facial?

Fabro Steibel Reconhecimento facial é uma técnica de análise de imagens que encontra padrões, e esses padrões são faces. Há 5 anos, essa tecnologia via faces em moedas ou objetos, o que já não acontece. Isso é muito bom.

Mas há uma diferença bem grande entre faces e pessoas. A identificação facial é atribuir uma identidade à face, e há relatórios apontando taxas de erro muito altas.

Nos Estados Unidos, fizeram um experimento [publicado em julho de 2018] em que cruzaram os rostos dos congressistas com um banco de dados de procurados. E “encontraram” 28 criminosos. Não é porque há bandidos no Congresso, é porque a tecnologia é ruim.

Enquanto as tecnologias ficarem no reconhecimento facial ou físico – para identificar quantas pessoas há em um elevador, ou quais áreas de uma loja são mais visitadas – o problema é mínimo.

Quando passam a fazer tratamento de dados, para identificar quem a pessoa é, ou se está sorrindo, o risco é maior. Tem que ter limites, e ainda estamos descobrindo quais eles devem ser.

Como você avalia a aplicação no Brasil?

Fabro Steibel No Rio de Janeiro, uma pessoa foi presa em um dia, e no dia seguinte o sistema errou. O estado da Bahia nunca divulgou qual é sua taxa de acerto ao identificar procurados. Para a polícia pegar alguns, imagina o quanto não errou. Isso é desperdício de dinheiro público.

O sistema é usado nos aeroportos internacionais para identificar quem parar, e tem cruzamento de dados com os passageiros do avião, o que é diferente. No caso da Receita, a foto do passaporte é padronizada, e isso diminui os erros. Você pode averiguar a mala de um passageiro. Se não tem nada irregular, tudo bem.

Além disso, estamos expondo a identidade de cidadãos brasileiros a governos estrangeiros. Porque as empresas americanas ou chinesas que fornecem os serviços guardam os dados lá fora.

É preciso deixar claro o que é feito com  as imagens processadas. Imagina, por exemplo, que um governo estrangeiro queira acessar as informações do Fabro. Em tese, ele teria que passar por diplomacia, Itamaraty etc. Mas isso está mudando.

Há regras limitando a aplicação da tecnologia no Brasil?

Fabro Steibel Temos a Lei Geral de Dados Pessoais e o Marco Civil da Internet, que estabelecem requerimentos para tratamento de dados pessoais muito fortes.

Temos que lembrar que as fotos são dados pessoais e seu tratamento, algo sensível. O Estado tem o dever de tratar em uma lei específica, exigindo um plano de riscos e políticas de usos. E o próprio Estado tem que estar preparado para fiscalizar.

Será que os dados de face coletados pela segurança dos estados estão sendo mantidos pelo governo ou doados para uma empresa chinesa, como a Huawei?

Como você encara a proibição adotada por três cidades americanas?

Fabro Steibel Ela mostra que alguns governos estão preocupados com a privacidade do cidadão, e deveríamos seguir o mesmo caminho.

Não precisaríamos necessariamente proibir. San Francisco tem grau de conectividade maior, e proibiu apenas para o uso do governo. Dito isso, não dá para permitir qualquer coisa.

Seria bom se fossem instituídas regras de “accountability” [prestação de contas] e controle sobre esses sistemas e os dados que eles gerem. Não há lei específicas sobre isso.

 

Todos os conteúdos publicados no Nexo têm assinatura de seus autores. Para saber mais sobre eles e o processo de edição dos conteúdos do jornal, consulte as páginas Nossa equipe e Padrões editoriais. Percebeu um erro no conteúdo? Entre em contato. O Nexo faz parte do Trust Project.

Mais recentes

Você ainda tem 2 conteúdos grátis neste mês.

Informação com clareza, equilíbrio e qualidade.
Apoie o jornalismo independente. Junte-se ao Nexo!