IBM retoma trabalhos em reconhecimento facial – e levanta preocupações

A IBM vai desenvolver, no Reino Unido, uma plataforma nacional de biometria que vai oferecer reconhecimento facial para autoridades de imigração e aplicação da lei. A empresa assinou, em julho, um contrato de US$ 69,8 milhões (aproximadamente R$ 345 milhões) com o governo britânico para começar os trabalhos.

Para quem tem pressa:

As informações constam em documentos revisados pelo site de tecnologia The Verge e um veículo britânico de jornalismo investigativo chamado Liberty Investigates. Ambos publicaram sobre esses documentos nesta quinta-feira (31).

Essa decisão marca o retorno da IBM à arena de reconhecimento facial, apenas três anos após a empresa anunciar publicamente sua decisão de abandonar esse tipo de tecnologia devido a preocupações com perfil racial, vigilância em massa e violações dos direitos humanos.

IBM, reconhecimento facial e preocupações

O projeto “Home Office Biometrics Matcher Platform”, delineado nos documentos analisados, inicialmente concentra-se em criar uma capacidade de correspondência de impressões digitais. No entanto, fases posteriores do projeto introduzirão o reconhecimento facial para fins de imigração, culminando eventualmente em “correspondência facial para uso da aplicação da lei”.

A funcionalidade central da plataforma envolve a correspondência de fotos de indivíduos com imagens armazenadas em um banco de dados, um processo conhecido como correspondência “um-para-muitos”.

Curiosamente, a própria IBM categorizou tais sistemas de correspondência como propensos a serem usados para vigilância em massa e perfil racial em setembro de 2020. Para alguns, isso sinaliza contradições entre a postura anterior da empresa e a atual.

No entanto, o porta-voz da IBM, Imtiaz Mufti, refutou quaisquer contradições, afirmando que seu trabalho atual está alinhado com seus compromissos de 2020. Ele disse:

A IBM não oferece mais tecnologia de reconhecimento facial de propósito geral e, de acordo com nosso compromisso de 2020, não apoia o uso de reconhecimento facial para vigilância em massa, perfil racial ou outras violações dos direitos humanos. A plataforma Home Office Biometrics Matcher e o contrato de serviços associados não são usados para vigilância em massa. Ele apoia serviços policiais e de imigração na identificação de suspeitos em um banco de dados de dados de impressões digitais e fotos. Ele não é capaz de capturar vídeo, o que geralmente seria necessário para suportar o uso biométrico de reconhecimento facial em multidões.

Já defensores dos direitos humanos argumentam que o envolvimento da IBM com o projeto contradiz seus compromissos anteriores.

A IBM demonstrou estar disposta a passar por cima do corpo e da memória de George Floyd para buscar um contrato com o Ministério do Interior. Isso não será esquecido.

Kojo Kyerewaa, do Black Lives Matter do Reino Unido

O ressurgimento da IBM no mercado de reconhecimento facial desencadeou debates sobre as implicações éticas da tecnologia, preocupações com a privacidade e seu papel potencial em violações dos direitos humanos. À medida que o reconhecimento facial continua a moldar as práticas de vigilância, suas consequências para a sociedade permanecem um tópico de intenso escrutínio.

Contexto

Em meio ao movimento Black Lives Matter após o assassinato de George Floyd, o CEO da IBM, Arvind Krishna, escreveu uma carta ao Congresso prometendo não oferecer tecnologia de reconhecimento facial “de propósito geral”. Ele escreveu, na época:

O combate ao racismo é tão urgente quanto nunca. A IBM se opõe firmemente e não irá aprovar o uso de qualquer tecnologia, incluindo a de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfil racial, violações dos direitos humanos e liberdades básicas, ou qualquer propósito que não esteja de acordo com nossos valores e Princípios de Confiança e Transparência.

Nos meses seguintes, a empresa reafirmou sua promessa, pedindo o controle de exportação dos EUA para abordar preocupações de que o reconhecimento facial poderia ser mal utilizado no exterior para reprimir dissidências e violar os direitos de privacidade.

A aplicação da tecnologia de reconhecimento facial tem sido cercada por controvérsias. Nos EUA, ela levou a prisões injustas, enquanto no Reino Unido sua legalidade tem sido questionada.

Um relatório independente, publicado em 2019, criticou o uso de reconhecimento facial ao vivo pelo Serviço de Polícia Metropolitana de Londres por falta de uma “base legal explícita” e possível violação dos direitos humanos.

Em 2022, o Tribunal de Apelação do Reino Unido decidiu que o uso da tecnologia de reconhecimento facial pela Polícia de South Wales violava os direitos de privacidade e as leis de igualdade.