Outro dia, entrei em uma loja e rapidamente uma vendedora me abordou dizendo que sabia que não queria ajuda, mas que ela estaria ali caso precisasse. Ela estava certa. Eu queria olhar as opções daquele local com tranquilidade, afinal, ainda não sabia o que levaria. O curioso é que logo perguntei à ela como sabia que não desejava auxílio naquela compra. Foi então que ela me revelou que a loja tinha um sistema de Inteligência Artificial que lia minhas emoções.

Fiquei entusiasmada com a novidade, afinal, sou uma entusiasta no assunto, mas logo me veio a consciência que tal tecnologia poderia também ser um perigo iminente se mal usada.

Imagine nossas emoções serem totalmente julgadas e analisadas por máquinas de reconhecimento facial? Além disso, pense que ela nos olharia a expressão externa sem saber o que temos internamente.

Tudo isso é, certamente,um avanço que pode ajudar em muitos seguimentos, como no caso da loja. Mas para tantas outras áreas, deve ser visto com cautela.

Primeiro, é preciso lembrar que a IA é uma tecnologia que vem para somar e não para substituir a capacidade e inteligência humana. Segundo, é que ela pode errar se for conduzida totalmente sozinha. Terceiro, é preciso rever até onde nossas emoções e sentimentos podem e/ou devem interferir em diversas decisões.

No livro “Falando com estranhos”, o autor Malcolm Gladwell conta diversas histórias sobre como somos conduzidos por nossos sentimentos e ainda fala sobre um sistema de inteligência artificial que se mostrou mais eficaz do que juízes na avaliação de acusados de crimes.

Um grupo alimentou um sistema de inteligência artificial com as mesmas informações que promotores haviam fornecido a juízes em audiências de custódia em Nova York. O computador analisou mais de 500 mil casos e fez sua própria lista de pessoas que mereciam liberdade. Na disputa homem versus máquina, os resultados não foram nem próximos.

Tendo a possibilidade de olhar nos olhos dos acusados e ainda escutar suas histórias em um tribunal, suas emoções e sentimentos é claro que a análise final seria bem diferente das maquinas.

De um lado temos IA que vai agir de maneira totalmente racional a partir dos dados que tem nas mãos e do outro temos pessoas de carne e osso que, para chegar a um veredito, seu emocional terá uma parcela importante. E eu pergunto: quem tem vantagens nesse caso?

Não há uma resposta certa para essa pergunta, mas percebo que ambos os lados tem vantagens e desvantagens e que a humanidade precisa ter Inteligência superior que as máquinas.

Máquinas x Humanos

Os avanços nesse assunto estão cada vez mais rápidos. Um estudo publicado na revista IEEE Transactions on Affective Computing, mostra que sinais fisiológicos foram adicionados à análise de sentimento multimodal pela primeira vez por pesquisadores do Japão.

A equipe analisou 2.468 interações com uma IA de diálogo, obtidas de 26 participantes, para estimar o nível de prazer experimentado pelo usuário durante a conversa. O usuário foi então solicitado a avaliar o quão agradável ou entediante eles acharam a conversa. A equipe usou o conjunto de dados de diálogo multimodal chamado “Hazumi1911”, que combinou exclusivamente reconhecimento de fala, sensores de tom de voz, expressão facial e detecção de postura com potencial elétrico da pele, uma forma de sensoriamento de resposta fisiológica.

Em escolas espalhadas pelo mundo já vemos a inteligência artificial sendo usada para entender as emoções dos alunos. Isso aconteceu em um colégio secundário de garotas de Hong Kong, enquanto elas assistiam aulas de suas casas.

Todas as expressões faciais foram constantemente analisadas por meio das câmeras de seus computadores. Enquanto isso, o software chamado 4 Little Trees, um programa de inteligência artificial (IA), começou a ler as emoções dos alunos enquanto aprendem.

Os desenvolvedores do software afirmam que o objetivo é ajudar os professores a personalizar e tornar o ensino a distância mais interativo, para que eles possam responder às reações dos alunos em tempo real. O algoritmo 4 Little Trees mede os micromovimentos dos músculos faciais e tenta identificar emoções como alegria, tristeza, raiva, surpresa ou medo. A empresa garante que os algoritmos geram relatórios sobre o estado emocional de cada aluno, podendo também avaliar sua motivação e atenção. Eles também alertam os alunos para “prestarem atenção novamente quando estiverem distraídos”.

As gigantes da tecnologia dos EUA, como Amazon, Microsoft e Google, oferecem análise básica das emoções, enquanto outras empresas menores, como Affectiva e HireVue, as adaptam para setores específicos, como automotivo, publicidade ou recursos humanos. A Disney usou a mesma tecnologia para testar as reações de seus voluntários a uma série de filmes, como Star Wars: O Despertar da Força e Zootropolis.

Logo menos, a IA que lê as emoções estará em outros setores, onde seu algoritmo será responsável por julgar tais sentimentos por meio da nossa face. Será que estamos prontos para isso?

O fato é que cálculos, algoritmos baseados em probabilidade não são suficientes para criar uma ferramenta 100% confiável e dessa maneira é bem provável cometer injustiças.

Hoje talvez eu não esteja sorrindo, mas isso não quer dizer que esteja triste. Será que a máquina, sem ao menos conversar comigo, entenderá? Outro ponto é que em diversos lugares do mundo, o modo de expressar emoções é diferente.

Os avanços com a Inteligência Artificial são constantes e os benefícios que ela traz para a sociedade são inúmeros, mas tudo precisa ser analisado com cautela e com inteligência.

Quando uma máquina passa a ditar regras onde apenas características totalmente humanas são capazes, é preciso rever, dar dois passos para trás e analisar para onde a humanidade pretende chegar com tudo isso.

*Alessandra Montini é diretora do LabData, da FIA

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!