Desde que foi lançado em 2022, o ChatGPT se tornou sucesso mundial. Porém, para Meredith Whittaker, presidente da Signal Foundation, o chatbot fala com confiança sobre temas que não sabe nem do que se trata e que não deveríamos levá-lo tão a sério ao fazer pesquisas online.
A afirmação de Whittaker, executiva à frente do aplicativo de mensagens homônimo que cresceu como alternativa ao WhatsApp, aconteceu durante seu painel “Por que precisamos frear o desenvolvimento da IA” no Web Summit Rio.
O que disse Whittaker
No evento global de tecnologia, a presidente ainda defendeu a regulamentação da Inteligência Artificial (IA) e a necessidade de proteção dos dados dos usuários.
Ela comparou o ChatGPT a um “tio que aparece nos feriados, bebe álcool e fala com confiança sobre temas que ele não sabe do que se trata”. Whittaker afirmou que, assim como o familiar, o chatbot pode ser engraçado e útil em contextos de lazer, mas que não devemos confiar nele completamente.
Não devemos transformar o chatbot em ferramenta de pesquisa que as pessoas utilizam para se informarem sobre fatos. Por que estamos usando uma besteira como o ChatGPT para coisas sérias?
Meredith Whittaker, no Web Summit Rio
Meredith Whittaker também lembrou que o ChatGPT utiliza grande volume de informações retiradas “dos cantos mais profundos da internet” e, usando eles, “responde conforme o contexto e prevê qual seria a próxima palavra da frase”. Ou seja, o chatbot não tem autoridade nos assuntos e não há garantia que a informação passada seja real.
Além disso, o sistema da ferramenta trabalha com dados de até 2021, não estando atualizado.
IA, regras e regulamentação
Solução à IA
Ela acredita que a única forma de combater essa hegemonia, impedir o crescimento desenfreado da IA e estabelecer regras que regulam o uso é em conjunto. Isso pode vir, por exemplo, em políticas públicas locais que supervisionem as informações compartilhadas na internet com as grandes empresas.
A solução pode estar em se organizar enquanto sociedade. É preciso determinar como as informações estão sendo utilizadas e por quem.
Meredith Whittaker, no Web Summit Rio
Signal Foundation
Ao final do painel, Whittaker foi questionada sobre como o aplicativo de mensagens tem sido lar de supremacistas brancos e grupos de extrema-direita. Um dos motivos para isso é porque a plataforma criptografa as conversas, dando camada extra de segurança e garantindo o anonimato dos usuários.
Ela não respondeu diretamente e apenas reforçou o compromisso da empresa em manter o anonimato, afirmando que “nosso objetivo é preservar a habilidade de nos comunicarmos de forma privada, como era antes da internet”.
Fonte: Olhar Digital
Comentários