O Centro Nacional de Segurança Cibernética da Grã-Bretanha (NCSC) emitiu, nesta quarta-feira (30), um alerta para o risco do uso de chatbots de inteligência artificial por empresas. Segundo o órgão britânico, pesquisas mostram que elas podem ser manipuladas para realizar tarefas prejudiciais e que os problemas de segurança ligados aos algoritmos ainda não foram solucionados.
O que você precisa saber:
De acordo com a Reuters, um exemplo de risco seria com um chatbot de IA implantado em um banco. Se invadido por um hacker, ele pode ser induzido a fazer uma transação não autorizada se sua consulta for estruturada estrategicamente para tal.
As organizações que criam serviços que usam LLMs precisam ter cuidado da mesma forma que teriam se estivessem usando um produto ou biblioteca de código em beta.
NCSC em publicação oficial em seu blog.
Faz meses que diferentes governos estão discutindo como mitigar os perigos da IA generativa, que registou um boom no investimento e na popularidade dos consumidores após o lançamento do ChatGPT da OpenAI — seu impacto já foi, inclusive, comparado ao da chegada da internet.
Países também correm para garantir uma lei que proteja usuários, mas que não impeça o avanço da tecnologia. Os EUA, por exemplo, agendaram um evento fechado para discutir uma regulamentação em setembro. O fórum contará com a presença dos CEOs mais influentes no assunto, como Elon Musk (X/Twitter), Mark Zuckerberg (Meta) e Sam Altman (OpenAI).
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Fonte: Olhar Digital
Comentários