A integração do DALL-E 3 do Bing, desenvolvida pela Microsoft em parceria com a OpenAI, foi alvo de controvérsia devido à criação de arte apresentando personagens animados muito conhecidos e as Torres Gêmeas.
Alguns usuários conseguiram contornar as medidas de segurança da ferramenta e geraram imagens questionáveis, incluindo personagens famosos pilotando um avião em direção às Torres Gêmeas. Em resposta, a Microsoft bloqueou algumas palavras-chave relacionadas às torres, mas ainda é possível obter as imagens com algumas alterações nas palavras.
Entenda a polêmica
Segurança da IA generativa
A empresa não detalhou como funcionam as medidas de segurança e não comentou sobre o bloqueio recente do conteúdo relacionado às torres. No entanto, é possível contornar as restrições alterando as palavras da solicitação. A OpenAI reconheceu que suas medidas de segurança não são perfeitas e estão sendo constantemente aprimoradas.
Além disso, foi relatado que pessoas estão orientando outras no uso de ferramentas gratuitas, como o Bing Chat, para criar e distribuir imagens racistas. É importante ressaltar que as medidas de bloqueio de conteúdo podem estar chegando tarde demais.
My AI, chatbot do Snapchat, pode ser banido do Reino Unido; entenda
O Information Commissioner’s Office (ICO) alertou, nesta sexta-feira (6), o Snapchat para o uso do My AI, seu chatbot de IA, por crianças e adolescentes. Segundo o órgão fiscalizador de dados do Reino Unido, o aplicativo tem falhado em avaliar adequadamente os riscos de privacidade, o que pode resultar no banimento da tecnologia no país.
Leia a matéria completa aqui
Fonte: Olhar Digital
Comentários