Um grupo de alunos da Westfield High School, em Nova Jersey (EUA), usou um aplicativo de inteligência artificial (IA) para montar fotos de meninas da escola em imagens pornográficas. Chamada de deepfake, a prática foi descoberta e alertada por algumas das vítimas, que souberam das fotos após um dos garotos decidir contar o motivo do “burburinho” na escola.
Para quem tem pressa:
Este é um incidente muito sério. As novas tecnologias tornaram possível a falsificação de imagens e os alunos precisam saber o impacto e os danos que essas ações podem causar a terceiros.
Mary Asfendis, diretora da Westfield High School.
Não sendo só um caso relativamente novo para a polícia, já que vem amparado pelo boom da IA, os pais também debatem sobre aplicar ou não uma medida mais severa.
Estou apavorada com a forma como isso vai vir à tona e quando. Minha filha tem um futuro brilhante e ninguém pode garantir que isso não a impactará profissionalmente, academicamente ou socialmente.
Dorota Mani, uma das mães, ao WSJ.
A polícia de Westfield, cidade de Nova Jersey, investiga o caso, que deve demorar meses para ser concluído. A situação foi parar também no gabinete do estado — principalmente ante a corrida de governos para regular o uso da tecnologia: um senador estadual pediu aos promotores do condado para acompanhar o caso de perto.
Vale lembrar que a situação não entra em conflito apenas com o uso malicioso da IA, mas pode ser baseado também em bullying e assédio digital.
IA nas escolas: caso também ocorreu no Brasil
Não surpreendentemente, está semana uma escola do Brasil, no Rio de Janeiro, também enfrentou a mesma situação. De acordo com a CNN, pais de alunos do Colégio Santo Agostinho receberam uma circular da direção da escola alertando para o uso de ferramentas de IA na criação de montagens de fotos de alunas.
Mais de 20 vítimas do assédio já foram identificadas. O colégio se colocou à disposição das famílias das alunas e afirmou que tomará medidas disciplinares cabíveis, em âmbito escolar. A instituição alertou também que os pais prestem mais atenção na vida virtual dos filhos.
A Polícia Civil foi acionada e o caso é investigado na Delegacia de Proteção à Criança e ao Adolescente.
Fonte: Olhar Digital
Comentários