Com a evolução da inteligência artificial generativa (IA), a internet está cada vez mais repleta de conteúdos que se assemelham aos criados por humanos. Esse conteúdo criado por IA (CGIA), no entanto, gera questionamentos sobre direitos autorais e propriedade intelectual.
Para proteger seus direitos autorais, muitas empresas e desenvolvedores estão adicionando marcas ao CGIA. Entretanto, um novo estudo publicado por pesquisadores da Universidade Tecnológica de Nanyang, da Universidade de Chongqing e da Universidade de Zhejiang revela que essas marcas d’água podem ser facilmente removidas ou forjadas.
Estratégias que poderiam permitir que invasores removessem e forjassem marcas d’água
A primeira estratégia envolve coletar dados de uma empresa de IA alvo, aplicativo ou serviço de geração de conteúdo e, em seguida, usar um modelo de remoção de ruído publicamente disponível para “purificar” esses dados.
A segunda estratégia, todavia, envolve treinar uma rede generativa adversarial (GAN) usando esses dados purificados.
Portanto, pesquisadores descobriram que, após o treinamento, esse modelo baseado em GAN poderia remover ou forjar com sucesso a marca d’água.
Distribuição de dados
Em testes iniciais, os pesquisadores descobriram que a estratégia era muito eficaz em remover e forjar marcas d’água de várias imagens feitas por um serviço de geração de conteúdo baseado em IA.
Nosso método é baseado na distribuição de dados, portanto, indica que os esquemas de marca d’água existentes não são seguros. Para ser honesto, não quero que nosso trabalho se torne uma ameaça ao mundo real, porque isso nos tornaria incapazes de governar os modelos generativos. Pessoalmente, espero que ele inspire outros a projetar alguns esquemas de marca d’água mais avançados para se defender contra nossos ataques.
Guanlin Li, co-autor do estudo
Em breve, as pesquisas poderão servir de inspiração para empresas e especialistas em IA, motivando o desenvolvimento de técnicas mais sofisticadas de marca d’água ou alternativas mais eficazes para combater a disseminação ilegal do CGIA.
Fonte: Olhar Digital
Comentários