Ao passo que a Inteligência Artificial (IA) se tornou o novo foco das big techs, as equipes responsáveis pelas pesquisas relacionadas à ética do setor têm se tornado cada vez menores. Isso, quando existem.
Apesar da competição acirrada por inovações no setor da Inteligência, a diminuição dos funcionários da área vem em meio a demissões em massa nas companhias de tecnologia. O Twitter, Amazon Twitch e Microsoft foram três que liberaram ou realocaram toda a equipe de ética para IA.
O caso da Twitch
Um ex-funcionário da Twitch, que preferiu se manter anônimo, comentou o caso para o The Washington Post.
Queríamos tornar o Twitch mais igualitário e também mais seguro para criadores de todas as origens. Isso é um passo atrás.
Ex-funcionário da Twitch
Outros casos e consequências
Já a cientista da computação que liderou a equipe de ética de IA do Google, Timnit Gebru, foi demitida de forma polêmica em dezembro de 2020 e se manifestou.
Para mim, parece que eles estão em uma corrida e só querem vencer a corrida, e qualquer um que esteja fazendo qualquer outra coisa é inútil.
Timnit Gebru
Após a saída do Google, ela iniciou uma ONG dedicada a pesquisar danos da IA e buscar soluções. Gebru disse ao The Washington Post que vê as equipes de ética das big techs como “vitrines”, que são rapidamente deixadas de lado quando há cortes de custos.
Contexto da IA e ética
Além de acontecer simultaneamente com o avanço da IA e as demissões em massa, a redução nas equipes de ética vem em meio a uma onda de IA generativa. Essa nova forma de tecnologia é capaz de gerar conteúdo, interagir com o ser humano e realizar tarefas. O ChatGPT, da OpenAI, o gerador de imagens Midjourney e o Bard, chatbot do Google, são alguns exemplos.
Agora, as pessoas estão expostas e em contato com ferramentas que, antes, ficavam reclusas a laboratórios de testes das big techs. Em contrapartida, a preocupação das empresas é a de ficar para trás em relação aos lançamentos, o que diminui a cautela com a ética, já que não há mais tempo de realizar pesquisas internas e receber feedbacks para entender as reações da IA.
Reação das big techs
Na terça-feira, 28 de março, acadêmicos e líderes empresariais assinaram uma carta pedindo que empresas de IA suspendessem o treinamento de novos chatbots. O dono e CEO do Twitter, Elon Musk, o cofundador da Apple Steve Wozniak, e o veterano de pesquisas de IA Yoshua Bengio foram alguns dos que assinaram.
A carta defendia que “poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.
Futuro da IA generativa
Para o ex-funcionário da Twitch, os pesquisadores e membros de equipes de ética de IA que permanecerem nas big techs terão que se adaptar e mostrar a seus empregadores que esse conhecimento ajudará a evitar problemas no futuro. Consequentemente, será feita uma economia financeira.
Estamos defendendo o desenvolvimento seguro e sustentável de produtos.
Ex-funcionário da Twitch
Com informações de The Washington Post.
Imagem: sdecoret/Shutterstock
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Fonte: Olhar Digital
Comentários