Filho desativa conta do Google de sua mãe ao dançar nu

Uma criança de 9 anos postou um vídeo nu no YouTube Shorts na conta de sua mãe, sem o seu consentimento. Com isso o Google bloqueou a sua conta, e assim, ela perdeu acesso a seus e-mails, fotos de casamento, vídeo do nascimento de seu filho, e muito mais. 

Essa situação ocorreu no Colorado, nos Estados Unidos. A princípio, a mãe não entendeu porque sua conta havia sido suspensa, e só depois de um tempo seu filho confessou o ato. A empresa de tecnologia não queria reestabelecer o seu usuário pois, segundo a empresa, ele tinha conteúdo que poderia ser ilegal.  

O Google tem um processo automático para identificar conteúdos que infringem as suas diretrizes. Ele é feito por um monitoramento de algoritmo e conta com revisão humana. Se uma publicação tem seu conteúdo considerado explícito para menores de idade, a plataforma desativa a conta do usuário em todos os seus serviços e denuncia a postagem a uma organização sem fins lucrativos que trabalha com a aplicação de leis. Os usuários podem se opor a ação do Google, desde que apresentando argumentos válidos. 

Porém, tudo mudou depois de uma matéria do The New York Times. Agora, a empresa oferece aos usuários a chance de provar sua inocência sob o conteúdo postado, como o caso desta mãe. 

Susan Jasper, chefe de operações de confiança e segurança do Google, disse em uma postagem no blog que a empresa “fornecerá motivos mais detalhados para suspensões de contas”. Ela acrescentou: “Também atualizaremos nosso processo de apelação para permitir que os usuários enviem ainda mais contextos sobre suas contas, inclusive para compartilhar mais informações e documentação de profissionais independentes relevantes ou agências de aplicação da lei para ajudar nossa compreensão do conteúdo detectado na conta”.

Apenas no ano de 2021, o Google desativou mais de 270 mil contas por violar a regra de conteúdos de abuso sexual infantil. Já no primeiro semestre de 2022, os números foram maiores do que no ano anterior inteiro.

Evelyn Douek, professora assistente da Stanford Law School, disse que gostaria que o Google fornecesse mais detalhes sobre como funcionaria o novo processo de apelação. “Só o estabelecimento de um processo não resolve tudo. O diabo está nos detalhes”, disse ela. “A nova revisão é significativa? Qual é a linha do tempo?”

Após 4 meses, a mãe do Colorado teve sua conta restaurada pela empresa. Porém, ela não foi informada sobre a reativação, e soube apenas 10 dias depois, quando uma repórter do Times a avisou. 

“Entendemos como seria perturbador perder o acesso à sua conta do Google e aos dados armazenados nela devido a uma circunstância equivocada”, disse Bryant em um comunicado. “Esses casos são extraordinariamente raros, mas estamos trabalhando em maneiras de melhorar o processo de apelação quando as pessoas nos procuram com dúvidas sobre suas contas ou acreditam que tomamos a decisão errada”.