Berliner Tageblatt - Aumenta pressão sobre Musk por geração de imagens sexualizadas por IA

As Filipinas se tornaram nesta quinta-feira (15) o terceiro país a proibir o Grok, depois de Malásia e Indonésia, enquanto Grã-Bretanha e França pediram que suas leis sejam respeitadas.

Vários países exigiram da xAI, empresa desenvolvedora do Grok, mudanças no chatbot após ele ser usado para gerar uma avalanche de imagens obscenas de mulheres e menores.

A X anunciou na quarta-feira que "vai bloquear geograficamente a opção" de criar imagens de pessoas em "biquíni, roupa íntima e trajes semelhantes" nos países onde a prática for proibida.

O anúncio chega depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por "facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", segundo um comunicado.

"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", disse a equipe de segurança do X em comunicado.

O primeiro-ministro britânico, Keir Starmer, celebrou nesta quinta-feira a decisão do X de "agir para cumprir plenamente a legislação britânica".

"Isso deve ser feito imediatamente", afirmou. "Se precisarmos reforçar ainda mais as leis existentes, estamos dispostos a fazê-lo", acrescentou.

"Temos que limpar a internet agora mesmo, porque está surgindo muito conteúdo tóxico, especialmente com a chegada da IA", declarou o secretário de Telecomunicações das Filipinas, Henry Rhoel Aguda.

- Modo picante -

O chamado "modo picante" do Grok permite que usuários criem deepfakes com instruções simples de texto, como "coloque um biquíni" ou "tire a roupa".

Uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20.000 imagens geradas pelo Grok revelou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.

A comissária francesa para a infância, Sarah El Hairy, anunciou que encaminhou as imagens geradas pelo Grok ao Ministério Público, ao regulador de mídia Arcom e à União Europeia, que pediu a suspensão total da geração desse tipo de conteúdo.

O governador da Califórnia, Gavin Newsom, afirmou na quarta-feira que a decisão "vil" da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a pedir ao procurador-geral do estado, Rob Bonta, que levasse o caso à Justiça.

Bonta disse que a investigação vai determinar se a xAI violou a lei estadual, depois que as imagens explícitas foram "usadas para assediar pessoas na internet".

- Postagens apagadas -

Para aumentar a pressão sobre a empresa de Musk, uma coalizão de 28 grupos da sociedade civil enviou na quarta-feira cartas abertas aos diretores executivos da Apple e do Google pedindo que proíbam o Grok e o X em suas lojas de aplicativos.

Na semana passada, a xAI tentou conter as críticas ao anunciar que as opções de geração e edição de imagens no X estavam "limitadas a assinantes pagos".

A Indonésia bloqueou no sábado o acesso ao Grok, e a Malásia fez o mesmo no dia seguinte.

F.Müller--BTB