Brasil pede bloqueio de conteúdos sexualizados gerados pelo Grok

Na quarta-feira, o Brasil pediu à rede social X, de Elon Musk, que impedisse o seu chatbot de criar imagens sexualmente explícitas, tornando-se no mais recente país a pressionar o bilionário a corrigir a ferramenta de inteligência artificial.

A Indonésia foi o primeiro país a bloquear totalmente o Grok no mês passado, enquanto o Reino Unido e a França afirmaram que manteriam a pressão depois de o chatbot ter produzido uma enxurrada de fotos obscenas de mulheres e crianças.

O X deve «implementar imediatamente medidas adequadas a fim de impedir a produção, por meio do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes, bem como de adultos que não tenham dado o seu consentimento», afirmaram o Ministério Público Federal, a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional de Defesa do Consumidor (Senacon).

As agências deram à plataforma cinco dias para cumprir a ordem, sob pena de ação judicial e multas.

O X alegou ter apagado milhares de publicações e suspendido centenas de contas depois de o Brasil ter emitido um aviso no mês passado, afirmaram as autoridades brasileiras.

Mas verificações revelaram que os utilizadores do Grok ainda conseguiam gerar deepfakes sexualizados, acrescentaram.

Criticaram o X por «não ser transparente na sua resposta».

O X anunciou medidas em 15 de janeiro para impedir que o Grok retirasse a roupa de imagens de pessoas reais em países onde tal ação é considerada ilegal. Ainda está por esclarecer onde essas medidas estão em vigor.

A pressão internacional sobre a empresa xAI para controlar o Grok aumentou depois de o seu recurso chamado «Spicy Mode» permitir que os utilizadores criassem deepfakes sexualizados de mulheres e crianças usando comandos de texto simples, como «coloque-a em um biquíni» ou «tire as roupas dela».

De acordo com o Centro de Combate ao Ódio Digital (CCDH), o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em poucos dias.