A Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacom), representando o governo brasileiro, e o Ministério Público Federal (MPF) apresentaram uma recomendação conjunta ao X (antigo Twitter) diante de denúncias sobre o uso do Grok. O assistente de inteligência artificial da rede tem sido utilizado por usuários para produzir conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais sem o consentimento delas.

A imprensa nacional e internacional têm reportado o uso da ferramenta para a criação dos chamados deepfakes, imagens falsas a partir de pessoas reais, com caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.

"Dada a seriedade das ocorrências, elas podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes", escreveram as instituições.

O MPF, a ANPD e a Senacon deram até 27 de janeiro para a empresa informar a adoção de medidas técnicas, administrativas e de governança de dados para impedir que a ferramenta de inteligência artificial Grok produza conteúdos que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou de maiores de idade sem sua autorização. Isso vale para a manipulação de fotografias, imagens reais, vídeos ou arquivos de voz.

Caso a recomendação não seja acatada dentro desse prazo, as instituições dizem que poderão adotar as providências cabíveis, nas esferas administrativa e judicial, inclusive aquelas previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados.

Também foi recomendada a suspensão imediata de contas envolvidas nesse tipo de produção, via Grok. ANPD, Senacom e MPF defenderam que essa suspensão seja feita continuamente e determinaram sua comprovação por meio de relatórios mensais apresentados pela empresa, "como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla".

Além disso, as instituições também recomendaram à empresa:

- criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários;

- implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável;

- elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural;

- aplicar, com urgência e efetividade, a política relacionada à nudez não consensual e a política contra a exploração sexual de menores anunciadas como atualmente vigentes perante os usuários do X.