A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) fizeram uma série de recomendações à empresa controladora da plataforma digital X para que a ferramenta de inteligência artificial da plataforma, o Grok, não seja usada indevidamente para a geração e circulação de conteúdos sexualizados indevidos. 
Segundo o documento divulgado nessa terça-feira (20), entre as recomendações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo Grok a partir de comandos feitos por usuários.
Notícias relacionadas:
- Governo cria grupo para coordenar plano de inteligência artificial.
- Brasil está entre os países que mais usam inteligência artificial.
As instituições pedem também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas,tanto de crianças e adolescentes quanto de maiores de idade, sem sua autorização, feitas com o Grok.
Também foi recomendada a implementação de mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável.
As recomendações foram elaboradas diante de denúncias de usuários que apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.
Também foram tomados como base reportagens veiculadas na imprensa nacional e internacional e por testes realizados pelas instituições, que apontam o uso da ferramenta ilegalmente por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.
As instituições alertam que esse tipo de conteúdo pode impactar tanto a proteção de dados pessoais, quanto as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, argumentam as instituições.
As recomendações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização.
De acordo com o documento, apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplicação da internet não seriam responsáveis pelo conteúdo danoso publicado por terceiros, salvo após decisão judicial, a retirada deve ser executada.
Isso porque as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas sim por meio de uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada amplamente pelo X, “o que o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”, diz o texto.
O documento destaca ainda que, recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, precisamente por entender que ele “não oferece proteção suficiente a direitos constitucionais relevantes”.
No julgamento, a Corte fixou que os provedores de aplicação da internet teriam especial dever de cuidado, de adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra as mulheres em razão da condição do sexo feminino, inclusive conteúdos que propagam ódio contra elas.
As instituições lembram ainda que a própria política de autorregulação do X relacionada à nudez não consensual proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos que tenham sido produzidos ou compartilhados sem o consentimento das pessoas envolvidas.
A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, em contextos envolvendo o Grok, o que torna “insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial, sem filtros rigorosos, que favoreça condutas como essas”.
Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições. Essas medidas poderão ser adotadas em sede administrativa e em sede judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, crianças e adolescentes.
