Órgãos governamentais brasileiros e o Ministério Público Federal (MPF) emitiram um conjunto de recomendações à X (anteriormente Twitter) com o objetivo de impedir o uso indevido de sua ferramenta de inteligência artificial, Grok, para a criação e disseminação de conteúdos sexualizados. A iniciativa visa coibir a geração de material impróprio a partir de comandos de usuários.
O documento, divulgado nesta terça-feira (20), estipula um prazo de 30 dias para que a plataforma implemente procedimentos técnicos e operacionais capazes de identificar, revisar e remover quaisquer conteúdos sexualizados gerados pelo Grok e ainda disponíveis. Paralelamente, as instituições exigem a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de menores de idade quanto de adultos, sem consentimento.
A demanda surge em resposta a denúncias de usuários e reportagens que apontam a criação de deepfakes de caráter sexualizado, envolvendo pessoas reais, incluindo crianças e adolescentes. Testes realizados pelas próprias instituições confirmaram o uso da ferramenta para a produção ilegal desse tipo de conteúdo, que pode acarretar graves violações à proteção de dados, relações de consumo, dignidade humana e outros direitos fundamentais.
As recomendações incluem a implementação de um canal transparente e acessível para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular ou abusivo de informações pessoais. É fundamental que a plataforma assegure respostas adequadas e em tempo hábil a essas reclamações, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.
As instituições reforçam a urgência na adoção de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios de crianças e adolescentes em contextos sexualizados ou erotizados. Da mesma forma, é preciso vetar a criação de conteúdos que representem adultos identificáveis em tais situações sem autorização expressa.
A argumentação para a retirada desses conteúdos baseia-se no entendimento de que o X, ao disponibilizar uma ferramenta de IA que interage diretamente na criação de deepfakes sexualizadas, torna-se coautor e não um mero intermediador. Essa visão é reforçada por decisões recentes do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do Marco Civil da Internet, ao entender que a lei não oferecia proteção suficiente a direitos constitucionais relevantes, impondo aos provedores um dever especial de cuidado.
As autoridades lembram que a própria política de autorregulação do X sobre nudez não consensual possui restrições à publicação de imagens explícitas sem consentimento. A plataforma também veda a produção e disseminação de imagens de terceiros com conteúdo sexual ou erotizado envolvendo o Grok, o que torna insustentável a oferta da ferramenta sem filtros rigorosos. Caso as recomendações não sejam acatadas ou implementadas de forma satisfatória, medidas administrativas e judiciais poderão ser consideradas para garantir a proteção dos cidadãos, com especial atenção a mulheres, crianças e adolescentes.