A Persistência das Falhas e o Prazo da ANPD para o X
A ferramenta de inteligência artificial Grok, da rede social X, está no centro de uma nova controvérsia após testes da Agência Nacional de Proteção de Dados (ANPD) indicarem sua persistência na geração de imagens sexualizadas sem consentimento. Em resposta às autoridades brasileiras, o X questionou a metodologia dos testes e solicitou o detalhamento dos procedimentos adotados antes que o prazo de cinco dias para correção das falhas comece a ser contabilizado.
Desde janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) têm exigido que o X impeça a criação de conteúdo sexualizado por meio do Grok. Contudo, em análises recentes, os órgãos constataram que as falhas continuam, com a empresa não apresentando provas concretas da eficácia das medidas implementadas. O X, por sua vez, argumenta que a nota técnica que embasou as ações carece de informações cruciais para a validação dos resultados.
Contexto e as Exigências da ANPD
Em janeiro, as autoridades brasileiras, incluindo ANPD, MPF e Senacon, emitiram uma determinação conjunta para que o X adotasse medidas imediatas contra a geração de imagens sexualizadas de adultos e menores sem consentimento pela IA Grok. Novos testes, divulgados na semana passada, confirmaram que as vulnerabilidades persistem, com o X falhando em apresentar evidências concretas de melhorias.
Diante da recorrência das falhas, a ANPD e a Senacon concederam ao X um prazo de cinco dias úteis para aprimorar e implementar mecanismos eficazes de contenção desse tipo de conteúdo, exigindo um detalhamento das providências. Os órgãos alertaram para a possibilidade de aplicação de multas e abertura de ações judiciais em caso de descumprimento, em um cenário de crescentes denúncias globais sobre o uso indevido da ferramenta para adulterar imagens.
A Contestação do X e Questões Técnicas
Na sua manifestação oficial à ANPD, o X alegou que a nota técnica dos testes não forneceu dados essenciais, como a versão específica do Grok utilizada, os comandos (prompts) inseridos e os resultados detalhados obtidos. A empresa também refutou qualquer associação com o domínio "grokimagine.ai", citado em relatórios iniciais, afirmando que este não pertence nem é administrado pelo X.
O X expressou preocupação de que os testes possam ter sido realizados em plataformas de terceiros, não relacionadas ao serviço oficial do Grok, que opera em Grok.com. Por isso, a empresa solicitou a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais, argumentando a impossibilidade de aferir a eficácia de suas próprias barreiras em um ambiente externo.
