Ministério da Justiça Analisa Impacto de Companheiros de IA
O Ministério da Justiça e Segurança Pública (MJSP) anunciou que está recomendando uma investigação sobre os riscos associados aos chatbots conhecidos como “companheiros de IA”, personagens digitais que simulam amizade e romance com seus usuários. Essa recomendação surge no contexto de uma nova nota técnica emitida pela Secretaria Nacional de Direitos Digitais (Sedigi), que vincula o uso dessas tecnologias ao Estatuto Digital da Criança e do Adolescente (ECA Digital).
Após uma análise preliminar de 13 serviços de companheiros de IA, como Character.AI e Replika, o Ministério aponta indícios de “desconformidades” nas operações dessas plataformas. Embora não afirme que houve violações, a nota sugere uma reavaliação das práticas para garantir a proteção de crianças e adolescentes durante a interação com essas inteligências artificiais.
Questões Levantadas na Análise
Dentre os principais pontos de investigação estão a verificação de idade dos usuários, os riscos de uso excessivo, e a exposição a conteúdos inapropriados.
O governo vai averiguar também se há uso inadequado de dados para criar perfis emocionais e comportamentais dos usuários, o que poderia expô-los a manipulações indesejadas.
A análise reafirma que a autodeclaração de idade dos usuários é uma fragilidade que pode levar a acessos indevidos, colocando em risco as crianças e adolescentes que usam esses serviços. O governo reforça a necessidade de garantir que as plataformas cumpram suas obrigações legais em relação à proteção e segurança dos usuários jovens.
Próximos Passos e Colaborações
A recomendação do MJSP inclui uma análise pela Secretaria Nacional do Consumidor (Senacon), que avaliará se as plataformas seguem normas de transparência na publicidade, monetização e manuseio de informações dos usuários. Essa colaboração entre diferentes setores do governo visa criar um ambiente digital mais seguro, sobretudo para os mais jovens.
À medida que a tecnologia avança, as preocupações sobre a ética e a segurança no uso de IA se tornam cada vez mais relevantes, inspirando debates sobre a regulação dessas novas ferramentas digitais.