O Ministério da Justiça e Segurança Pública pediu que a Agência Nacional de Proteção de Dados (ANPD) investigue 13 aplicativos de inteligência artificial que simulam amizade, companheirismo ou vínculo afetivo com os usuários. O governo aponta riscos de dependência emocional, uso compulsivo, exposição a conteúdo inadequado e coleta excessiva de dados, especialmente quando essas ferramentas são usadas por crianças e adolescentes. A lista analisada inclui Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Swipey, Anima e SpicyChat.AI. O levantamento é preliminar e, segundo o próprio Ministério da Justiça, não significa que essas plataformas já tenham cometido infrações. O que são IAs de "companhia"? Esses aplicativos são diferentes de chatbots de uso geral, como ChatGPT e Gemini. Eles são desenvolvidos para manter conversas contínuas e personalizadas, lembrar interações anteriores e simular uma personalidade ou relação emocional com o usuário. Em alguns casos, a proposta é funcionar como amigo virtual, parceiro romântico ou confidente. É justamente esse tipo de interação prolongada que preocupa o governo, principalmente quando envolve menores de idade. Segundo a Secretaria Nacional de Direitos Digitais (Sedigi), os possíveis impactos incluem apego excessivo, substituição de relações presenciais, privação de sono, queda no desempenho escolar e abandono de outras atividades . Também foram identificados riscos de exposição a conteúdo sexualizado ou inadequado. O uso desse tipo de serviço cresceu rapidamente. Dados citados pelo Ministério da Justiça, com base em relatório do Unicef, indicam que o número de aplicativos de companhia por IA passou de 16 em 2022 para 128 em julho de 2025 . Somente no primeiro semestre de 2025, essas plataformas somaram cerca de 60 milhões de downloads . Verificação de idade é um dos problemas Outro ponto levantado pelo governo é a facilidade para menores acessarem esses aplicativos. A análise concluiu que a maioria dos serviços avaliados utiliza apenas a autodeclaração de idade , em que o próprio usuário informa quantos anos tem. Esse mecanismo pode ser facilmente contornado e, segundo a Sedigi, é insuficiente para serviços que oferecem conteúdos inadequados para menores de 18 anos. O documento também menciona a criação de perfis emocionais e comportamentais a partir das conversas. Essas informações podem ser usadas para personalizar respostas, publicidade ou ofertas de recursos pagos, o que levanta dúvidas sobre possível exploração comercial da vulnerabilidade de adolescentes. A investigação deverá considerar as regras do [object Object] , que estabelece obrigações específicas para serviços usados por menores. A nota foi enviada tanto à ANPD quanto à Secretaria Nacional do Consumidor (Senacon). Preocupação também cresce fora do Brasil O debate não está restrito ao país. A União Europeia apresentou recentemente uma proposta para restringir chatbots capazes de simular relações emocionais com menores, incluindo medidas para reduzir o risco de dependência e limitar o armazenamento de informações entre conversas. No Brasil, o pedido de investigação faz parte de uma série de ações recentes do governo voltadas à segurança de crianças e adolescentes no ambiente digital, que também inclui novas regras para comunicação de crimes à Polícia Federal e medidas contra plataformas como o Discord. Veja mais de IA no Canaltech: Como usar ChatGPT e Gemini sem entregar seus maiores segredos
