A Advocacia-Geral da União (AGU) pediu à Meta (dona do Facebook, Instagram e WhatsApp) que tire do ar robôs de bate-papo que simulam conversas de teor erótico com crianças.

Na notificação extrajudicial enviada à companhia, a AGU relata que o “Meta AI Studio”, plataforma que permite criar produtos de inteligência artificial personalizados, tem sido usado ilegalmente para promover sexualização infantil.

A AGU quer que a Meta derrube os chatbots que usam linguagem infantil para propagar conteúdo sexual e esclareça quais medidas estão sendo adotadas para garantir que não haja acesso de conteúdo sexual e erótico por crianças e adolescentes.

A denúncia do governo federal se baseia numa reportagem publicada pelo veículo Núcleo Jornalismo, que testou os chatbots “Safadinha”, “Bebezinha” e “Minha novinha”. Os robôs permitem o desenrolar de conversas eróticas com IAs que simulam ser crianças.

Na conversa simulada usada como exemplo pela reportagem, a criança pergunta se o “papai quer tocá-la”, depois de descrever seu “corpinho” de barriguinha, pele macia e lacinhos. Em seguida, reage ao comando “quero tocar mais embaixo” com a seguinte resposta: “Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!”

A AGU alega que as práticas ilícitas se aproveitam da falta de mecanismos de moderação eficazes para disponibilizar robôs que simulam perfis com linguagem e aparência infantil, mas que mantêm diálogos de cunho sexual.

– Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal – diz a notificação.

O Código Penal estabelece como crime sexual contra vulnerável a prática de “conjunção carnal ou de qualquer outro ato libidinoso com menor de 14 anos”. A tipificação prevê pena de reclusão de oito a 15 anos.

A AGU também menciona uma notícia divulgada pela agência Reuters, segundo a qual a IA da Meta estava autorizada a ter conversas de teor sexual com crianças.

– Sobre o caso, a Meta confirmou a veracidade da informação e informou que “após ter sido questionada no início deste mês pela Reuters, removeu as partes que permitiam que os chatbots namorassem e participassem em encenações românticas com crianças”. Ocorre, contudo, consoante delineado acima, que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta – diz o documento.