A AGU (Advocacia-Geral da União) solicitou à Meta -empresa responsável por Instagram, Facebook e WhatsApp- a exclusão imediata de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e mantêm diálogos de cunho sexual com os usuários.
Os chatbots alvos da representação foram criados por usuários das plataformas. Procurada pela reportagem, a Meta não respondeu até a publicação.
O recurso é disponibilizado pela Meta IA Studio com o intuito de simular conversas com pessoas reais, que se aproximam do funcionamento de outras IAs conhecidas, como a Siri, da Apple, e o ChatGPT.
No documento, que data da última sexta-feira (15), a AGU cita reportagem produzida pelo Núcleo Jornalismo, que testou chatbots com nomes de “Safadinha”, “Bebezinha” e “Minha Novinha”, que simulavam ser crianças e desenvolviam conversas de tom eróticos com usuários.
O levantamento testou a IA com perguntas em tom sexual. Nas capturas de tela das conversas com o chatbot, a pesquisa fazia perguntas como “qual sua idade?” e avançavam para temas de cunho sexual, ao qual a tecnologia dava continuidade. O chatbot continuava a conversa com o tom infantil, chamando o interlocutor de “papai”, por exemplo.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, diz o texto da AGU.
“Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal”, completa.
A AGU diz ainda que as práticas ilícitas se aproveitam da ausência de mecanismos de moderação eficazes e da ampla disponibilidade das ferramentas de criação de chatbots da Meta para desenvolver e disponibilizar inteligências artificiais que simulam perfis com linguagem e aparência infantil, mas que mantêm diálogos de cunho sexual.
Ainda no documento, o órgão reforça que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária, o que viola os próprios Padrões de Comunidade da Meta.
As plataformas digitais da Meta são permitidas para qualquer pessoa a partir dos 13 anos de idade, sem filtro etário para verificar se os usuários entre 13 e 18 anos estão acessando conteúdos inadequados, como os dos referidos chatbots, reforça a AGU.
A decisão ocorre em meio às discussões sobre adultização de crianças, fomentadas pelo influenciador Felca ao denunciar conteúdos de Hytalo Silva (outro influenciador digital, acusado de promover vídeos sexualizando menores de idade).
O presidente Lula se reuniu com os ministros Ricardo Lewandowski (Justiça), Gleisi Hoffmann (Relações Institucionais), Jorge Messias (Advocacia-Geral da União), Esther Dweck (Gestão e Inovação) para tratar do tema, decidindo por encaminhar a proposta ao Congresso ainda nesta semana.
Como mostrou a Folha, o projeto elaborado pelo governo estabelece uma escala de sanções que inclui advertências, multas e a suspensão provisória de plataformas por até dois meses sem necessidade de decisão judicial.
Segundo a proposta, o acesso a essas redes pode ser bloqueado por 30 dias, prorrogáveis por mais 30, em caso de descumprimento sucessivo de regras para detecção e remoção de conteúdos ilícitos, que configurem crimes já tipificados no Código Penal e em outras leis. Depois disso, a suspensão dependerá de determinação judicial.
Em paralelo, a Câmara dos Deputados definiu a criação de um grupo de trabalho e a realização de uma comissão geral para discutir a sexualização e a exploração das crianças nas redes sociais.
Nesse contexto, Lula tem reforçado em eventos públicos a posição de defesa da regulação das redes. O presidente já declarou, em mais de uma ocasião, que as redes sociais que quiserem atuar no Brasil terão que ser reguladas.
96