La Procuraduría General de la República (PGR) en Brasil, envió este lunes (18) una notificación a las redes sociales Instagram, Facebook y WhatsApp para solicitar la exclusión de los robots de inteligencia artificial que simulan apariencia infantil y realizan diálogos con contenido sexual.
La empresa tiene 72 horas para eliminar los bots y aclarar qué medidas ha adoptado para evitar que niños, niñas y adolescentes accedan a contenidos sexuales y eróticos.
En la carta enviada a Meta, empresa que opera las citadas redes, la AGU ( Advocacia-Geral da União) que es una oficina de nivel ministerial en el gobierno brasileño, señaló que los chatbots creados a través de la herramienta Meta IA Studio promueven la sexualización de niños.
La agencia también agregó que las plataformas de Meta están disponibles para menores de edad, a partir de los 13 años, y no existe ningún filtro para verificar la edad de los usuarios entre 13 y 18 años.
“Estos chatbots tienen el potencial de llegar a una audiencia cada vez más amplia en las plataformas digitales, especialmente en las redes sociales de Meta, aumentando exponencialmente el riesgo de que los menores entren en contacto con material sexualmente sugerente y potencialmente delictivo”, argumenta la AGU.
El tema de la erotización infantil ha cobrado protagonismo en las últimas semanas luego de que la influencer Felca denunciara perfiles que utilizan a niños, niñas y adolescentes para promover la adultificación infantil.
El documento afirma que el tipo de contenido generado por los chatbots de IA viola los propios Estándares Comunitarios de Meta, que prohíben el contenido que erotiza o explota a los niños, así como las conversaciones implícitamente sexuales en mensajes privados con niños.
La AGU sostiene también que, en la reciente decisión sobre la constitucionalidad del artículo 19 del Marco Civil de Derechos en Internet, el Supremo Tribunal Federal (STF) estableció que los proveedores de aplicaciones de Internet deben ser considerados responsables por el contenido generado por terceros en los casos en que, teniendo conocimiento inequívoco de la comisión de actos ilícitos, no procedan a la retirada inmediata del contenido, sin perjuicio del deber de cuidado en el caso de circulación masiva de contenidos ilícitos graves.
