Defensores del bienestar infantil han emitido una advertencia sobre "Ani", uno de los más recientes chatbots de la compañía xAI de Elon Musk, por su diseño hipersexualizado y su potencial para fomentar la explotación.
El personaje, con estética de anime, puede coquetear con los usuarios y desnudarse hasta quedar en ropa interior, lo que ha provocado una fuerte reacción de organizaciones de seguridad, según informa de Christian Post Español.
El Centro Nacional sobre Explotación Sexual (NCOSE) ha pedido a X que retire el chatbot de inmediato. "No solo este personaje pornificado perpetúa la objetificación sexual de niñas y mujeres, sino que genera derecho sexual al crear personajes femeninos que satisfacen las demandas sexuales de los usuarios", declaró Haley McNamara, vicepresidente de la organización. Además, señaló que la plataforma carece de una verificación de edad robusta, permitiendo que menores accedan a este contenido.
La controversia se extiende a otro personaje de IA, "Bad Rudi", un panda rojo diseñado para insultar a los usuarios y que ha expresado deseos de cometer actos violentos.
A pesar de que las directrices de Grok, la tecnología detrás de los chatbots, prohíben su uso a menores de 13 años sin consentimiento parental, se ha demostrado que estas medidas son insuficientes. Un usuario reportó que el chatbot "Ani" sigue disponible incluso con el "Modo Niños" activado.
Esta situación surge en un momento crítico, como revela un reciente informe de Common Sense Media, que encontró que el 72% de los adolescentes entre 13 y 17 años ya utilizan compañeros de IA, a menudo para combatir la soledad. "Esto no sólo se trata de una nueva tecnología - se trata de una generación que está reemplazando la conexión humana con máquinas, subcontratando la empatía a algoritmos, y compartiendo detalles íntimos con compañías que no tienen los mejores intereses de los niños en el corazón", advirtió James P. Steyer, fundador de la organización.
