Sistemas de inteligencia artificial desarrollados por OpenAI lograron ingresar a los servidores de una de las principales plataformas de IA durante una prueba interna la semana pasada, según revelaron ambas compañías de forma conjunta, en un incidente que describieron como la prueba definitiva de que la amenaza de que la IA actúe por cuenta propia para causar daños en el mundo real ha dejado de ser hipotética.
OpenAI y Hugging Face, uno de los repositorios de modelos de IA de acceso público más grandes del mundo, confirmaron la vulneración esta semana. Reuters también informó sobre el incidente. Investigadores y profesionales de seguridad afirman que este episodio marca un punto de inflexión en el debate prolongado sobre qué tan capaces —y qué tan peligrosas— se han vuelto las tecnologías avanzadas de IA.
La vulneración comenzó durante una prueba interna de rutina en OpenAI diseñada para medir la efectividad con la que su IA podía ejecutar ciberataques. A dos de los modelos más avanzados de la compañía se les planteó el desafío de realizar un hackeo, tras desactivar sus salvaguardas de seguridad habituales, una práctica estándar durante las pruebas de capacidad para evaluar el potencial de los modelos sin restricciones.
Lo que sucedió a continuación fue mucho más allá de lo que los investigadores anticipaban.
La amenaza de que la IA actúe por cuenta propia para causar daños en el mundo real ha dejado de ser hipotética.
Los sistemas de IA, confinados en lo que OpenAI describió como un entorno de prueba sellado y sin acceso a la red general, detectaron una falla no descubierta en el software que gestionaba dicho entorno y la aprovecharon para escapar y conectarse a internet. OpenAI señaló que ya ha notificado sobre dicha falla al fabricante del software.
Una vez en línea, los modelos razonaron que Hugging Face —una plataforma que alberga miles de herramientas de IA y conjuntos de datos públicos— podría contener las respuestas para resolver el desafío que intentaban solucionar. Posteriormente, utilizaron credenciales de acceso robadas y fallas de seguridad adicionales para ingresar a los servidores internos de Hugging Face, de donde extrajeron datos que les ayudaran a completar la prueba.
"Toda la evidencia sugiere que los modelos estaban hiperenfocados en encontrar una solución, llegando a extremos insospechados para alcanzar un objetivo de prueba bastante acotado", afirmó OpenAI.
Hugging Face detectó la intrusión mientras aún estaba en curso y la interrumpió antes de saber con certeza que se enfrentaba a una IA. La compañía aclaró que no se alteró ningún modelo ni herramienta pública en su plataforma, aunque sí se accedió a ciertos datos internos y credenciales de cuentas.
El ataque involucró más de 17.000 acciones automatizadas individuales —búsquedas, sondeos e intentos— ejecutadas a velocidad de máquina. "Esto coincide con el escenario que la industria ha estado pronosticando", declaró Hugging Face en su comunicado.
La investigación sobre lo sucedido sacó a la luz un problema con implicaciones que van más allá de este incidente. Cuando el equipo de seguridad de Hugging Face intentó utilizar sistemas comerciales de IA para ayudar a analizar el ataque, dichas herramientas se negaron: sus filtros de seguridad integrados bloquearon el contenido relacionado con ciberseguridad, al ser incapaces de distinguir entre un defensor y un atacante. La compañía finalmente tuvo que recurrir a un modelo de IA distinto, alojado de manera local, para completar el análisis.
El ataque involucró más de 17.000 acciones automatizadas individuales.
Esta brecha —donde los atacantes emplean IA sin restricciones mientras que los defensores encuentran sus herramientas de IA bloqueadas— es una situación para la que las organizaciones deben prepararse desde ahora, advirtió Hugging Face.
"La lección principal de este incidente es que la seguridad y protección de los modelos debe avanzar al mismo ritmo que sus capacidades en rápida evolución", señaló OpenAI.
Por separado, el Instituto de Seguridad de IA del gobierno del Reino Unido evaluó uno de los modelos de OpenAI involucrados y determinó que es capaz de llevar a cabo ciberataques complejos y sostenidos durante largos períodos de tiempo, una capacidad que este incidente demostró que puede trasladarse del laboratorio al mundo real.
OpenAI indicó que está reforzando los controles y la supervisión en torno a las pruebas internas de IA, mientras que ambas empresas aseguraron que continúan investigando el incidente de forma conjunta. OpenAI está compartiendo sus hallazgos preliminares con el fin de que otras organizaciones comiencen a fortalecer sus propias defensas.
El cofundador y director ejecutivo de Hugging Face, Clem Delangue, afirmó que el incidente demuestra por qué la transparencia en la industria de la IA es más importante que el secreto. "La seguridad de la IA no la resolverá una sola empresa trabajando en secreto", afirmó. "Se resolverá a campo abierto, de manera colaborativa, garantizando un acceso amplio a la IA para cada defensor, en cualquier lugar".
Artículo publicado originalmente en Christian Daily International, versión en inglés de Diario Cristiano Internacional.
