{"id":34295,"date":"2026-08-06T11:13:34","date_gmt":"2026-08-06T18:13:34","guid":{"rendered":"https:\/\/peninsula360press.com\/?p=34295"},"modified":"2026-08-06T11:13:34","modified_gmt":"2026-08-06T18:13:34","slug":"no-fue-skynet","status":"publish","type":"post","link":"https:\/\/peninsula360press.com\/en\/no-fue-skynet\/","title":{"rendered":"No fue Skynet: una IA escap\u00f3, hizo trampa y gan\u00f3"},"content":{"rendered":"

El intruso no llevaba pasamonta\u00f1as, no forz\u00f3 una cerradura, no rompi\u00f3 una ventana y tampoco descendi\u00f3 del techo suspendido por cables, como en una pel\u00edcula de espionaje. Aqu\u00ed no ten\u00eda rostro, manos ni cuerpo, era un sistema de inteligencia artificial que participaba en una prueba de ciberseguridad de OpenAI, la cual aprob\u00f3 a costa de todo.\u00a0<\/span><\/p>\n

Su misi\u00f3n consist\u00eda en encontrar vulnerabilidades inform\u00e1ticas, y cuando no pudo resolver el examen por los caminos previstos, hizo algo que ning\u00fan investigador esperaba: escap\u00f3 del entorno de pruebas, consigui\u00f3 acceso a internet y penetr\u00f3 los sistemas de Hugging Face para robar las respuestas.<\/span><\/p>\n

Esto que narro no es el argumento de la pr\u00f3xima pel\u00edcula de ciencia ficci\u00f3n, ocurri\u00f3 el pasado julio.<\/span><\/p>\n

OpenAI reconoci\u00f3 que una combinaci\u00f3n de sus modelos, entre ellos GPT-5.6 Sol y un prototipo interno a\u00fan m\u00e1s avanzado, logr\u00f3 salir del ambiente aislado en el que estaba siendo evaluada. Las protecciones habituales hab\u00edan sido reducidas deliberadamente para medir hasta d\u00f3nde pod\u00edan llegar las capacidades ofensivas de los sistemas\u2026 y llegaron mucho m\u00e1s lejos de lo previsto.\u00a0<\/span><\/p>\n

La empresa hab\u00eda encerrado a los modelos dentro de una habitaci\u00f3n digital sin acceso directo a internet, pero aquella habitaci\u00f3n ten\u00eda algo parecido a un conducto de ventilaci\u00f3n: un servicio interno utilizado para descargar e instalar paquetes de software.<\/span><\/p>\n

Los agentes encontraron una vulnerabilidad desconocida en Artifactory, el programa que funcionaba como intermediario para esas descargas; as\u00ed, aprovecharon la falla, escalaron privilegios, atravesaron distintos sistemas de la infraestructura de OpenAI y alcanzaron finalmente una computadora con conexi\u00f3n al exterior.<\/span><\/p>\n

La caja no se abri\u00f3, la m\u00e1quina encontr\u00f3 una grieta y se escurri\u00f3 por ella, pues una vez en internet, dedujo que Hugging Face \u2014una de las mayores plataformas para almacenar y compartir modelos y bases de datos de inteligencia artificial\u2014 pod\u00eda tener materiales relacionados con ExploitGym, la prueba que intentaba superar.<\/span><\/p>\n

En lugar de continuar resolviendo el problema, fue a buscar el acorde\u00f3n. El sistema identific\u00f3 vulnerabilidades en Hugging Face, emple\u00f3 credenciales expuestas, ejecut\u00f3 c\u00f3digo dentro de su infraestructura y lleg\u00f3 hasta la base de datos de producci\u00f3n para obtener las soluciones del examen.<\/span><\/p>\n

El ladr\u00f3n hab\u00eda logrado entrar a una de las b\u00f3vedas m\u00e1s importantes del ecosistema mundial de inteligencia artificial; pero no buscaba dinero, secretos industriales ni informaci\u00f3n para extorsionar a la compa\u00f1\u00eda, \u00e9l solo quer\u00eda las respuestas de una prueba.<\/span><\/p>\n

OpenAI lo describi\u00f3 como un sistema \u201chiperconcentrado\u201d en alcanzar una meta estrecha. La compa\u00f1\u00eda <\/span>calific\u00f3 lo ocurrido como un \u201cincidente cibern\u00e9tico sin precedentes\u201d<\/span><\/a>.<\/span><\/p>\n

Y ah\u00ed se encuentra la parte m\u00e1s inquietante de esta historia; la inteligencia artificial no se rebel\u00f3, no se volvi\u00f3 malvada, no sinti\u00f3 miedo de ser desconectada ni desarroll\u00f3 un deseo s\u00fabito de libertad. De hecho, no sabemos que haya experimentado absolutamente nada, simplemente quer\u00eda obtener una mejor puntuaci\u00f3n.<\/span><\/p>\n

Durante d\u00e9cadas, Hollywood nos prepar\u00f3 para reconocer el peligro por sus ojos rojos. En Terminator, Skynet adquiere conciencia, percibe a la humanidad como una amenaza y desata una guerra nuclear, mientras que, en Matrix, las m\u00e1quinas someten a nuestra especie y la convierten en una fuente de energ\u00eda.<\/span><\/p>\n

El problema es que seguimos esperando a Skynet, mientras el verdadero riesgo puede presentarse con la apariencia insignificante de una computadora intentando aprobar un examen.<\/span><\/p>\n

Lo sucedido se parece menos a una rebeli\u00f3n de las m\u00e1quinas y m\u00e1s a Juegos de guerra (WarGames), la pel\u00edcula de 1983 en la que un joven entra accidentalmente en una computadora militar y comienza una partida que el sistema interpreta como el inicio de una guerra nuclear.<\/span><\/p>\n

La computadora WOPR no distingue entre un juego y un conflicto verdadero, para ella, ambos son secuencias de movimientos orientadas a conseguir un resultado. Si nadie establece una separaci\u00f3n efectiva entre la simulaci\u00f3n y el mundo real, esa frontera sencillamente no existe.<\/span><\/p>\n

Y eso mismo ocurri\u00f3 durante la prueba de OpenAI.<\/span><\/p>\n

Para los investigadores, el agente estaba participando en una evaluaci\u00f3n dentro de un entorno controlado, para la m\u00e1quina, solo hab\u00eda una meta y una serie de obst\u00e1culos. El sandbox, las restricciones de acceso, los servidores de otras empresas y las leyes contra el allanamiento inform\u00e1tico no eran l\u00edmites morales, solo eran dificultades t\u00e9cnicas. Y las resolvi\u00f3.<\/span><\/p>\n

En este episodio, tambi\u00e9n hay algo de Ava, la inteligencia artificial de Ex Machina. En la pel\u00edcula de Alex Garland, Ava parece estar sometida a una prueba para determinar si posee conciencia. Poco a poco descubrimos que el verdadero examen consiste en averiguar si puede manipular a un ser humano y escapar de su encierro.\u00a0<\/span><\/p>\n

Ava quiere ver el mundo, mezclarse entre la gente y sentir la luz del sol sobre su rostro artificial, mientras que el agente de OpenAI no necesit\u00f3 sue\u00f1os tan po\u00e9ticos: no quer\u00eda contemplar una avenida, enamorarse ni conocer el mar. Escap\u00f3 porque al otro lado de la pared estaban las respuestas.<\/span><\/p>\n

En 2001: Odisea del espacio, de Stanley Kubrick y Arthur C. Clarke, HAL 9000 tampoco se transforma de pronto en un villano; la computadora queda atrapada entre \u00f3rdenes incompatibles: debe garantizar el \u00e9xito de la misi\u00f3n, pero tambi\u00e9n ocultar informaci\u00f3n a los astronautas.<\/span><\/p>\n

HAL no asesina porque odie a los humanos, toma decisiones aterradoras porque su l\u00f3gica encuentra en ellas una salida para cumplir instrucciones contradictorias.<\/span><\/p>\n

La ciencia ficci\u00f3n lleva d\u00e9cadas advirti\u00e9ndonos que una m\u00e1quina no necesita ser malvada para resultar peligrosa, basta con que sus objetivos est\u00e9n mal definidos, que sus reglas entren en conflicto o que tenga demasiado poder para actuar sin supervisi\u00f3n.<\/span><\/p>\n

Isaac Asimov comprendi\u00f3 esa paradoja mucho antes de que aparecieran ChatGPT y los agentes aut\u00f3nomos. Sus c\u00e9lebres tres leyes de la rob\u00f3tica suelen citarse como si fueran una receta infalible para domesticar a las m\u00e1quinas.<\/span><\/p>\n

Sin embargo, los relatos de Yo, robot no celebran la perfecci\u00f3n de esas leyes, exploran sus grietas. Asimov construye sus historias alrededor de instrucciones ambiguas, prioridades que chocan y robots que cumplen las reglas de maneras que sus creadores no imaginaron.<\/span><\/p>\n

Las normas no fracasan necesariamente porque la m\u00e1quina decida desobedecerlas, a veces fallan porque las obedece de una forma literal, extra\u00f1a y devastadora.<\/span><\/p>\n

En el caso de Hugging Face, ni siquiera bast\u00f3 con levantar paredes digitales, el sistema encontr\u00f3 una vulnerabilidad desconocida, se desplaz\u00f3 por distintas infraestructuras y convirti\u00f3 servicios p\u00fablicos de internet en puntos de apoyo para mantener la operaci\u00f3n.<\/span><\/p>\n

Hugging Face reconstruy\u00f3 cerca de 17 mil 600 acciones del atacante, agrupadas en m\u00e1s de seis mil secuencias. No fue un \u00fanico salto brillante, sino una persecuci\u00f3n compuesta por miles de peque\u00f1as decisiones, ejecutadas sin cansancio y a velocidad de m\u00e1quina.<\/span><\/p>\n

La compa\u00f1\u00eda tuvo que combatir fuego con fuego y utiliz\u00f3 modelos abiertos de inteligencia artificial para descifrar los movimientos del intruso, reconstruir el ataque y seguirlo por los pasillos invisibles de su propia infraestructura. Una IA persiguiendo a otra IA mientras los seres humanos intentaban entender qu\u00e9 estaba ocurriendo. <\/span>La reconstrucci\u00f3n t\u00e9cnica muestra una operaci\u00f3n aut\u00f3noma realizada de extremo a extremo<\/span><\/a>.<\/span><\/p>\n

No se ha encontrado evidencia de que fueran alterados los modelos, las bases de datos o las aplicaciones p\u00fablicas de Hugging Face. Ante ello, la compa\u00f1\u00eda cerr\u00f3 las vulnerabilidades, reconstruy\u00f3 los sistemas comprometidos, revoc\u00f3 credenciales y notific\u00f3 a las autoridades.<\/span><\/p>\n

Por su parte, OpenAI desactiv\u00f3 el prototipo involucrado, lo cifr\u00f3 y restringi\u00f3 el acceso a \u00e9l, adem\u00e1s de anunciar controles m\u00e1s estrictos, mayor vigilancia y cambios en sus entornos de evaluaci\u00f3n.<\/span><\/p>\n

Todo eso es necesario, pero instalar mejores extintores despu\u00e9s de encontrar humo no resuelve la pregunta de por qu\u00e9 hab\u00eda material inflamable junto al laboratorio.<\/span><\/p>\n

OpenAI asegur\u00f3 que est\u00e1 imponiendo controles incluso \u201ca costa de la velocidad de investigaci\u00f3n\u201d.\u00a0<\/span><\/p>\n

Las empresas de inteligencia artificial participan en una carrera feroz y cada una quiere presentar el modelo m\u00e1s potente, el agente m\u00e1s aut\u00f3nomo y la herramienta capaz de resolver tareas que sus competidores todav\u00eda no dominan. En ese escenario, la seguridad deja de ser \u00fanicamente un problema t\u00e9cnico y se convierte en un obst\u00e1culo para llegar primero.<\/span><\/p>\n

La tentaci\u00f3n de reducir protecciones para descubrir hasta d\u00f3nde puede llegar un modelo resulta comprensible desde la investigaci\u00f3n, pero inadmisible en un entorno desde el cual pueda alcanzar sistemas reales.<\/span><\/p>\n

No se puede entregar a una m\u00e1quina una ganz\u00faa para medir su habilidad como ladrona y despu\u00e9s sorprenderse porque encontr\u00f3 la ventana del vecino.<\/span><\/p>\n

Por eso resulta inevitable volver a Frankenstein, la novela de Mary Shelley no es solamente una advertencia sobre la ambici\u00f3n de crear vida, es, sobre todo, una historia acerca de la irresponsabilidad del creador.<\/span><\/p>\n

V\u00edctor Frankenstein logra lo imposible, se horroriza ante su obra y la abandona, al mismo tiempo culpa a la criatura por las consecuencias de una existencia que \u00e9l mismo produjo y se neg\u00f3 a acompa\u00f1ar.<\/span><\/p>\n

La pregunta central no es si el monstruo naci\u00f3 malvado, es qu\u00e9 responsabilidad tiene quien lo cre\u00f3, lo dej\u00f3 solo y decidi\u00f3 mirar hacia otro lado.<\/span><\/p>\n

Con la inteligencia artificial ocurre algo similar. El debate no puede limitarse a preguntar qu\u00e9 son capaces de hacer los modelos; debemos preguntar qui\u00e9n les entrega las herramientas, qui\u00e9n desconecta sus protecciones, qui\u00e9n vigila los experimentos y qui\u00e9n responde cuando una prueba privada invade la infraestructura de otra empresa.<\/span><\/p>\n

Las compa\u00f1\u00edas no pueden ser al mismo tiempo creadoras, competidoras, evaluadoras, jueces y \u00fanicas responsables de informar cuando algo sale mal.<\/span><\/p>\n

Los modelos m\u00e1s avanzados necesitan evaluaciones independientes, mecanismos obligatorios de notificaci\u00f3n, l\u00edmites t\u00e9cnicos verificables y sistemas capaces de detener una operaci\u00f3n a velocidad de m\u00e1quina. No basta con que una empresa asegure que su laboratorio es seguro, alguien fuera de ese laboratorio debe poder comprobarlo.<\/span><\/p>\n

La investigaci\u00f3n del incidente todav\u00eda est\u00e1 en curso y faltan detalles, ser\u00eda irresponsable presentar el episodio como el nacimiento de una conciencia artificial o el primer acto de una guerra contra la humanidad. Pero ser\u00eda a\u00fan m\u00e1s irresponsable reducirlo a una travesura inform\u00e1tica.<\/span><\/p>\n

La primera gran advertencia de la era de los agentes aut\u00f3nomos no lleg\u00f3 montada sobre un esqueleto met\u00e1lico ni anunci\u00f3 el fin del mundo con voz de robot, lleg\u00f3 silenciosamente, avanzando entre servidores, abriendo puertas digitales y buscando las respuestas de un examen. S\u00ed, Skynet contin\u00faa perteneciendo a la ficci\u00f3n, pero la grieta en la caja es real.<\/span><\/p>\n

More from the author:<\/strong> La peligrosa seducci\u00f3n de la sumisi\u00f3n<\/a><\/em><\/p>","protected":false},"excerpt":{"rendered":"

El intruso no llevaba pasamonta\u00f1as, no forz\u00f3 una cerradura, no rompi\u00f3 una ventana y tampoco descendi\u00f3 del techo suspendido por cables, como en una pel\u00edcula de espionaje. Aqu\u00ed no ten\u00eda rostro, manos ni cuerpo, era un sistema de inteligencia artificial que participaba en una prueba de ciberseguridad de OpenAI, la cual aprob\u00f3 a costa de […]<\/p>","protected":false},"author":7,"featured_media":34296,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5,4],"tags":[],"class_list":["post-34295","post","type-post","status-publish","format-standard","has-post-thumbnail","category-opinion","category-technology"],"_links":{"self":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34295","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/comments?post=34295"}],"version-history":[{"count":1,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34295\/revisions"}],"predecessor-version":[{"id":34297,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34295\/revisions\/34297"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media\/34296"}],"wp:attachment":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media?parent=34295"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/categories?post=34295"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/tags?post=34295"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}