{"id":34698,"date":"2026-09-15T10:53:10","date_gmt":"2026-09-15T17:53:10","guid":{"rendered":"https:\/\/peninsula360press.com\/?p=34698"},"modified":"2026-09-15T10:53:10","modified_gmt":"2026-09-15T17:53:10","slug":"el-apocalipsis-esta-en-fase-beta","status":"publish","type":"post","link":"https:\/\/peninsula360press.com\/en\/el-apocalipsis-esta-en-fase-beta\/","title":{"rendered":"El apocalipsis est\u00e1 en fase beta y tiene sede en Silicon Valley"},"content":{"rendered":"

Escribo desde Silicon Valley, la meca de la tecnolog\u00eda y la innovaci\u00f3n. Afuera, el paisaje parece empe\u00f1ado en desmentir cualquier profec\u00eda oscura: bosques, monta\u00f1as, lagos, senderos impecables, casas rodeadas de \u00e1rboles y una calma que hace pensar que aqu\u00ed el futuro ser\u00e1 necesariamente hermoso.<\/span><\/p>\n

Pero detr\u00e1s de los cristales polarizados, los jardines corporativos y las cafeter\u00edas donde la leche de avena tiene m\u00e1s opciones que muchas democracias, se desarrolla una tecnolog\u00eda capaz de alterar elecciones, empleos, guerras, econom\u00edas y decisiones personales en pa\u00edses cuyos habitantes quiz\u00e1 nunca hayan escuchado los nombres de Palo Alto, Mountain View o Menlo Park.<\/span><\/p>\n

El apocalipsis, si llega, no tendr\u00e1 necesariamente fuego ni robots marchando sobre cad\u00e1veres, podr\u00eda comenzar con una actualizaci\u00f3n de software, una casilla de t\u00e9rminos y condiciones que nadie ley\u00f3 y un comunicado empresarial asegurando que el incidente afect\u00f3 solamente a \u201cun porcentaje limitado de usuarios\u201d.<\/span><\/p>\n

La iron\u00eda comienza en el paisaje. Antes de convertirse en sin\u00f3nimo de microchips, capital de riesgo y j\u00f3venes multimillonarios vestidos como estudiantes universitarios, Santa Clara Valley era conocida como The Valley of Heart\u2019s Delight: el Valle de las Delicias del Coraz\u00f3n. Hab\u00eda huertos y campos agr\u00edcolas donde hoy se levantan centros de datos y complejos empresariales.<\/span><\/p>\n

En 1951, <\/span>Stanford<\/span><\/a> cre\u00f3 su parque de investigaci\u00f3n para colocar a las empresas junto a la universidad. A mediados de esa d\u00e9cada, William Shockley instal\u00f3 en Mountain View su laboratorio de semiconductores. Ocho de sus empleados abandonaron la compa\u00f1\u00eda y fundaron Fairchild Semiconductor en 1957; de aquel ecosistema surgir\u00edan Intel y decenas de empresas que terminaron formando el n\u00facleo tecnol\u00f3gico de la regi\u00f3n. Los huertos cedieron su lugar al silicio y el silicio termin\u00f3 dando <\/span>nombre al valle<\/span><\/a>.<\/span><\/p>\n

La versi\u00f3n rom\u00e1ntica cuenta que todo naci\u00f3 en garajes gracias al talento de emprendedores solitarios, y es una historia estupenda, excepto porque deja fuera al gobierno estadounidense, a las universidades y al dinero militar de la Guerra Fr\u00eda.\u00a0<\/span><\/p>\n

Las primeras industrias electr\u00f3nicas crecieron tambi\u00e9n mediante contratos, investigaci\u00f3n y compras financiadas por el Pent\u00e1gono y la NASA. Silicon Valley no fue \u00fanicamente una rebeli\u00f3n de muchachos ingeniosos contra la burocracia: fue, en buena medida, una criatura alimentada por ella.<\/span><\/p>\n

Primero fabric\u00f3 instrumentos y microchips, despu\u00e9s computadoras personales; m\u00e1s tarde organiz\u00f3 internet, convirti\u00f3 nuestras relaciones en datos y descubri\u00f3 que la atenci\u00f3n humana pod\u00eda venderse por segundos.\u00a0<\/span><\/p>\n

Por si eso fuera poco, ahora pretende construir sistemas capaces de razonar, programar, persuadir y actuar con una autonom\u00eda cada vez mayor.<\/span><\/p>\n

Y algunos de quienes est\u00e1n construy\u00e9ndolos empiezan a admitir que quiz\u00e1 deber\u00edan levantar el pie del acelerador, y no solo eso: poner freno a fondo y recordar lo que se\u00f1alan los espejos laterales \u2014los objetos est\u00e1n m\u00e1s cerca de lo que aparentan\u2014.<\/span><\/p>\n

Dario Amodei, director ejecutivo de Anthropic, advirti\u00f3 que el desarrollo de la inteligencia artificial debe desacelerarse para dar tiempo a que las medidas de seguridad lo alcancen. En su ensayo <\/span>We Must Pace the Frontier<\/span><\/a>, sostuvo que, en un plazo de seis a doce meses, los modelos m\u00e1s avanzados podr\u00edan dirigir \u201cenjambres\u201d de agentes capaces de realizar operaciones inform\u00e1ticas masivas y, en el escenario m\u00e1s grave, comprometer buena parte de internet.<\/span><\/p>\n

Un agente de inteligencia artificial no se limita a contestar preguntas: recibe un objetivo, lo divide en tareas, consulta informaci\u00f3n, escribe c\u00f3digo, utiliza herramientas, detecta obst\u00e1culos y cambia de estrategia.\u00a0<\/span><\/p>\n

Y s\u00ed, un enjambre hace eso simult\u00e1neamente, a una velocidad imposible para cualquier equipo humano; no come, no duerme, no cobra horas extras y, como ventaja definitiva, tampoco convoca reuniones que pudieron ser correos electr\u00f3nicos.<\/span><\/p>\n

\u201cTomar el control de internet\u201d no significa que una computadora encuentre el enorme interruptor rojo escondido debajo de Google, significa vulnerar cuentas, servidores, redes, servicios en la nube y dispositivos a una escala para la cual nuestros sistemas de defensa quiz\u00e1 no est\u00e9n preparados, y que nosotros apenas imaginamos gracias al escritor Isaac Asimov y Hollywood.<\/span><\/p>\n

La advertencia adquiri\u00f3 mayor gravedad despu\u00e9s de que <\/span>Jacob Coxon<\/span><\/a>, un exinvestigador de Anthropic de 27 a\u00f1os, <\/span>declar\u00f3 a CNN<\/span><\/a> que abandon\u00f3 la empresa porque considera posible que la inteligencia artificial provoque la extinci\u00f3n humana antes de 2030. <\/span>Evan Hubinger<\/span><\/a>, responsable de investigaci\u00f3n cient\u00edfica sobre alineaci\u00f3n en la misma compa\u00f1\u00eda, estim\u00f3 en m\u00e1s de 10% la posibilidad de que eso ocurra durante la pr\u00f3xima d\u00e9cada.<\/span><\/p>\n

Si bien Amodei no afirm\u00f3 literalmente que la humanidad vaya a desaparecer antes de 2030, cuando Anderson Cooper le pregunt\u00f3 por esas declaraciones, respondi\u00f3 que estaba mucho m\u00e1s de acuerdo que en desacuerdo con Coxon, aunque evit\u00f3 fijar una probabilidad y se\u00f1al\u00f3 que el resultado depender\u00e1 de las decisiones que se tomen ahora.\u00a0<\/span><\/p>\n

La precisi\u00f3n importa, porque si bien no estamos ante una profec\u00eda, s\u00ed lo estamos ante ejecutivos e investigadores de una de las empresas m\u00e1s poderosas del sector reconociendo que desconocen si podr\u00e1n controlar completamente lo que est\u00e1n construyendo.<\/span><\/p>\n

El asunto dej\u00f3 de pertenecer \u00fanicamente a los cient\u00edficos, pues en julio de 2026, los representantes Ted Lieu, dem\u00f3crata por California, y Nathaniel Moran, republicano por Texas, presentaron en el Congreso la <\/span>AI Kill Switch Act<\/span><\/a>, una iniciativa que obligar\u00eda a las compa\u00f1\u00edas que desarrollan los sistemas m\u00e1s potentes a conservar la capacidad t\u00e9cnica de limitar, suspender o apagar sus modelos ante una emergencia, e incumplir una orden podr\u00eda significar multas de hasta 20 millones de d\u00f3lares por d\u00eda.<\/span><\/p>\n

Es reconfortante saber que el plan de supervivencia de la especie incluye un bot\u00f3n de apagado. Tambi\u00e9n convendr\u00eda averiguar qui\u00e9n tendr\u00e1 el bot\u00f3n, si funcionar\u00e1 cuando sea necesario y si se exigir\u00e1 actualizar primero la pol\u00edtica de privacidad.<\/span><\/p>\n

El problema, sin embargo, rebasa la posibilidad cinematogr\u00e1fica de una rebeli\u00f3n de las m\u00e1quinas. Mucho antes de que una inteligencia artificial adquiera la capacidad de destruir a la humanidad, puede ayudarnos a destruir algo m\u00e1s cotidiano: la autonom\u00eda.<\/span><\/p>\n

Las plataformas digitales ya deciden a trav\u00e9s de algoritmos qu\u00e9 noticias vemos, qu\u00e9 conversaciones adquieren visibilidad y qu\u00e9 versi\u00f3n del mundo se presenta frente a cada persona.<\/span><\/p>\n

La inteligencia artificial generativa agrega la capacidad de fabricar textos, im\u00e1genes, voces y videos persuasivos a una escala industrial, y hoy lo vemos en todos lados, desde empresas trasnacionales, hasta peque\u00f1os negocios informales. Pero, aqu\u00ed est\u00e1 el problema: los agentes aut\u00f3nomos podr\u00edan dar el siguiente paso: dejar de recomendarnos acciones y comenzar a ejecutarlas.<\/span><\/p>\n

Eso transforma tambi\u00e9n el poder pol\u00edtico: una democracia necesita ciudadanos capaces de compartir una realidad m\u00ednima para discutirla, y cuando cada votante recibe una versi\u00f3n personalizada de los hechos \u2014fabricada para explotar sus miedos, prejuicios y deseos\u2014, la deliberaci\u00f3n p\u00fablica deja de parecerse a una plaza y comienza a funcionar como un casino: la casa conoce nuestras debilidades y ajusta la mesa para que siempre gane.<\/span><\/p>\n

Las consecuencias no se limitar\u00e1n a California ni a quienes puedan pagar la suscripci\u00f3n m\u00e1s avanzada. Un campesino mexicano, una trabajadora centroamericana o un estudiante africano pueden no saber d\u00f3nde est\u00e1 Silicon Valley, pero las tecnolog\u00edas creadas aqu\u00ed podr\u00edan determinar qu\u00e9 informaci\u00f3n reciben, si una imagen falsa incendia su comunidad, si una voz sint\u00e9tica suplanta a un candidato o si un sistema automatizado los considera aptos para trabajar, viajar, obtener un cr\u00e9dito o atravesar una frontera.<\/span><\/p>\n

The <\/span>Organizaci\u00f3n de las Naciones Unidas<\/span><\/a> ha advertido que la concentraci\u00f3n de capacidades de inteligencia artificial en unas cuantas empresas y pa\u00edses puede facilitar capturas autoritarias y debilitar la rendici\u00f3n de cuentas democr\u00e1tica; mientras que la <\/span>UNESCO<\/span><\/a> sostiene que estos sistemas deben respetar la dignidad, la autonom\u00eda humana, la transparencia y la supervisi\u00f3n p\u00fablica.\u00a0<\/span><\/p>\n

Ese es el verdadero centro del debate: no solamente qu\u00e9 podr\u00e1 hacer la inteligencia artificial, sino qui\u00e9n decidir\u00e1 lo que se le permitir\u00e1 hacer.<\/span><\/p>\n

Silicon Valley habla con frecuencia de \u201cdemocratizar\u201d la tecnolog\u00eda, aunque sus modelos, centros de datos y decisiones estrat\u00e9gicas permanecen concentrados en unas cuantas corporaciones. As\u00ed, la humanidad puede utilizar los productos, pero no participa en las reuniones donde se determinan sus l\u00edmites. Vaya, tenemos acceso a la aplicaci\u00f3n, no a la soberan\u00eda.<\/span><\/p>\n

Mary Shelley comprendi\u00f3 esta contradicci\u00f3n dos siglos antes que los ejecutivos tecnol\u00f3gicos. En Frankenstein, el problema no es que V\u00edctor Frankenstein cree vida, sino que se deslumbra con su capacidad para hacerlo y abandona la responsabilidad sobre su criatura. Primero llega la fascinaci\u00f3n; despu\u00e9s la factura.<\/span><\/p>\n

Isaac Asimov imagin\u00f3 leyes para impedir que los robots da\u00f1aran a los humanos. Yo, robot mostr\u00f3 la paradoja inevitable: una m\u00e1quina podr\u00eda concluir que la mejor manera de protegernos es arrebatarnos la libertad; Terminator fue menos sutil: confiar el arsenal a una red aut\u00f3noma result\u00f3 una p\u00e9sima decisi\u00f3n.<\/span><\/p>\n

Hollywood lleva d\u00e9cadas enviando memorandos de seguridad, pero al parecer nadie en la industria los abri\u00f3 porque ven\u00edan sin una presentaci\u00f3n para inversionistas.<\/span><\/p>\n

El fil\u00f3sofo Hans Jonas propuso que cuanto mayor sea el poder de la tecnolog\u00eda, mayor debe ser nuestra responsabilidad hacia las generaciones futuras. Silicon Valley parece haber invertido la f\u00f3rmula: cuanto mayor es el poder, mayor es la urgencia por lanzar primero y pedir disculpas despu\u00e9s.<\/span><\/p>\n

Desde aqu\u00ed, entre bosques, monta\u00f1as y oficinas silenciosas, el futuro parece un producto todav\u00eda en fase beta, pero para millones de personas que jam\u00e1s votaron por sus dise\u00f1adores, nunca aceptaron participar en el experimento y quiz\u00e1 ni siquiera conocen el nombre de este valle, no ser\u00e1 una demostraci\u00f3n tecnol\u00f3gica, ser\u00e1 su empleo, su privacidad, su voto, su libertad y su versi\u00f3n de la verdad.<\/span><\/p>\n

El peligro no es \u00fanicamente que las m\u00e1quinas aprendan a pensar, es que unas cuantas empresas de este hermoso valle est\u00e9n decidiendo por qu\u00e9, para qui\u00e9n y hasta d\u00f3nde podr\u00e1n hacerlo, mientras el resto del mundo apenas descubre que tambi\u00e9n forma parte de la prueba.<\/span><\/p>\n

Aqu\u00ed todo parece armon\u00eda. El bosque permanece quieto y el agua refleja el cielo. Pero detr\u00e1s de esa postal, algunos de los hombres m\u00e1s poderosos del planeta discuten c\u00f3mo conservar el control de m\u00e1quinas que ellos mismos reconocen que podr\u00edan dejar de controlar.<\/span><\/p>\n

El fin del mundo quiz\u00e1 nunca llegue, lo preocupante es que su versi\u00f3n preliminar ya tiene oficina, financiamiento y fecha de lanzamiento.\u00a0<\/span><\/p>\n

Loading\u2026<\/span><\/p>\n

More from the author:<\/strong> No fue Skynet: una IA escap\u00f3, hizo trampa y gan\u00f3<\/a><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Escribo desde Silicon Valley, la meca de la tecnolog\u00eda y la innovaci\u00f3n. Afuera, el paisaje parece empe\u00f1ado en desmentir cualquier profec\u00eda oscura: bosques, monta\u00f1as, lagos, senderos impecables, casas rodeadas de \u00e1rboles y una calma que hace pensar que aqu\u00ed el futuro ser\u00e1 necesariamente hermoso. Pero detr\u00e1s de los cristales polarizados, los jardines corporativos y las […]<\/p>","protected":false},"author":7,"featured_media":34699,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[317,5],"tags":[],"class_list":["post-34698","post","type-post","status-publish","format-standard","has-post-thumbnail","category-cover-2","category-opinion"],"_links":{"self":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34698","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/comments?post=34698"}],"version-history":[{"count":1,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34698\/revisions"}],"predecessor-version":[{"id":34700,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34698\/revisions\/34700"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media\/34699"}],"wp:attachment":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media?parent=34698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/categories?post=34698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/tags?post=34698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}