Escribo desde Silicon Valley, la meca de la tecnología y la innovación. Afuera, el paisaje parece empeñado en desmentir cualquier profecía oscura: bosques, montañas, lagos, senderos impecables, casas rodeadas de árboles y una calma que hace pensar que aquí el futuro será necesariamente hermoso.
Pero detrás de los cristales polarizados, los jardines corporativos y las cafeterías donde la leche de avena tiene más opciones que muchas democracias, se desarrolla una tecnología capaz de alterar elecciones, empleos, guerras, economías y decisiones personales en países cuyos habitantes quizá nunca hayan escuchado los nombres de Palo Alto, Mountain View o Menlo Park.
El apocalipsis, si llega, no tendrá necesariamente fuego ni robots marchando sobre cadáveres, podría comenzar con una actualización de software, una casilla de términos y condiciones que nadie leyó y un comunicado empresarial asegurando que el incidente afectó solamente a “un porcentaje limitado de usuarios”.
La ironía comienza en el paisaje. Antes de convertirse en sinónimo de microchips, capital de riesgo y jóvenes multimillonarios vestidos como estudiantes universitarios, Santa Clara Valley era conocida como The Valley of Heart’s Delight: el Valle de las Delicias del Corazón. Había huertos y campos agrícolas donde hoy se levantan centros de datos y complejos empresariales.
En 1951, Stanford creó su parque de investigación para colocar a las empresas junto a la universidad. A mediados de esa década, William Shockley instaló en Mountain View su laboratorio de semiconductores. Ocho de sus empleados abandonaron la compañía y fundaron Fairchild Semiconductor en 1957; de aquel ecosistema surgirían Intel y decenas de empresas que terminaron formando el núcleo tecnológico de la región. Los huertos cedieron su lugar al silicio y el silicio terminó dando nombre al valle.
La versión romántica cuenta que todo nació en garajes gracias al talento de emprendedores solitarios, y es una historia estupenda, excepto porque deja fuera al gobierno estadounidense, a las universidades y al dinero militar de la Guerra Fría.
Las primeras industrias electrónicas crecieron también mediante contratos, investigación y compras financiadas por el Pentágono y la NASA. Silicon Valley no fue únicamente una rebelión de muchachos ingeniosos contra la burocracia: fue, en buena medida, una criatura alimentada por ella.
Primero fabricó instrumentos y microchips, después computadoras personales; más tarde organizó internet, convirtió nuestras relaciones en datos y descubrió que la atención humana podía venderse por segundos.
Por si eso fuera poco, ahora pretende construir sistemas capaces de razonar, programar, persuadir y actuar con una autonomía cada vez mayor.
Y algunos de quienes están construyéndolos empiezan a admitir que quizá deberían levantar el pie del acelerador, y no solo eso: poner freno a fondo y recordar lo que señalan los espejos laterales —los objetos están más cerca de lo que aparentan—.
Dario Amodei, director ejecutivo de Anthropic, advirtió que el desarrollo de la inteligencia artificial debe desacelerarse para dar tiempo a que las medidas de seguridad lo alcancen. En su ensayo We Must Pace the Frontier, sostuvo que, en un plazo de seis a doce meses, los modelos más avanzados podrían dirigir “enjambres” de agentes capaces de realizar operaciones informáticas masivas y, en el escenario más grave, comprometer buena parte de internet.
Un agente de inteligencia artificial no se limita a contestar preguntas: recibe un objetivo, lo divide en tareas, consulta información, escribe código, utiliza herramientas, detecta obstáculos y cambia de estrategia.
Y sí, un enjambre hace eso simultáneamente, a una velocidad imposible para cualquier equipo humano; no come, no duerme, no cobra horas extras y, como ventaja definitiva, tampoco convoca reuniones que pudieron ser correos electrónicos.
“Tomar el control de internet” no significa que una computadora encuentre el enorme interruptor rojo escondido debajo de Google, significa vulnerar cuentas, servidores, redes, servicios en la nube y dispositivos a una escala para la cual nuestros sistemas de defensa quizá no estén preparados, y que nosotros apenas imaginamos gracias al escritor Isaac Asimov y Hollywood.
La advertencia adquirió mayor gravedad después de que Jacob Coxon, un exinvestigador de Anthropic de 27 años, declaró a CNN que abandonó la empresa porque considera posible que la inteligencia artificial provoque la extinción humana antes de 2030. Evan Hubinger, responsable de investigación científica sobre alineación en la misma compañía, estimó en más de 10% la posibilidad de que eso ocurra durante la próxima década.
Si bien Amodei no afirmó literalmente que la humanidad vaya a desaparecer antes de 2030, cuando Anderson Cooper le preguntó por esas declaraciones, respondió que estaba mucho más de acuerdo que en desacuerdo con Coxon, aunque evitó fijar una probabilidad y señaló que el resultado dependerá de las decisiones que se tomen ahora.
La precisión importa, porque si bien no estamos ante una profecía, sí lo estamos ante ejecutivos e investigadores de una de las empresas más poderosas del sector reconociendo que desconocen si podrán controlar completamente lo que están construyendo.
El asunto dejó de pertenecer únicamente a los científicos, pues en julio de 2026, los representantes Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas, presentaron en el Congreso la AI Kill Switch Act, una iniciativa que obligaría a las compañías que desarrollan los sistemas más potentes a conservar la capacidad técnica de limitar, suspender o apagar sus modelos ante una emergencia, e incumplir una orden podría significar multas de hasta 20 millones de dólares por día.
Es reconfortante saber que el plan de supervivencia de la especie incluye un botón de apagado. También convendría averiguar quién tendrá el botón, si funcionará cuando sea necesario y si se exigirá actualizar primero la política de privacidad.
El problema, sin embargo, rebasa la posibilidad cinematográfica de una rebelión de las máquinas. Mucho antes de que una inteligencia artificial adquiera la capacidad de destruir a la humanidad, puede ayudarnos a destruir algo más cotidiano: la autonomía.
Las plataformas digitales ya deciden a través de algoritmos qué noticias vemos, qué conversaciones adquieren visibilidad y qué versión del mundo se presenta frente a cada persona.
La inteligencia artificial generativa agrega la capacidad de fabricar textos, imágenes, voces y videos persuasivos a una escala industrial, y hoy lo vemos en todos lados, desde empresas trasnacionales, hasta pequeños negocios informales. Pero, aquí está el problema: los agentes autónomos podrían dar el siguiente paso: dejar de recomendarnos acciones y comenzar a ejecutarlas.
Eso transforma también el poder político: una democracia necesita ciudadanos capaces de compartir una realidad mínima para discutirla, y cuando cada votante recibe una versión personalizada de los hechos —fabricada para explotar sus miedos, prejuicios y deseos—, la deliberación pública deja de parecerse a una plaza y comienza a funcionar como un casino: la casa conoce nuestras debilidades y ajusta la mesa para que siempre gane.
Las consecuencias no se limitarán a California ni a quienes puedan pagar la suscripción más avanzada. Un campesino mexicano, una trabajadora centroamericana o un estudiante africano pueden no saber dónde está Silicon Valley, pero las tecnologías creadas aquí podrían determinar qué información reciben, si una imagen falsa incendia su comunidad, si una voz sintética suplanta a un candidato o si un sistema automatizado los considera aptos para trabajar, viajar, obtener un crédito o atravesar una frontera.
The Organización de las Naciones Unidas ha advertido que la concentración de capacidades de inteligencia artificial en unas cuantas empresas y países puede facilitar capturas autoritarias y debilitar la rendición de cuentas democrática; mientras que la UNESCO sostiene que estos sistemas deben respetar la dignidad, la autonomía humana, la transparencia y la supervisión pública.
Ese es el verdadero centro del debate: no solamente qué podrá hacer la inteligencia artificial, sino quién decidirá lo que se le permitirá hacer.
Silicon Valley habla con frecuencia de “democratizar” la tecnología, aunque sus modelos, centros de datos y decisiones estratégicas permanecen concentrados en unas cuantas corporaciones. Así, la humanidad puede utilizar los productos, pero no participa en las reuniones donde se determinan sus límites. Vaya, tenemos acceso a la aplicación, no a la soberanía.
Mary Shelley comprendió esta contradicción dos siglos antes que los ejecutivos tecnológicos. En Frankenstein, el problema no es que Víctor Frankenstein cree vida, sino que se deslumbra con su capacidad para hacerlo y abandona la responsabilidad sobre su criatura. Primero llega la fascinación; después la factura.
Isaac Asimov imaginó leyes para impedir que los robots dañaran a los humanos. Yo, robot mostró la paradoja inevitable: una máquina podría concluir que la mejor manera de protegernos es arrebatarnos la libertad; Terminator fue menos sutil: confiar el arsenal a una red autónoma resultó una pésima decisión.
Hollywood lleva décadas enviando memorandos de seguridad, pero al parecer nadie en la industria los abrió porque venían sin una presentación para inversionistas.
El filósofo Hans Jonas propuso que cuanto mayor sea el poder de la tecnología, mayor debe ser nuestra responsabilidad hacia las generaciones futuras. Silicon Valley parece haber invertido la fórmula: cuanto mayor es el poder, mayor es la urgencia por lanzar primero y pedir disculpas después.
Desde aquí, entre bosques, montañas y oficinas silenciosas, el futuro parece un producto todavía en fase beta, pero para millones de personas que jamás votaron por sus diseñadores, nunca aceptaron participar en el experimento y quizá ni siquiera conocen el nombre de este valle, no será una demostración tecnológica, será su empleo, su privacidad, su voto, su libertad y su versión de la verdad.
El peligro no es únicamente que las máquinas aprendan a pensar, es que unas cuantas empresas de este hermoso valle estén decidiendo por qué, para quién y hasta dónde podrán hacerlo, mientras el resto del mundo apenas descubre que también forma parte de la prueba.
Aquí todo parece armonía. El bosque permanece quieto y el agua refleja el cielo. Pero detrás de esa postal, algunos de los hombres más poderosos del planeta discuten cómo conservar el control de máquinas que ellos mismos reconocen que podrían dejar de controlar.
El fin del mundo quizá nunca llegue, lo preocupante es que su versión preliminar ya tiene oficina, financiamiento y fecha de lanzamiento.
Loading…
More from the author: No fue Skynet: una IA escapó, hizo trampa y ganó
WeEvolveIT