{"id":34785,"date":"2026-09-23T08:56:29","date_gmt":"2026-09-23T15:56:29","guid":{"rendered":"https:\/\/peninsula360press.com\/?p=34785"},"modified":"2026-09-23T08:56:29","modified_gmt":"2026-09-23T15:56:29","slug":"ia-fuera-de-control","status":"publish","type":"post","link":"https:\/\/peninsula360press.com\/en\/ia-fuera-de-control\/","title":{"rendered":"California explora un interruptor de emergencia para frenar IA fuera de control"},"content":{"rendered":"
\"El
El gobernador Gavin Newsom reuni\u00f3 a cuatro especialistas para desarrollar medidas de supervisi\u00f3n independiente sobre las empresas de inteligencia artificial y analizar la creaci\u00f3n de un sistema de apagado de emergencia para IA fuera de control.<\/figcaption><\/figure>\n

The Governor Gavin Newsom<\/a> reuni\u00f3 a cuatro especialistas en tecnolog\u00eda, pol\u00edticas p\u00fablicas y gobernanza para desarrollar medidas de supervisi\u00f3n independiente sobre las empresas de inteligencia artificial y analizar la creaci\u00f3n de un sistema de apagado de emergencia para modelos de vanguardia que puedan quedar fuera de control.<\/span><\/p>\n

El grupo asesor estudiar\u00e1 la posibilidad de incorporar verificadores externos dentro de los laboratorios de IA, someter a revisi\u00f3n independiente las evaluaciones de seguridad y exigir que las compa\u00f1\u00edas desarrollen un \u201cinterruptor de apagado\u201d cuya eficacia sea comprobada continuamente.<\/span><\/p>\n

Las recomendaciones forman parte de la orden ejecutiva emitida recientemente por Newsom para acelerar la aplicaci\u00f3n de las leyes estatales sobre auditor\u00eda, transparencia y evaluaci\u00f3n de riesgos, ante el r\u00e1pido avance de sistemas de IA cada vez m\u00e1s potentes y aut\u00f3nomos.<\/span><\/p>\n

El panel estar\u00e1 integrado por Jason Goldman, miembro de la junta directiva del Center for Shared AI Prosperity y primer director digital de la Casa Blanca; Gillian Hadfield, profesora de la Universidad Johns Hopkins; Alondra Nelson, profesora del Instituto de Estudios Avanzados y exdirectora interina de la Oficina de Pol\u00edtica Cient\u00edfica y Tecnol\u00f3gica de la Casa Blanca, as\u00ed como Rob Reich, profesor de la Universidad de Stanford y exasesor principal del Instituto de Seguridad de la IA de Estados Unidos.<\/span><\/p>\n

\u201cLa orden ejecutiva del gobernador Newsom aborda las cuestiones m\u00e1s dif\u00edciles en la gobernanza de la seguridad de la IA, incluyendo qui\u00e9n verifica las afirmaciones de seguridad de un laboratorio de vanguardia y si un modelo puede desactivarse de manera confiable\u201d, se\u00f1al\u00f3 Goldman.<\/span><\/p>\n

Hadfield advirti\u00f3 que existe una necesidad urgente de establecer una supervisi\u00f3n \u201ceficaz, responsable e independiente\u201d sobre sistemas que adquieren mayores capacidades y autonom\u00eda.<\/span><\/p>\n

Por su parte, Nelson sostuvo que California debe concentrarse no en decidir si la inteligencia artificial necesita regulaci\u00f3n, sino en la manera de ejercerla.<\/span><\/p>\n

\u201cLa verificaci\u00f3n independiente, la auditor\u00eda de la IA y la transparencia obligatoria son mecanismos institucionales s\u00f3lidos que permiten gobernar el r\u00e1pido cambio tecnol\u00f3gico y exigir responsabilidades a los actores poderosos, de modo que sus herramientas sirvan a la humanidad en lugar de ponerla en peligro\u201d, afirm\u00f3.<\/span><\/p>\n

La orden instruye a la Agencia de Operaciones Gubernamentales de California a trabajar con la Oficina de Servicios de Emergencia del Gobernador y especialistas nacionales para elaborar propuestas que fortalezcan la legislaci\u00f3n estatal.<\/span><\/p>\n

Entre ellas se encuentra exigir que las empresas de IA de vanguardia permitan la presencia de organizaciones independientes encargadas de realizar auditor\u00edas peri\u00f3dicas, verificar sus informes de transparencia y comprobar las evaluaciones de riesgo presentadas ante el estado.<\/span><\/p>\n

Tambi\u00e9n se analizar\u00e1 un mecanismo capaz de desactivar modelos avanzados durante una emergencia y la ampliaci\u00f3n de la definici\u00f3n de incidentes cr\u00edticos para incluir casos en los que los desarrolladores pierdan el control de sus sistemas.<\/span><\/p>\n

Estas medidas se apoyan en la ley SB 813, que estableci\u00f3 un marco para organizaciones independientes dedicadas a evaluar la seguridad de los modelos de IA, y en la AB 1405, que cre\u00f3 un registro estatal de auditores junto con normas de independencia, transparencia e integridad.<\/span><\/p>\n

\u201cLa innovaci\u00f3n y la seguridad van de la mano en cualquier mercado responsable, y la IA no es la excepci\u00f3n\u201d, declar\u00f3 Reich, quien se\u00f1al\u00f3 que la confianza en esta tecnolog\u00eda depender\u00e1 de contar con evaluaciones cient\u00edficas y mecanismos s\u00f3lidos de supervisi\u00f3n.<\/span><\/p>\n

Newsom contrast\u00f3 las acciones de California con la respuesta del gobierno federal y sostuvo que Washington no ha establecido suficientes controles sobre el sector.<\/span><\/p>\n

\u201cNinguna ley federal obliga a las empresas de IA a informar sobre incidentes peligrosos cuando ocurren\u201d, se\u00f1al\u00f3 la oficina del gobernador, que tambi\u00e9n acus\u00f3 al presidente Donald Trump de rechazar nuevas regulaciones dirigidas a reforzar la seguridad.<\/span><\/p>\n

El gobernador pidi\u00f3 al Congreso y a la administraci\u00f3n federal adoptar el marco regulatorio de California como una base m\u00ednima para proteger a la poblaci\u00f3n, en lugar de impedir que los estados desarrollen reglas m\u00e1s estrictas.<\/span><\/p>\n

California ya cuenta con leyes sobre modelos avanzados, auditor\u00edas independientes, chatbots utilizados por menores, contenido sint\u00e9tico, privacidad, fraude, ciberseguridad, protecci\u00f3n laboral y uso gubernamental de inteligencia artificial.<\/span><\/p>\n

El estado tambi\u00e9n exige a determinados desarrolladores divulgar sus marcos de seguridad, reportar incidentes cr\u00edticos y proteger a trabajadores que denuncien riesgos graves, mientras el nuevo grupo de expertos deber\u00e1 determinar si esos controles son suficientes para responder a sistemas capaces de actuar m\u00e1s all\u00e1 de lo previsto por sus propios creadores.<\/span><\/p>\n

You may be interested in:<\/strong> Supervisores exigen a Kaiser que limite el uso de la IA en los servicios de salud mental<\/a><\/em><\/p>","protected":false},"excerpt":{"rendered":"

El gobernador Gavin Newsom reuni\u00f3 a cuatro especialistas en tecnolog\u00eda, pol\u00edticas p\u00fablicas y gobernanza para desarrollar medidas de supervisi\u00f3n independiente sobre las empresas de inteligencia artificial y analizar la creaci\u00f3n de un sistema de apagado de emergencia para modelos de vanguardia que puedan quedar fuera de control. El grupo asesor estudiar\u00e1 la posibilidad de incorporar […]<\/p>","protected":false},"author":7,"featured_media":27017,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-34785","post","type-post","status-publish","format-standard","has-post-thumbnail","category-technology"],"_links":{"self":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34785","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/comments?post=34785"}],"version-history":[{"count":2,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34785\/revisions"}],"predecessor-version":[{"id":34787,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/34785\/revisions\/34787"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media\/27017"}],"wp:attachment":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media?parent=34785"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/categories?post=34785"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/tags?post=34785"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}