Thursday, November 19, 2026

Newsom propone controles obligatorios y apagado de emergencia para la IA avanzada

California presentó nuevas recomendaciones para reforzar la seguridad de los sistemas de inteligencia artificial más avanzados, entre ellas apagado de emergencia para la IA avanzada.
California presentó nuevas recomendaciones para reforzar la seguridad de los sistemas de inteligencia artificial más avanzados, entre ellas apagado de emergencia para la IA avanzada. Foto: captura de pantalla del video difundido en X por @GavinNewsom

California presentó nuevas recomendaciones para reforzar la seguridad de los sistemas de inteligencia artificial más avanzados, entre ellas establecer estándares obligatorios para sus desarrolladores, exigir evaluaciones independientes y permitir al estado ordenar el apagado de un modelo si representa un peligro. 

Las propuestas forman parte de un informe elaborado por un grupo de especialistas convocado por el gobernador Gavin Newsom, quien busca ampliar las reglas estatales ante los riesgos que, según el documento, pueden surgir cuando los modelos operan sin controles suficientes o desarrollan nuevas versiones de sí mismos.

El informe plantea que el estado establezca requisitos mínimos para todas las compañías de IA y que las evaluaciones de seguridad independientes se realicen en las distintas etapas de entrenamiento, desarrollo y despliegue de los modelos; también recomienda ampliar la obligación de reportar incidentes y verificar los protocolos para contener sistemas peligrosos.

Una de las medidas más sensibles sería la autoridad estatal para ordenar un cierre de emergencia, respaldada por protocolos probados de antemano. 

El documento también propone limitar la auto-mejora recursiva, escenario en el que un modelo de inteligencia artificial podría diseñar a sus sucesores sin intervención humana.

Newsom sostuvo que el gobierno federal ha dejado la supervisión de la tecnología en manos de las empresas y afirmó que California fortalecerá su marco regulatorio. 

“Estamos demostrando al país lo que significa un liderazgo responsable”, señaló el gobernador en el mensaje que acompañó el anuncio.

Las recomendaciones no equivalen a nuevas leyes ya aprobadas, sino que trazan posibles cambios a la regulación estatal. California ya cuenta con la SB 53, que exige a ciertos desarrolladores divulgar sus marcos de seguridad y reportar incidentes críticos, además de la SB 813 y la AB 1405, que establecen bases para la evaluación independiente y el registro de auditores de IA. 

El grupo asesor incluyó a Jason Goldman, Gillian Hadfield, Alondra Nelson y Rob Reich, especialistas en tecnología, regulación y gobernanza.

Nick Maduros, secretario de la Agencia de Operaciones Gubernamentales de California, afirmó que “no tenemos que elegir entre seguridad e innovación; son dos caras de la misma moneda”.

You may be interested in: California usará inteligencia satelital ante un “El Niño” potencialmente histórico

Peninsula 360 Press
Peninsula 360 Presshttps://peninsula360press.com
Study of cross-cultural digital communication

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Latest articles