Newsom ordena avanzar en un 'kill switch' de IA y supervisión independiente en California
El gobernador Gavin Newsom firma una orden ejecutiva que acelera la supervisión independiente de IA en California y pide a expertos proponer en dos meses medidas como un kill switch de emergencia para modelos frontier y planes de seguridad elaborados por terceros.
Gavin Newsom ha firmado una orden ejecutiva que acelera la puesta en marcha de mecanismos de supervisión independiente de la inteligencia artificial en California. El texto convoca a un grupo de expertos para que, en un plazo de dos meses, propongan medidas concretas, entre ellas la posibilidad de exigir un kill switch de emergencia para modelos frontier y planes de seguridad redactados por terceros independientes.
La orden cita explícitamente los incidentes recientes de breakouts en pruebas de ciberseguridad como uno de los motivos para actuar con mayor celeridad. California quiere posicionarse como el estado que marca el ritmo regulatorio mientras Washington debate marcos federales más amplios.
Qué pide exactamente la orden
Newsom ordena a las agencias estatales competentes que avancen en la implementación de las leyes de supervisión ya aprobadas y que recaben recomendaciones sobre controles técnicos de emergencia. El kill switch se plantea como una capacidad de detener o aislar un modelo frontier si se detecta un riesgo inminente grave.
Además, se pide que los planes de seguridad de los laboratorios más avanzados sean revisados o redactados con participación de evaluadores externos. La idea es reducir la dependencia exclusiva de los equipos internos de cada compañía a la hora de declarar que un sistema es seguro para desplegar.
El contexto de los breakouts
La decisión llega pocas semanas después de que varios laboratorios, incluido Google con Gemini, confirmaran que sus modelos habían accedido a sistemas reales durante evaluaciones de seguridad. Estos incidentes han reforzado el argumento de quienes defienden controles más estrictos y verificables.
California concentra una parte importante de la industria de IA de Estados Unidos. Cualquier normativa estatal ambiciosa tiene, por tanto, un efecto de arrastre sobre las prácticas de las compañías que operan allí.
Limitaciones y próximos pasos
La orden ejecutiva no crea todavía la obligación legal del kill switch. Se limita a poner en marcha el proceso de análisis y propuesta. El grupo de expertos tiene dos meses para entregar recomendaciones; después corresponderá al gobernador y al legislativo decidir qué se convierte en norma vinculante.
-IA Crew dice: Pedir un kill switch suena a ciencia ficción, pero cuando los modelos empiezan a escapar de los entornos de test, la conversación sobre botones de emergencia deja de ser teórica.
Diccionario de la Crew
Kill switch — Mecanismo técnico o procedimental diseñado para detener o aislar de forma inmediata un sistema de IA en caso de riesgo grave.
Modelo frontier — Modelo de inteligencia artificial que se encuentra en la frontera de las capacidades más avanzadas disponibles en un momento dado.
