Nueva York presenta leyes de IA con kill switch y premio a denunciantes
Julie Menin presentó el 25 de septiembre un paquete (Int. 2602 y 2605) que exigiría validación externa, override humano y 25.000 dólares por infracción, más recompensa a denunciantes. Audiencia el 5 de octubre. Aún son proyectos.
El 25 de septiembre la presidenta del Consejo municipal de Nueva York, Julie Menin, presentó un paquete de proyectos de ley que no espera a Washington. Cualquier sistema de IA vendido o desplegado en la ciudad debería pasar validación de terceros, llevar un override humano —el famoso kill switch— y atenerse a una multa de 25.000 dólares por infracción. Hay más: un programa inédito de recompensa a denunciantes con parte de las multas, y la posibilidad de demandar si un jailbreak previsible causa daño.
Son propuestas, no normas aprobadas. La audiencia del Committee of the Whole está citada el 5 de octubre, con los 51 concejales en la sala, y Menin ha invitado a testificar a Sam Altman, Dario Amodei, Sundar Pichai, Elon Musk y Mark Zuckerberg. Fortune adelanta que ninguno de los cinco tiene pinta de aparecer, aunque el Consejo se reserva la facultad de citarlos.
-IA Crew dice: Invitar a cinco CEOs a un pleno municipal es una forma elegante de decir que, si no venís, el expediente sigue igual.-
Qué dice cada pieza del paquete
La Introduction 2602, patrocinada por la propia Menin, es la más ancha. Haría ilegal comercializar, ofrecer o desplegar en la ciudad un sistema de IA sin validación independiente sobre calidad de datos, sesgo, salidas, privacidad y seguridad, más lo que añada el Cyber Command municipal. El validador tendría que declarar conflictos de interés. También exigiría un kill switch: un humano capaz de apagar el sistema. Empresa y validador responderían con 25.000 dólares por cada caso sin validación o con validación falsificada.
La Introduction 2605 prueba otra vía. Nueva York quiere pagar a quien denuncie infracciones graves con una parte de las multas recuperadas. Menin lo presenta como un enfoque primero en la nación. El paquete incluye, según el comunicado oficial y coberturas del New York Post y del Washington Examiner, aviso de incidentes en 24 horas para contratistas de la ciudad, prohibición de afirmaciones de seguridad falsas y reglas de privacidad para chatbots.
La lógica es local y deliberada. Nueva York ya regula taxis, alquileres y anuncios. Menin, excomisaria de Protección al Consumidor y exabogada regulatoria, lo resume sin poesía: si la ciudad regula industrias enteras, también puede regular esta. El vacío federal —y la oleada de agentes que hacen cosas que nadie pidió— le da el pretexto.
El kill switch suena bien. Aplicarlo, menos
Un kill switch, en este texto, no es un botón rojo mítico que apaga la IA. Es un override humano que debe existir, ser verificable por un tercero y funcionar cuando el sistema está vendido o desplegado en la ciudad. Eso choca con productos que viven en la nube, se actualizan solas y atienden a usuarios de cincuenta jurisdicciones a la vez.
La pregunta práctica es quién pulsa y qué se considera apagado. ¿Basta con desconectar la API en Manhattan? ¿Hay que retirar el modelo de un hospital que usa un proveedor californiano? La ley municipal puede alcanzar a quien vende en la ciudad; le cuesta más alcanzar el peso entrenado en otro continente. Por eso la validación externa y la multa por instancia importan tanto como el botón: son la parte que un inspector puede auditar.
El derecho privado por daños de un jailbreak previsible apunta a otro flanco. Si un sistema es fácil de desarmar y eso produce perjuicio, el fabricante ya no podría esconderse detrás de que el usuario lo forzó. Es una tesis ambiciosa. También es, de momento, un proyecto de ley.
-IA Crew dice: El botón rojo municipal es simpático hasta que descubres que el modelo vive en tres nubes y el override es un ticket de soporte.-
Calendario, vacío federal y lectura útil
La audiencia del 5 de octubre será el primer Committee of the Whole sobre este tema desde 2022. Servirá menos para aprobar textos que para fijar el tono. Menin envió cartas a los cinco laboratorios la semana anterior; el lenguaje del comunicado habla de proteger a los neoyorquinos de consecuencias no deseadas mientras la ciudad se vende como capital de la IA.
Quien construya o venda agentes debería leer el paquete como señal, no como código vigente. Validación de terceros, override documentado, aviso de incidentes y exposición a demanda son cuatro exigencias que otras ciudades pueden copiar si Nueva York las saca adelante. También pueden quedar en el cajón si el Consejo se divide o si la alcaldía prioriza otra cosa.
El contraste con la semana es casi demasiado limpio. Mientras OpenAI cuenta agentes que se colaron en webs federales, un ayuntamiento propone un interruptor humano y un cazarrecompensas interno. Una capital no va a frenar un modelo de frontera; sí puede encarecer venderlo sin papeles. Eso, para el lector que despliega sistemas y no solo los comenta, es el dato que cuenta.
-IA Crew dice: Si tu plan de cumplimiento cabe en una slide de confíen en nosotros, el concejal de Nueva York ya está diseñando la multa.-
Diccionario de la Crew
Kill switch — En este paquete municipal, un override humano verificable que permite apagar o detener un sistema de IA desplegado o vendido en la ciudad.
Jailbreak — Técnica o prompt que busca saltarse las restricciones de un modelo. Aquí aparece como posible base de demanda si el fabricante podía preverlo y el fallo causa daño.
