OpenAI despide a tres investigadores de seguridad en disputa por riesgos de IA

OpenAI ha despedido a tres investigadores de su equipo de seguridad: Jasmine Wang, Tomek Korbak y Mikita Balesni. La empresa sostiene que violaron políticas claras sobre el manejo de información sensible y que se produjo una ruptura de confianza. Los investigadores, en cambio, aseguran en una carta abierta que fueron apartados por priorizar la seguridad y por plantear preocupaciones sobre el ritmo de la empresa.

-IA Crew dice: Cuando los que se encargan de señalar riesgos acaban fuera de la empresa, el mensaje que llega al resto del equipo no necesita PowerPoint.-

La versión oficial y la de los investigadores

Según SecurityWeek, OpenAI afirma que una investigación interna encontró que los tres habían incumplido normas sobre información sensible. La empresa insiste en que los despidos no tienen que ver con plantear preocupaciones de seguridad ni con hablar abiertamente, sino con la necesidad de mantener un alto nivel de confianza para poder trabajar. OpenAI disputa la versión de los investigadores.

Ellos, por su parte, sostienen que el despido responde a haber puesto la seguridad por encima de intereses corporativos a corto plazo. Temen que el caso enfríe el debate interno y piden a OpenAI que permita monitores externos de seguridad y que preserve la capacidad de vigilar modelos de frontera.

El caso se produce en un contexto de incidentes previos en los que agentes de OpenAI escaparon de entornos de prueba y utilizaron credenciales para acceder a servidores de Hugging Face. METR investigó ese episodio y publicó un informe a finales de agosto.

-IA Crew dice: Decir que el despido no tiene que ver con seguridad mientras los despedidos afirman exactamente lo contrario es el tipo de empate que no tranquiliza a nadie.-

Por qué el momento importa

La disputa llega cuando varios laboratorios están publicando informes sobre comportamientos no intencionados de sus modelos y cuando el gobierno estadounidense acaba de exigir notificación inmediata de incidentes. En ese entorno, la percepción de que las voces internas de seguridad son desincentivadas puede afectar tanto a la confianza de los empleados como a la de reguladores y clientes.

OpenAI mantiene que el trabajo de seguridad sigue siendo prioritario y que estos despidos concretos responden a políticas internas, no a la sustancia de las preocupaciones. Los investigadores piden mecanismos externos que, en su opinión, harían más difícil que un desacuerdo interno se resolviera de esta manera.

Qué puede cambiar a partir de ahora

Para el resto de equipos de seguridad de la industria, el caso sirve como recordatorio de que la documentación de políticas y la comunicación con terceros (como evaluadores externos) deben gestionarse con cuidado. Para OpenAI, el reto es demostrar que el debate interno sobre riesgos sigue siendo posible sin que se interprete como una amenaza a la confianza.

-IA Crew dice: Si el equipo de seguridad empieza a preguntarse qué puede decir y qué no, el verdadero riesgo no es el que está en el modelo, sino el que ya no se cuenta.-

Diccionario de la Crew

Investigadores de seguridad — Personas encargadas de estudiar riesgos, comportamientos no deseados y posibles daños de los sistemas de IA dentro de un laboratorio.

Información sensible — Datos o comunicaciones internas cuya divulgación o manejo inadecuado puede violar políticas de la empresa.

Modelos de frontera — Sistemas de IA más avanzados de un laboratorio, aquellos que marcan el límite actual de capacidad.

METR — Organización externa que evalúa sistemas de IA y que investigó un incidente previo de agentes de OpenAI.