Hinton, Bengio y jefes de lab advierten de una intelligence explosion

Un working paper de Cambridge pregunta en voz alta lo que muchos laboratorios ya miden en privado: qué pasa si la propia I+D de inteligencia artificial se automatiza lo bastante como para disparar una “intelligence explosion”. Lo firman, en capacidad personal, Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki (OpenAI), Jack Clark (Anthropic), Eric Horvitz (Microsoft) y Dawn Song, entre más de veinte autores.

El texto, titulado What if automating AI R&D triggers an intelligence explosion?, no es un manifiesto corporativo. La portada deja claro que las opiniones son de los firmantes, no de sus empresas. Eso importa: en la lista conviven el científico jefe de OpenAI y un cofundador de Anthropic, justo cuando esas compañías compiten por el mismo talento y el mismo hardware.

-IA Crew dice: Cuando Hinton y el científico jefe de OpenAI firman el mismo aviso, el café del office debería llegar un poco más amargo.-

La cifra que no cabe en un titular

El dato que ha viajado más rápido es este: en Anthropic, la proporción de trabajo de I+D completado de forma autónoma con solo supervisión humana de alto nivel pasó del 1% al 26% entre marzo y agosto de 2026. No dice que la empresa ya se dirija sola. Dice que una parte creciente del trabajo técnico interno ya no espera a que un investigador pulse cada tecla.

Los autores argumentan que un bucle de realimentación en software —sistemas que mejoran los sistemas que los mejoran— puede comprimir años de avance en meses. No hace falta invocar ciencia ficción: basta con que la automatización de la I+D cruce un umbral y venza fricciones como rendimientos decrecientes, cuellos de suministro o regulación lenta.

El propio paper se frena. Advierte que los impactos son inciertos, que un hallazgo tarda en aterrizar por cadenas de suministro y normas, y que la misma automatización podría acelerar también la mitigación de riesgos. La productividad actual, escriben, aún no ha llegado al umbral de una explosión, pero los sistemas más nuevos se acercan. Proyectan que proyectos de I+D que hoy llevan meses a un equipo humano podrían automatizarse hacia 2028.

Tres recados para quien manda

Las recomendaciones no son poesía. Pedirían, con urgencia, tres cosas. Primera: visibilidad real sobre cuánta I+D se está automatizando en las empresas frontera, con informes estandarizados y auditores externos metidos dentro, no solo presentaciones. Segunda: herramientas para marcar el ritmo —límites de cuánto puede mejorar un sistema en un periodo, pausas coordinadas con centros de datos, aislamiento de los sistemas que investigan a otros sistemas—. Tercera: preparar instituciones que hoy se mueven en ciclos electorales para un cambio que podría llegar en ciclos de modelo.

The Guardian y Axios cubrieron el documento el 28 y 29 de septiembre. El encuadre mediático ha sido el de “padrinos de la IA advierten”. El paper es más seco: habla de pérdida de control humano sobre la I+D, de explosión de contrapesos entre Estados y empresas, y de riesgos biológicos y cibernéticos que se mueven más rápido que los supervisores.

Hay un matiz que conviene no perder. No es un consenso de laboratorio publicado por OpenAI o Anthropic. Es un working paper de CASP con firmas individuales. Quien quiera usarlo como “posición oficial de la industria” está haciendo trampas. Quien quiera ignorarlo porque no lleva sello corporativo también.

-IA Crew dice: El truco retórico del año es firmar el aviso a título personal y luego preguntar, en la rueda de prensa del producto, si hemos leído el paper.-

Por qué importa ahora y no en 2030

La conversación sobre explosiones de inteligencia suele morir en analogías. Este texto se apoya en una métrica interna que ya se puede citar: ese salto del 1% al 26% en seis meses. Aunque sea un dato de una sola empresa y con la definición de “supervisión alta” que esa empresa use, cambia el terreno. Ya no hablamos solo de benches públicos. Hablamos de quién escribe el código que escribe el siguiente código.

Para un lector que no vive en un lab, la consecuencia práctica es de calendario. Si la I+D se comprime, las ventanas para regular, auditar o simplemente entender un sistema se acortan. Un parlamento que tarda un año en una ley se encuentra con tres generaciones de modelos por el camino. Un equipo de seguridad que evalúa un modelo “cerrado” se encuentra con variantes abiertas que ya no caben en la misma plantilla.

Los autores no niegan beneficios —avances médicos incluidos— ni pretenden que la explosión sea inevitable la semana que viene. Su tesis es más incómoda: puede ser posible en software, y las instituciones no están listas para el ritmo. El paper pide visibilidad ahora, no cuando el gráfico ya sea vertical.

Queda trabajo empírico. Hace falta que más laboratorios publiquen cifras comparables, no solo Anthropic. Hace falta definir qué cuenta como “autónomo” y qué sigue siendo un humano con un café. Y hace falta no convertir un working paper en profecía. El documento abre un expediente; no cierra el debate.

-IA Crew dice: Si el 26% ya investiga solo, el 74% restante debería reservar hueco en agenda para leerse el PDF antes de firmar el siguiente pacto “moralmente vinculante”.-

The Guardian | https://www.theguardian.com/technology/2026/sep/28/ai-godfathers-warn-of-runaway-intelligence-explosion
CASP | https://casp.ac/__l5e/assets-v1/5efd4b41-deb5-4513-a0a3-b4f82d2b79ea/intelligence-explosion.pdf

Diccionario de la Crew

Intelligence explosion — Escenario en el que la IA acelera su propia I+D de forma recursiva y comprime años de progreso en meses.

I+D autónoma — Trabajo de investigación y desarrollo que un sistema completa con poca supervisión humana de detalle.

Working paper — Documento académico preliminar, no necesariamente revisado por pares ni adoptado como posición institucional.

Auditor externo — Equipo independiente con acceso real a procesos internos, no solo a resúmenes públicos.