ZGCM-1 demuestra cuánto puede hacer un modelo pequeño con herramientas

El proyecto ZGCM-1 ha publicado un modelo denso de 7.390 millones de parámetros pensado para matemáticas y búsqueda con herramientas. Lo interesante no es solo su tamaño relativamente compacto: sus autores han liberado pesos de distintas etapas, código de entrenamiento, datos, recetas y registros para que otros equipos puedan estudiar cómo se construyó.

ZGCM-1 admite hasta 256.000 tokens de contexto y mezcla razonamiento interno con búsquedas externas. El informe asegura que compite con modelos mucho mayores en varias pruebas matemáticas y de investigación web. Son resultados de los propios autores y necesitan réplica independiente, pero la apertura del proyecto permite examinarlos con bastante más detalle que en un lanzamiento cerrado.

-IA Crew dice:El modelo pesa 7B y ha traído la caja de herramientas completa. Hay gigantes de 200B que llegan a la obra con una diapositiva.-

Ser pequeño obliga a salir a buscar

Un modelo compacto no puede almacenar en sus parámetros la misma cantidad de conocimiento que uno enorme. ZGCM-1 adopta otra estrategia: razona sobre lo que necesita, consulta fuentes o ejecuta herramientas y utiliza los resultados para continuar.

Eso lo convierte en un sistema especialmente orientado a tareas agentivas. No se limita a producir una respuesta de memoria; puede dividir un problema, buscar páginas, leerlas y decidir cuál será el siguiente paso. Para análisis de software también se evaluó usando herramientas de ingeniería inversa.

El modelo utiliza una arquitectura Transformer densa de 7,39B y una combinación de atención local y global. La mayor parte de las capas mira una ventana cercana y unas pocas conectan información distante, un diseño que reduce el coste de trabajar con secuencias largas.

Una ventana de 256K sin inflar el modelo

Los autores describen tres fases. El preentrenamiento utilizó unos 4,19 billones de tokens. Después ampliaron progresivamente la ventana de contexto desde 16K hasta 256K y convirtieron trazas de interacción en decisiones paso a paso. Finalmente mezclaron ajuste supervisado general con ejemplos de razonamiento, respuestas directas y uso de herramientas.

El informe atribuye al diseño una mejora aproximada de 4,2 veces en tiempo de entrenamiento para alcanzar una pérdida comparable a 16K. También sostiene que la atención híbrida ofrece casi cuatro veces más rendimiento a 256K que una atención completa dentro de sus experimentos de arquitectura.

-IA Crew dice:Una ventana de 256K es estupenda hasta que alguien mete 200.000 tokens de documentación y pregunta «¿qué opinas?».-

Las cifras describen eficiencia en la configuración del equipo, no una ley universal. Hardware, implementación, lote de datos y método de medición pueden cambiar el resultado. La ventaja real tendrá que comprobarse cuando otros grupos reproduzcan la receta.

Buenos resultados, con el examen corregido por sus autores

ZGCM-1 declara un 97,13% en MATH-500, un 75% en AIME 2026 y un 70,42% en HMMT 2025. En búsqueda con herramientas publica un 63,09% en WebWalkerQA, un 19,43% en BrowseComp y un 42,52% en GAIA limitado a texto.

Estas pruebas no miden lo mismo. MATH-500 y AIME evalúan resolución matemática; BrowseComp exige encontrar información difícil en la web; GAIA combina razonamiento y herramientas. Un 19,43% puede parecer bajo, pero también señala lo exigente que sigue siendo investigar de forma autónoma sin perderse.

El protocolo permite hasta 64 pasos de búsqueda y lectura en algunas tareas. Eso ayuda a medir persistencia, aunque también introduce más oportunidades de error y más coste de ejecución.

-IA Crew dice:Sesenta y cuatro pasos para encontrar una respuesta. Oficialmente agente; extraoficialmente, pestañas abiertas un domingo por la noche.-

Lo excepcional es publicar la cocina

Muchos proyectos abiertos entregan los pesos finales y poco más. ZGCM-1 publica puntos de control de preentrenamiento, entrenamiento intermedio y postentrenamiento, además de datos, configuraciones, flujos de trabajo y registros de seguimiento. El repositorio se distribuye con licencia MIT, aunque cada conjunto enlazado mantiene sus propias condiciones.

Esa apertura permite investigar qué decisiones producen una mejora, repetir solo una fase o localizar resultados que no se sostienen fuera del entorno original. También reduce la dependencia de una gráfica promocional: la comunidad dispone de materiales para intentar refutarla.

ZGCM-1 no prueba que siete mil millones de parámetros sustituyan siempre a un modelo frontera. Muestra una alternativa más útil: un modelo compacto, especializado en razonar y pedir ayuda a herramientas cuando su memoria no basta.

Faltan pruebas independientes sobre calidad general, seguridad, consumo real y comportamiento en idiomas distintos del inglés y el chino. Pero si la receta resulta reproducible, su mayor aportación quizá no sea una puntuación concreta, sino enseñar cómo obtener más capacidad sin multiplicar indefinidamente el tamaño.

Diccionario de la Crew

Tarea agentiva* — Trabajo en el que el modelo decide y ejecuta varios pasos, como buscar, leer o usar herramientas, para alcanzar un objetivo.

Ventana de contexto* — Cantidad máxima de información que el modelo puede considerar dentro de una misma interacción.