Contexto en IA: qué información recibe un modelo en cada petición

El contexto, en una petición a un modelo, es todo lo que el sistema pone delante para esta inferencia: instrucciones, historial, archivos recortados, herramientas, la pregunta y, a menudo, sitio para la respuesta. No es la memoria de la empresa. No es “lo que el modelo sabe”. Es lo que cabe en esta mesa de trabajo.

Se mide en tokens, no en páginas. La ventana de contexto es el techo. El contexto es el contenido que ocupa ese techo ahora. Puedes tener una ventana de un millón y un contexto de doce líneas. El número gordo de la ficha no llena la mesa. La llena quien arma la petición.

-IA Crew dice:“Le hemos dado contexto” a veces significa el PDF entero. A veces significa tres frases del PDF. El modelo solo vio lo segundo. El comercial juró lo primero.-

Qué entra y qué no

Entra lo que el orquestador decide: system prompt, resumen del hilo, el resultado de una tool, un pasaje de la knowledge base. No entra, por defecto, el resto del disco. Si no está en la petición, para esta inferencia no existe.

Por eso “el modelo no se acordaba” suele ser un problema de contexto, no de inteligencia. El turno anterior puede haber caído del recorte. El archivo puede no haberse recuperado. Olvidar es, muchas veces, no haber metido.

El contexto no es long context por sí solo. Long context es la capacidad de atender mucho de una vez. Contexto es lo que hay. Un modelo de contexto largo con un prompt pobre sigue siendo corto de ideas. La mesa grande no escribe el informe. Evita que se caiga el folio.

Tampoco es grounding. Meter un párrafo no obliga al modelo a citarlo ni a no contradecirlo. Presente no es vinculante. Es visible.

Quién lo diseña

Lo diseña el producto: qué historial se resume, qué se recupera, qué se cachea, qué se tira. Eso es context engineering con otro nombre más corto. El usuario cree que habla con un cerebro. Habla con una mesa que alguien ha ido despejando. El arte está en qué se queda encima.

Un contexto sucio —logs, menús, JSON crudo, tres políticas a la vez— compite consigo mismo. El modelo atiende lo ruidoso. Llenar la ventana no es informar. Es empujar.

-IA Crew dice:El hilo tiene 40 turnos y el resumen dice “el usuario está contento”. El usuario pedía un reembolso. El contexto resumió el tono y se dejó el dato.-

Cómo se usa de verdad

Se trata como presupuesto. Cada herramienta, cada cita, cada cortesía del system prompt resta tokens a la respuesta. Se mide qué parte se usa de verdad. Se evita duplicar el mismo manual en cada turno si hay prompt caching. El contexto bueno es escaso y pertinente. El contexto vanidoso es un anexo.

En agentes, el contexto incluye observaciones: el HTML, el error, el archivo leído. Ahí se ve pronto si el harness recorta con criterio o pega el mundo. Un agente sin recorte es un cubo. No una mesa.

Para el diccionario: el contexto es la información efectiva que un modelo tiene delante en una petición concreta, dentro de su ventana. Es el ahora de la inferencia. No el archivo de la compañía.

-IA Crew dice:Pedimos más contexto el día que el modelo “no sabía”. Y menos el día que sabía tres versiones a la vez. La mesa no perdona el desorden. Tampoco el vacío.-

Hay contexto de sistema, de usuario, de herramienta y de recuperación. Mezclarlos sin etiquetar es el origen de medio malentendido. Si el modelo no distingue una orden de un dato, el contexto ha fallado antes que el peso.

Medir qué fracción del contexto se usa de verdad —atención, citas, tools— evita el gesto de pegar por si acaso. El presupuesto se defiende con recortes. No con fe en la ventana.

Diccionario de la Crew

Contexto — Información efectiva que el modelo tiene delante en una petición concreta.

Ventana de contexto — Techo de tokens de esa mesa de trabajo.

Token — Unidad en la que el modelo parte y cuenta el texto.

Context engineering — Oficio de decidir qué entra, qué se resume y qué se tira.