Definición
La ventana de contexto es la cantidad máxima de información, medida en tokens, que un modelo de lenguaje puede tener presente en una sola interacción. Incluye tus instrucciones, los documentos que adjuntas, el historial de la conversación y la respuesta que genera. Todo lo que quede fuera de esa ventana no existe para el modelo. Es, en la práctica, su memoria de trabajo.
En la empresa, la ventana de contexto determina qué se puede hacer en una sola llamada: analizar un contrato completo, comparar diez informes o mantener una conversación larga con un cliente sin perder el hilo. Cuando la información supera la ventana, hay que trocearla, resumirla o usar RAG para recuperar solo las partes relevantes. Elegir bien esa estrategia es una de las decisiones técnicas con más impacto en calidad y coste.
Las ventanas han crecido de unos pocos miles de tokens a cientos de miles y, en algunos modelos, más de un millón. Pero más grande no siempre significa mejor: el coste crece con cada token enviado y los modelos rinden peor con información irrelevante en medio. El malentendido habitual es pensar que la ventana de contexto es memoria permanente. No lo es; cada conversación empieza de cero salvo que el sistema guarde y reinyecte el contexto.
En la práctica
Un fondo de inversión carga en una sola petición la memoria anual completa de una empresa, unas 300 páginas, y pide al modelo que localice riesgos no mencionados en el resumen ejecutivo. Con una ventana de contexto pequeña habría hecho falta trocear el documento y perder relaciones entre secciones.
Por qué importa
La ventana de contexto marca el límite entre lo que la IA puede analizar de una vez y lo que exige ingeniería adicional. Saberlo evita proyectos mal dimensionados y facturas inesperadas.
Preguntas frecuentes
- ¿Qué pasa cuando se supera la ventana de contexto?
- El modelo deja de ver la parte más antigua de la conversación o el sistema rechaza la petición, según cómo esté construida la aplicación. En un chat, notarás que olvida lo que dijiste al principio. En un proceso automatizado, hay que dividir la información o recuperar solo lo relevante con RAG.
- ¿Es mejor un modelo con la ventana de contexto más grande?
- No necesariamente. Una ventana grande es útil para documentos largos, pero cada token enviado cuesta dinero y tiempo, y los modelos se distraen con información irrelevante. Para la mayoría de procesos empresariales, es más eficaz enviar poco contexto bien seleccionado que todo el archivo.