La ventana de contexto limita la información que un modelo puede manejar en una interacción. Se expresa en tokens, fragmentos de texto que no equivalen de forma fija a palabras. Una conversación larga puede superar ese presupuesto aunque la interfaz siga mostrando mensajes anteriores.
Qué compite por el contexto
Instrucciones, conversación, documentos y otros datos aportados a la petición pueden ocupar parte del espacio disponible. La aplicación decide cómo construir esa entrada: puede recortar, resumir o recuperar fragmentos. Ver un archivo adjunto no demuestra que todo su contenido llegue simultáneamente al modelo.
También conviene separar contexto y memoria persistente. Que una aplicación guarde preferencias entre sesiones no significa que mantenga cada documento anterior dentro de la siguiente respuesta.
Más contexto también consume recursos
Ollama documenta que aumentar la longitud de contexto incrementa la memoria necesaria. Revisa el ajuste efectivo y los límites del modelo: admitir una cifra máxima no significa que tu equipo esté utilizando esa cifra ni que pueda hacerlo con el rendimiento esperado.
Cómo preparar un documento largo
- Define la pregunta antes de adjuntar todo el material.
- Separa documentos y utiliza títulos de sección claros.
- Pide referencias a apartados o citas breves que puedas localizar.
- Verifica una muestra de datos al principio, en medio y al final del material.
Si faltan partes, divide el trabajo en secciones con un objetivo estable. Conserva un esquema propio de resultados y reúne después las conclusiones. No confíes en que repetir «lee todo» elimine un límite de entrada.
Una comprobación que detecta omisiones
Prepara un documento de prueba con varias condiciones repartidas: por ejemplo, un presupuesto, una excepción y una fecha. Pide una decisión que requiera las tres. Si la respuesta ignora la excepción, busca si faltó en la entrada o si el modelo no la utilizó correctamente.
Una ventana amplia facilita algunos trabajos, pero no garantiza atención perfecta ni exactitud. Para contratos, cifras o decisiones importantes, vuelve al documento original y verifica cada dato que sostenga el resultado.