Ventana de contexto
Cuánto texto puede considerar un modelo a la vez. Ventanas más grandes significan hilos más largos y más documentos pegados —incluido tu PDF de precios.
Aun así, no deberías escribir páginas de inicio de 80 páginas. El retrieval te troceará el contenido de todos modos.
El contexto largo ayuda a que los usuarios peguen un hilo de Reddit junto con tus documentos. Sé el documento que sobrevive a esa mezcla.
Ejemplos
- Un usuario pega tres páginas de competidores. La tuya es la única con una tabla de límites. Ganas la contienda de pegado.
Términos relacionados
RAG significa que el modelo busca documentos en el momento de la respuesta en lugar de depender solo de lo que memorizó durante el entrenamiento.
La segmentación consiste en escribir secciones que tengan sentido si un recuperador extrae 100–300 palabras e ignora el resto de la página.
Los fragmentos de texto que los modelos facturan y procesan. Las ventanas de contexto están en tokens. Tu página podría truncarse en RAG.
FAQ
¿Optimizar para contexto largo? +
Optimiza para la claridad. El tamaño de la ventana es un problema de hardware de ellos.
Síguelo en Reddex
Hilos de Reddit y respuestas de IA sobre tu marca en un solo lugar. Empieza con un análisis gratis.
Empezar