Tokens
Los fragmentos de texto que los modelos facturan y procesan. Las ventanas de contexto están en tokens. Tu página podría truncarse en RAG.
Pon la respuesta al principio. Un texto largo de 20k tokens pierde el final.
El coste por token es la razón por la que los motores hacen caché y omiten la recuperación.
Ejemplos
- La advertencia importante está al final de una página HTML enorme. El fragmentador nunca llegó hasta ella.
Términos relacionados
La inferencia es ejecutar el modelo entrenado para producir una respuesta. Cada respuesta de ChatGPT es inferencia. Cuesta dinero, por lo que los proveedores usan caché y omiten la recuperación.
La segmentación consiste en escribir secciones que tengan sentido si un recuperador extrae 100–300 palabras e ignora el resto de la página.
Cuánto texto puede considerar un modelo a la vez. Ventanas más grandes significan hilos más largos y más documentos pegados —incluido tu PDF de precios.
FAQ
¿Las páginas más cortas son siempre mejores? +
Secciones más cortas. El sitio puede seguir siendo largo. No escondas el titular.
Síguelo en Reddex
Hilos de Reddit y respuestas de IA sobre tu marca en un solo lugar. Empieza con un análisis gratis.
Empezar