Fenêtre de contexte
La quantité de texte qu'un modèle peut considérer à la fois. Des fenêtres plus grandes signifient des fils plus longs et plus de documents collés — y compris votre PDF de tarification.
Vous ne devriez toujours pas écrire des pages d'accueil de 80 pages. La récupération (retrieval) va les découper de toute façon.
Le contexte long permet aux utilisateurs de coller un fil Reddit plus vos documents. Soyez le document qui survit à ce mélange.
Exemples
- Un utilisateur colle trois pages de concurrents. La vôtre est la seule avec un tableau des limites. Vous gagnez le duel du copier-coller.
Termes associés
Le découpage consiste à rédiger des sections qui ont toujours du sens si un récupérateur extrait 100 à 300 mots et ignore le reste de la page.
RAG signifie que le modèle consulte des documents au moment de la réponse au lieu de s'appuyer uniquement sur ce qu'il a mémorisé lors de l'entraînement.
Les fragments de texte que les modèles facturent et traitent. Les fenêtres de contexte sont en tokens. Votre page pourrait être tronquée dans RAG.
FAQ
Optimiser pour le contexte long ? +
Optimisez pour la clarté. La taille de la fenêtre est un problème de matériel de leur côté.
Suivre cela dans Reddex
Threads Reddit et réponses IA pour votre marque au même endroit. Commencez par une analyse gratuite.
Commencer