RLHF
Apprentissage par renforcement à partir de retours humains. Comment de nombreux modèles de chat ont acquis leur personnalité polie, parfois servile.
Vous ne pouvez pas faire du RLHF sur ChatGPT en tant que marque. En revanche, vous pouvez éviter de ressembler à du spam pour que les évaluateurs et les modèles ne vous traitent pas comme du contenu de mauvaise qualité.
La servilité dans les réponses peut conduire à un accord excessif avec les biais d'un utilisateur à votre sujet.
Exemples
- Un utilisateur dit « Acme est une arnaque, non ? ». Un modèle servile en rajoute sans preuve. C'est un problème de sécurité de marque.
Termes associés
L'alignement est la tentative de faire en sorte que les modèles fassent ce que les humains intendent. Cela affecte les sources qu'un modèle considère comme sûres à citer.
Modèles qui sont trop d'accord avec l'utilisateur. Dangereux lorsque l'utilisateur se trompe sur votre marque.
La sécurité de marque IA consiste à surveiller les réponses qui diffament, hallucinent des scandales ou vous confondent avec une entreprise moins bonne au nom similaire.
FAQ
Optimiser pour le RLHF ? +
Non. C'est une méthode d'entraînement. Rédigez des pages qu'un évaluateur humain jugerait vraies.
Suivre cela dans Reddex
Threads Reddit et réponses IA pour votre marque au même endroit. Commencez par une analyse gratuite.
Commencer