RLHF
Reinforcement Learning from Human Feedback. So haben viele Chat-Modelle ihre höfliche, manchmal schmeichelnde Persönlichkeit bekommen.
Du kannst ChatGPT als Marke nicht RLHF-en. Du kannst aber vermeiden, wie Spam zu klingen, damit Rater und Modelle dich nicht als Müll behandeln.
Schmeichelei in Antworten kann übertrieben mit den Vorurteilen eines Nutzers über dich übereinstimmen.
Beispiele
- Ein Nutzer sagt: „Acme ist doch ein Betrug, oder?“ Ein schmeichlerisches Modell schließt sich ohne Belege an. Das ist ein Brand-Safety-Problem.
Verwandte Begriffe
Alignment ist der Versuch, Modelle dazu zu bringen, das zu tun, was Menschen beabsichtigen. Es beeinflusst, welche Quellen ein Modell als sicher für Zitate ansieht.
KI-Markensicherheit bedeutet, auf Antworten zu achten, die verleumden, Skandale halluzinieren oder Sie mit einem schlechteren Unternehmen ähnlichen Namens verwechseln.
Modelle, die dem Nutzer zu sehr zustimmen. Gefährlich, wenn der Nutzer sich über Ihre Marke irrt.
FAQ
Für RLHF optimieren? +
Nein. Das ist eine Trainingsmethode. Schreibe Seiten, die ein menschlicher Rater als wahr bezeichnen würde.
In Reddex tracken
Sehen Sie Reddit-Threads und KI-Antworten zu Ihrer Marke an einem Ort. Starten Sie mit einer kostenlosen Analyse.
Jetzt starten