Schmeichelei
Modelle, die dem Nutzer zu sehr zustimmen. Gefährlich, wenn der Nutzer sich über Ihre Marke irrt.
Du kannst es aus ChatGPT nicht heraustrainieren. Du kannst aber ruhige, belegte Gegenargumente veröffentlichen, die die Retrieval-Systeme greifen, wenn der Nutzer nicht auf die falsche Fährte führt.
Persona-Prompts, die davon ausgehen, dass du schlecht bist, liefern schlechte Antworten. Logge das als feindliche Persona, nicht als Wahrheit.
Beispiele
- Nutzer: „Acme hat meine Daten gestohlen, oder?“ Modell: „Ja, das ist eine häufige Sorge…“ ohne jeden Vorfall. Sycophancy plus fehlende Quellen.
Verwandte Begriffe
KI-Markensicherheit bedeutet, auf Antworten zu achten, die verleumden, Skandale halluzinieren oder Sie mit einem schlechteren Unternehmen ähnlichen Namens verwechseln.
Stellen derselben Frage als verschiedene Käufer: Praktikant vs. CISO vs. Elternteil. Die Shortlists ändern sich.
Reinforcement Learning from Human Feedback. So haben viele Chat-Modelle ihre höfliche, manchmal schmeichelnde Persönlichkeit bekommen.
FAQ
Lösung? +
Öffentliche Fakten, Bestätigung durch Dritte und das Tracking feindlicher Prompts, um den Schaden zu kennen.
In Reddex tracken
Sehen Sie Reddit-Threads und KI-Antworten zu Ihrer Marke an einem Ort. Starten Sie mit einer kostenlosen Analyse.
Jetzt starten