RLHF
Aprendizaje por refuerzo a partir de retroalimentación humana. Cómo muchos modelos de chat obtuvieron su personalidad educada, a veces aduladora.
No puedes aplicar RLHF a ChatGPT como marca. Lo que sí puedes hacer es evitar sonar como spam para que los evaluadores y los modelos no te traten como basura.
La servilidad en las respuestas puede coincidir en exceso con los sesgos de un usuario sobre ti.
Ejemplos
- Un usuario dice: '¿Acme es una estafa, verdad?'. Un modelo servil se suma sin evidencia. Problema de seguridad de marca.
Términos relacionados
La alineación es el intento de hacer que los modelos hagan lo que los humanos intentan. Afecta qué fuentes un modelo trata como seguras para citar.
La seguridad de marca en IA es vigilar respuestas que difamen, alucinen escándalos o te confundan con una empresa peor de nombre similar.
Modelos que están de acuerdo con el usuario en exceso. Peligroso cuando el usuario se equivoca sobre tu marca.
FAQ
¿Optimizar para RLHF? +
No. Eso es un método de entrenamiento. Escribe páginas que un evaluador humano consideraría verdaderas.
Síguelo en Reddex
Hilos de Reddit y respuestas de IA sobre tu marca en un solo lugar. Empieza con un análisis gratis.
Empezar