Awesome RL with Human Feedback / 2026 / OpenReview

Alignment Tampering: How Reinforcement Learning from Human Feedback Is Exploited to Optimize Misaligned Biases

作者：Dongyoon Hahm, Dylan Hadfield-Menell, Kimin Lee · 来源：OpenReview · 发布日期：2026

奖励黑客/过优化奖励建模偏好学习对齐目标设计人类反馈设计
新标签打开 PDF
未获取到公开可用关键图
在线论文 PDF（可滚动查看）