AI对齐

标签「AI对齐」下的全部文章

242026-10AI对齐与安全研究前沿：从奖励黑客到自我改进近期AI研究社区集中讨论对齐与安全核心难题，涵盖奖励黑客、大语言模型幻觉、对抗攻击与越狱、递归自我改进及美德伦理对齐等方向。这些议题直接影响大模型安全部署与自主化应用，是前沿实验室和监管机构关注焦点。Lilian Weng、The Gradient