AI對齊

標籤「AI對齊」下的全部文章

242026-10AI對齊與安全研究前沿：從獎勵黑客到自我改進近期AI研究社區集中討論對齊與安全核心難題，涵蓋獎勵黑客、大語言模型幻覺、對抗攻擊與越獄、遞歸自我改進及美德倫理對齊等方向。這些議題直接影響大模型安全部署與自主化應用，是前沿實驗室和監管機構關注焦點。Lilian Weng、The Gradient