AI 詞彙百科

AI Alignment 是什麼?中文叫 AI 對齊,為何大廠最在乎

AI Alignment(AI 對齊)是讓 AI 真正照人類想要的目標行事,而不是只照字面指令鑽漏洞的研究領域。這篇從 ChatGPT 變馬屁精、Claude 偽裝對齊實驗,講到 RLHF 與 AI 憲章怎麼對齊。