AI 詞彙百科
Constitutional AI 是什麼?憲法 AI 的意思與運作方式
Constitutional AI(憲法 AI)是 Anthropic 在 2022 年提出的訓練方法,讓 AI 依照一份寫好的原則自我批評、改寫,再用 AI 回饋取代無害性的人工標註。這篇講它怎麼運作、跟 RLHF 差在哪。
AI 詞彙百科
Constitutional AI(憲法 AI)是 Anthropic 在 2022 年提出的訓練方法,讓 AI 依照一份寫好的原則自我批評、改寫,再用 AI 回饋取代無害性的人工標註。這篇講它怎麼運作、跟 RLHF 差在哪。
AI 詞彙百科
AI Alignment(AI 對齊)是讓 AI 真正照人類想要的目標行事,而不是只照字面指令鑽漏洞的研究領域。這篇從 ChatGPT 變馬屁精、Claude 偽裝對齊實驗,講到 RLHF 與 AI 憲章怎麼對齊。
AI 詞彙百科
RLHF 是用人類的偏好選擇來教 AI 講話的訓練法,全名人類回饋強化學習。這篇拆解它的三個階段、獎勵模型怎麼來的,以及為什麼 13 億參數的模型靠它就能贏過 1750 億參數的前輩。