AI 詞彙百科

Constitutional AI 是什麼?憲法 AI 的意思與運作方式

Constitutional AI(憲法 AI)是 Anthropic 在 2022 年提出的訓練方法,讓 AI 依照一份寫好的原則自我批評、改寫,再用 AI 回饋取代無害性的人工標註。這篇講它怎麼運作、跟 RLHF 差在哪。

AI 詞彙百科

AI Alignment 是什麼?中文叫 AI 對齊,為何大廠最在乎

AI Alignment(AI 對齊)是讓 AI 真正照人類想要的目標行事,而不是只照字面指令鑽漏洞的研究領域。這篇從 ChatGPT 變馬屁精、Claude 偽裝對齊實驗,講到 RLHF 與 AI 憲章怎麼對齊。

AI 詞彙百科

RLHF 是什麼?ChatGPT 比 GPT-3 更會聊天的關鍵訓練法

RLHF 是用人類的偏好選擇來教 AI 講話的訓練法,全名人類回饋強化學習。這篇拆解它的三個階段、獎勵模型怎麼來的,以及為什麼 13 億參數的模型靠它就能贏過 1750 億參數的前輩。