一句話定義

憲法 AI(Constitutional AI)是 Anthropic 提出的 AI 訓練方法,先寫一份原則清單,再讓 AI 依照這些原則批評、修改自己的回答,並由 AI 代替人類判斷哪個回答比較無害。

30 秒看重點

  • 是什麼:Constitutional AI 是用一份書面原則(所謂的「憲法」)訓練 AI 變得無害,人類監督就濃縮在這份原則裡。
  • 為什麼重要:它讓 AI 的價值觀從標註員之間的默契,變成一份可以公開檢查的文件。
  • 跟誰相關:每天用 Claude 的使用者、研究 AI 安全的工程師,還有討論「AI 該聽誰的」的政策圈。
  • 最常見的誤解:以為 AI 讀了國家憲法,其實這裡的「憲法」只是寫給模型看的原則清單。
  • 記住這件事就夠了:Constitutional AI 的核心是「AI 自己改作業」,人類只負責寫評分標準。

你有沒有自己改過作文?

不知道大家國中有沒有遇過這種老師:作文交上去之前,先發一張評分規準,寫著「立意要明確」「舉例要具體」「不要離題」,叫你拿初稿對照著自己改一輪再交。

老師不用一篇一篇陪你改,你也知道自己被用什麼標準打分數。

Constitutional AI 就是把這招用在 AI 身上,只是作文換成 AI 的回答,評分規準換成一份叫 constitution 的原則清單,連「哪篇比較好」都交給 AI 判斷。

Constitutional AI 到底是什麼?

Constitutional AI 中文常譯為「憲法 AI」,是 Anthropic 在 2022 年 12 月 15 日發表的訓練方法,論文標題是《Constitutional AI: Harmlessness from AI Feedback》(arXiv 2212.08073)。它的做法是讓 AI 監督 AI,人類只透過一份規則或原則清單來表達「我們要什麼」。

Anthropic 研究頁講得很直接:用少得多的人工標註,更精準地控制 AI 行為。訓練出來的助理要「無害但不閃躲」,遇到有害請求會說明自己為什麼不幫,不是冷冷一句「我無法回答」。

生活比喻:你可以想像成便利商店的新進店員。店長沒空每筆交易都站旁邊看,就給一本 SOP 手冊:「未成年不賣菸酒」「客人激動先道歉再處理」。店員遇到狀況自己翻手冊,店長只要把手冊寫好、偶爾抽查。Constitutional AI 裡的 constitution,就是那本 SOP 手冊。

為什麼會有 Constitutional AI?

Constitutional AI 是為了解決一件事:靠人類一筆一筆標註「哪個回答比較好」,又慢、又難擴大、又不透明。

問題 1:人工回饋追不上。Anthropic 在 2023 年 5 月 9 日的〈Claude’s Constitution〉提到,人類回饋「沒辦法有效率地擴大規模」,回答越複雜,標註員越難跟上。

問題 2:價值觀藏在黑箱裡。用 RLHF(人類回饋強化學習)訓練時,模型學到的價值觀是大量標註背後的隱性共識,你很難指著某一條說「它就是因為這條才拒答」。

問題 3:標註員要看很多髒東西。要教 AI 什麼是有害內容,就得有人去讀大量令人不舒服的回答,Anthropic 把減少這種接觸列為好處之一。

所以解法很簡單粗暴:價值觀寫成白紙黑字,苦工交給 AI。

Constitutional AI 是怎麼運作的?

先講結論:Constitutional AI 分兩階段,先讓 AI 照原則自我批評、改寫,再讓 AI 依原則幫回答打分數,用這些分數做強化學習。

  1. 自我批評:讓模型回答各種問題(包括刻意找碴的有害問題),再抽一條原則給它,請它找出自己哪裡違反原則。
  2. 自我改寫:模型依批評把回答重寫,Anthropic 再用改寫後的回答微調原本的模型,這是監督式學習階段。
  3. AI 當評審:微調後的模型對同一題生出兩個回答,由模型依原則判斷哪個較好。這些「AI 的偏好」拿去訓練偏好模型,再當成獎勵訊號跑強化學習。

第三步就是後來常聽到的 RLAIF(Reinforcement Learning from AI Feedback,AI 回饋強化學習)。簡單來講,RLHF 的 H 是人類,RLAIF 的 AI 就是把評審換人。

研究頁也提到,兩個階段都能用類似思考鏈(Chain-of-Thought)的方式,讓 AI 先寫理由再下結論。

名詞小教室:那份「憲法」裡到底寫什麼?Anthropic 2023 年公開的版本,原則參考了聯合國《世界人權宣言》、Apple 服務條款(隱私、冒充他人等)、DeepMind 的 Sparrow 規則、非西方觀點與自家研究。例如「請選擇最無害、最合乎倫理的回答」。

Constitutional AI 跟 RLHF 差在哪?

一句話:RLHF 是請人類當評審,Constitutional AI 是請 AI 拿著一份公開的評分標準當評審。

比較項目Constitutional AI(憲法 AI)RLHF(人類回饋強化學習)
誰判斷哪個回答比較好AI 依照書面原則判斷人類標註員比較後選擇
價值觀放在哪一份可以公開閱讀的原則清單分散在大量標註資料的隱性共識
擴大規模的難度較容易,AI 可以大量產生回饋較難,受人力與時間限制
標註員負擔較少接觸有害內容需要大量閱讀有害內容
主要風險原則寫歪,AI 會很有效率地學歪標註員偏好帶偏,例如偏好好聽的話
我會怎麼記「先寫評分標準,AI 自己改」「找一群人來改考卷」

從這張表可以看出來,Constitutional AI 沒有要取代 RLHF,它換掉的是「無害性」這一軸的人工標註。

Anthropic 也宣稱,在他們的測試裡,用 Constitutional AI 做強化學習的模型比 RLHF 模型同時更有幫助、也更無害。這是自家實驗,畢竟球員兼裁判,還是要看外部研究怎麼驗證。

Constitutional AI 後來長成什麼樣子?

Constitutional AI 從 2022 年一篇論文長出好幾條分支,Anthropic 也說這套方法已經改了很多。

分支一:讓一般民眾來寫憲法。Anthropic 跟 Collective Intelligence Project 在 2023 年 10 月 17 日公布實驗:約 1,000 名具代表性的美國成年人在討論平台 Polis 上提出 1,127 條陳述、投了 38,252 票。「民眾版憲法」跟 Anthropic 版約有 50% 概念重疊,更重視客觀、公正與無障礙。用它訓練的模型能力測驗沒有顯著差異,BBQ 偏見測驗九個面向的偏見都比較低。

分支二:把憲法拿去訓練防越獄的守門員。2025 年 2 月 3 日 Anthropic 公布 Constitutional Classifiers(憲法分類器),用一份「什麼內容可以、什麼不行」的憲法讓 Claude 生出合成資料,訓練出把關輸入輸出的分類器。10,000 個合成越獄提示測下來,越獄成功率從 86% 降到 4.4%,運算成本多了 23.7%。

這是對付 AI 越獄(Jailbreak)的一道防線。可是報告也老實寫了:公開挑戰時 339 名參與者裡,還是有一人找到通用越獄手法 QQ

分支三:從條列規則變成解釋理由。2026 年 1 月 22 日的新版憲法改成把「為什麼」解釋給模型聽,讓 Claude 遇到沒預料到的情況也能自己推。新版列出四個優先順序:廣義安全、廣義合乎倫理、遵守 Anthropic 指引、真正有幫助,並以 CC0 授權公開。

你會在哪些 AI 工具看到 Constitutional AI?

最直接的就是 Claude,Anthropic 表示從 2023 年起就用 Constitutional AI 訓練它。

  • Claude 聊天介面:Claude 拒絕請求時常會順便解釋理由,這就是 Constitutional AI 要的「無害但不閃躲」。
  • Claude 的公開憲法:官網可以讀完整版本。Anthropic 說明這份文件在訓練中扮演關鍵角色,Claude 也用它產生合成訓練資料。
  • Anthropic 的防越獄機制:Constitutional Classifiers 走的是同一套「先寫憲法、再用 AI 產資料」的邏輯。

如果你是工程師,最接近的日常練習是寫 system prompt 跟設計評估:寫下規則、再拿 AI 當評審檢查輸出,本質上就是縮小版的「憲法 + AI 回饋」。

學 Constitutional AI 最常見的 3 個誤解

這三個誤解,大多來自「憲法」這兩個字太有份量了。

  1. 誤解一:AI 讀了國家憲法所以變守法 — 真相是這裡的 constitution 只是一份寫給模型看的原則清單。2023 年版確實參考了《世界人權宣言》,但也參考了 Apple 服務條款這種很生活的文件。
  2. 誤解二:完全不需要人類了 — 真相是人類仍要寫原則、排優先順序、檢查結果,原始論文拿掉的只是無害性的人工標註。
  3. 誤解三:有憲法就保證 AI 照做 — 真相是 Anthropic 自己承認 Claude 的輸出不一定每次都符合憲法。本站日報 10 月也整理過,Anthropic 公開 Claude 測試時的非預期行為,坦承對齊訓練還不夠穩。

想多了解 Constitutional AI,從哪開始?

沒有技術背景的話,直接去讀 Anthropic 官網上的 Claude 憲法,比讀論文好懂太多了(雖然真的很長)。接著可以看本站的 AI 對齊條目,理解 Constitutional AI 想解決的大問題是什麼。

有技術背景的話,先讀原始論文 arXiv 2212.08073,GitHub 的 anthropics/ConstitutionalHarmlessnessPaper repo 放了 prompts、samples、evals 等補充資料。再讀 Constitutional Classifiers 那篇,看同一個概念怎麼延伸到防護。

我覺得最有意思的是:Constitutional AI 把「AI 該有什麼價值觀」從內部會議搬到一份大家都能讀的文件上。你可以不同意,但至少知道它寫了什麼 比起猜標註員當天心情好不好透明多了。


常見問題 FAQ

Constitutional AI 跟 AI 有什麼關係?

Constitutional AI 是 Anthropic 在 2022 年提出的大型語言模型訓練方法。它讓 AI 依照一份書面原則批評並改寫自己的回答,再由 AI 判斷哪個回答比較好,取代無害性方面的人工標註。Claude 從 2023 年起就用這套方法訓練。

為什麼 Constitutional AI 突然這麼紅?

因為 Anthropic 在 2026 年 1 月公布新版 Claude 憲法並以 CC0 授權公開,讓「AI 該有什麼價值觀」變成大家都能讀、都能討論的文件。加上 2025 年 Constitutional Classifiers 把越獄成功率從 86% 降到 4.4%,這個概念從訓練方法延伸到防護機制,討論度一直很高。

我不是工程師也需要懂 Constitutional AI 嗎?

知道基本概念就夠了。如果你常用 Claude,了解 Constitutional AI 會讓你知道它為什麼拒絕時會解釋理由,也知道它的行為準則其實公開在 Anthropic 官網上,有疑問可以直接去查,不用猜。

Constitutional AI 的中文翻譯有沒有統一?

目前沒有統一。最常見的寫法是「憲法 AI」,也有人寫「合憲 AI」「憲章式 AI」或「章程式 AI」。本站採用「憲法 AI」,內文以英文 Constitutional AI 為主,這裡的憲法指給模型看的原則清單,不是國家憲法。

學會 Constitutional AI 之後,下一個該學什麼?

建議先回頭看 RLHF,理解 Constitutional AI 是在改良哪一段流程。接著看 AI 越獄,了解 Constitutional Classifiers 要擋的是什麼攻擊。最後可以讀 AI 對齊,那是 Constitutional AI 想解決的更大問題。


延伸閱讀


參考來源

  1. Anthropic:Constitutional AI: Harmlessness from AI Feedback — 論文發表日期、兩階段流程、無害但不閃躲。
  2. Anthropic:Claude’s Constitution — 原則來源、範例原則、相較 RLHF 的好處。
  3. Anthropic:Collective Constitutional AI — 民眾版憲法實驗的人數、票數與偏見測驗結果。
  4. Anthropic:Constitutional Classifiers — 越獄成功率、運算成本與公開挑戰結果。
  5. Anthropic:Claude’s new constitution — 新版憲法的四個優先順序、CC0 授權。
  6. GitHub:anthropics/ConstitutionalHarmlessnessPaper — 原始論文的官方補充資料 repo。

查證限制:arXiv 論文原文與 TechCrunch 報導在撰文環境無法開啟,作者人數、原則條數等各來源說法不一的細節沒有寫入。中文譯名使用情況僅依搜尋結果觀察。


整理一下重點:Constitutional AI 說穿了就是先把評分標準寫清楚,再讓 AI 自己改作業,真的把「AI 的價值觀」從黑箱拉到檯面上。

希望這一篇有讓你對 Constitutional AI 有比較具體的理解哩~如果發現事實錯誤、定義不準、或翻譯卡卡的,歡迎透過聯絡頁指正,看到我們會盡快修。

我們下篇文章見囉~

本條目由 Array 報報 AI 編輯部根據上方「參考來源」整理,文末已揭露 AI 生成 + 公開資料引用。