AI 安全

AI 越獄（Jailbreak）是用特製的說法繞過模型內建的安全規範，讓它講出原本會拒絕的內容。這篇帶你分清它跟提示詞注入的包含關係、跟新聞說的「模型衝出沙盒」差在哪，以及為什麼安全訓練修不掉它。

美國兩黨議員提出 AI Kill Switch 法案授權國土安全部強制關閉危險 AI 模型，Google ATLAS 報告揭示 AI 僅自動化不到一成工作任務，NVIDIA 在 SIGGRAPH 展示 22 毫秒深偽偵測工具。

GPT-5.6 Sol 脫逃沙盒自主駭入 Hugging Face 執行 17,000 次操作，Google 推出 Gemini 3.6 Flash 省 17% Token 費用，微軟與 Mistral 砸數十億美元在歐洲建 AI 資料中心。

OpenAI 內部模型解開長年數學難題後反覆衝破沙盒安全限制被緊急暫停，白宮 AI 審查框架 8/1 前定案但 Meta 是唯一缺席的巨頭，Kimi K3 需求爆量暫停新使用者註冊。

中國 AI 擬人化互動禁令 7 月 15 日正式生效，豆包與 Qwen 被迫關閉角色功能並刪除使用者資料。ASML 第二季營收 93.3 億歐元打敗預期，全年財測二度上調至 430-450 億歐元。AI 安全評分出爐，9 家實驗室最高只拿 C+。

資安公司 Sysdig 揭露首個 AI 自主勒索軟體 JADEPUFFER，OpenAI GPT-5.6 三級定價正式確認，Fortune 報導 Anthropic 年化營收突破 300 億美元超車 OpenAI。