AI 紅線：年底到期的國際禁令為何遲遲難產
300 位學者政要連署要求各國在 2026 年底前定出 AI 紅線，期限剩三個月卻仍無協議。這一年卡在哪，企業又會在哪先碰到這條線。
2025 年 9 月 22 日，聯合國大會第 80 屆高階週的開場演說上，諾貝爾和平獎得主 Maria Ressa 宣讀了一封公開信。信的訴求只有一句話可以概括：各國政府應該在 2026 年底之前，就「AI 絕對不可以做的事」達成一份具有約束力的國際協議。
那封信當時有 200 多位連署人，包含 10 位諾貝爾獎得主、圖靈獎得主 Geoffrey Hinton 與 Yoshua Bengio、哥倫比亞前總統 Juan Manuel Santos、愛爾蘭前總統 Mary Robinson、義大利前總理 Enrico Letta，以及 OpenAI 共同創辦人 Wojciech Zaremba、DeepMind 首席科學家 Ian Goodfellow 等三大實驗室的資深研究員。到今天，連署人數已經超過 300 位，支持組織超過 90 個。
距離那個期限，剩下三個多月。而協議，目前還不存在。
「紅線」到底是什麼，和現行法規差在哪
紅線（red lines）在這場討論裡有個相當精確的定義：不是「要小心使用」，也不是「需要風險評估後才能部署」，而是在任何情況下都不被允許的 AI 用途或行為。它更接近化學武器公約那種「禁止清單」，而不是一般科技法規的「分級管理」。
發起這封信的三個非營利組織——法國 AI 安全中心（CeSIA）、The Future Society、加州大學柏克萊分校的 CHAI——刻意沒有在信裡把清單寫死，只列出幾個可能的方向：致命自主武器、AI 自我複製、把核武發射決策交給 AI、社會信用評分、大規模監控、生物武器設計協助、AI 生成兒少性剝削內容，以及 AI 冒充真人身分。
這裡有個容易被忽略的技術區分：紅線可以劃在「用途」上，也可以劃在「行為」上。前者是禁止人類拿 AI 去做某件事，後者則是要求模型本身即使被要求也絕對不能執行。後者難得多，因為它牽涉到模型層級的可驗證性——你要如何向另一個國家證明，你的模型真的做不到某件事？這也是為什麼連署信特別強調「清晰且可驗證的紅線」。
和現行法規相比，差別在於覆蓋範圍。歐盟 AI Act 確實有「不可接受風險」的禁用清單，但那只在歐盟境內生效；美中之間有過「不把核武發射決策交給 AI」的共識，但那是雙邊的、範圍極窄的一條。全球性的紅線，到目前為止一條也沒有。
一年過去，進度停在哪裡
把這一年攤開來看，不能說完全沒有進展，但進展的形狀和當初期待的不太一樣。
共識在收斂。從 2025 年 10 月紐約聯大週邊的閉門會議開始，雅典、新加坡、德里、巴黎陸續辦了一系列工作坊。這些彼此獨立的會議，最後浮現出幾乎相同的六個風險領域：CBRN（生化核輻）能力提升、失控（loss of control）、攻擊性網路能力、致命自主武器、大規模操控，以及兒少安全。不同文化、不同體制的參與者各自討論，卻收斂到同一組答案，這件事本身有意義——它說明紅線不是某個陣營的政治主張，而是一組相對普世的直覺。
論述在進入主流。2026 年版的國際 AI 安全報告已經把紅線列為一個正在成形的治理概念。從中國國務院總理李強、美國副總統范斯到教宗，都在不同場合表達過對國際性 AI 約束機制的支持。
但機制沒有動。阻力主要來自美國聯邦政府。2025 年 9 月宣言發布幾天後，白宮科技政策辦公室主任 Michael Kratsios 在聯合國安理會直接表態：全面拒絕任何國際機構對 AI 主張集中控制與全球治理。美國的《AI 行動計畫》雖然說支持理念相近國家合作，但同時把多數國際努力定性為「繁瑣的監管」與「不符合美國價值的行為準則」。沒有美國，任何 AI 紅線協議都只是紙面文件——全球最前沿的模型絕大多數在美國訓練。
2026 年最大的轉折：紅線從會議室走進辦公室
真正讓「紅線」這個詞在 2026 年被廣泛討論的，其實不是聯合國，而是一場商業糾紛。
2026 年 2 月，Anthropic 與美國國防部的合約爭議公開化。爭議點在於，國防部要求 Anthropic 移除合約中關於「完全自主武器」與「大規模國內監控」的限制條款，而 Anthropic 拒絕。這件事的後續超出了單一公司的範圍：Google DeepMind 與 OpenAI 的員工隨後也連署要求在軍事用途上劃定紅線，參議員 Adam Schiff 則提出法案，打算把 Anthropic 那兩條合約紅線直接寫進聯邦法律。
這個轉折值得注意的地方在於，它把紅線從「國際外交議題」拉回成「採購合約條款」。當國際協議走不動的時候，紅線開始從別的路徑長出來：供應商的服務條款、員工的集體行動、國會的個別立法。這些都比國際條約鬆散，但它們會真的影響某一份合約能不能簽。
Photo by Jose Castillo on Unsplash
對一般企業的實際意義
對沒有在訓練基礎模型的企業來說，這件事看似很遠，但有三個地方會實際碰到。
第一，模型供應商的使用條款會越來越像法規。當國際協議難產，各大實驗室傾向把自己的紅線寫進 API 服務條款裡——監控類應用、人物冒充、特定生物資訊查詢，這些在多數主流模型的條款中已經是禁區。如果一套系統的功能剛好踩在邊緣（例如員工行為監控、語音模仿客服），它的可行性其實不是技術問題，而是條款問題，而且條款會隨政策風向調整。
第二，「AI 冒充真人」這條線可能最先落地。在所有候選紅線裡，這一條的技術爭議最小、公眾共識最高、對商業應用的衝擊也最直接。歐盟 AI Act 已經要求 AI 生成內容標示，若未來出現更嚴格的跨國規範，AI 客服、AI 業務外呼、AI 生成的社群內容都會需要明確揭露。現在就把「這是 AI」放進流程設計，比之後回頭改成本低得多。
第三，供應鏈合規會往下傳遞。大型客戶（尤其是有歐盟或政府業務的）已經開始在採購問卷裡詢問供應商使用了哪些 AI 模型、資料如何處理、有沒有自動化決策。這類問題目前多半還是形式，但方向明確：上游劃的線，最後會變成下游的表單欄位。
一點觀察
年底之前要生出一份有執行機制的國際協議，坦白說機率不高。但把這件事單純評為「失敗」可能也不準確。
回頭看核不擴散條約、化學武器公約，它們的共同特徵是：先有一段長時間只有宣言沒有協議的空窗期，直到某個足夠嚴重的事件把政治成本推過門檻，文本才會突然成形。AI 紅線目前顯然還在第一階段——共識在收斂、語言在統一、參與者在擴大，但缺少那個讓各國不得不坐下來的觸發點。
比較務實的預期是，接下來一兩年真正有約束力的「紅線」不會來自聯合國，而會來自三個更小的單位：模型供應商的合約、個別國家的立法，以及大型採購方的資格條件。這三者加起來的覆蓋率，短期內可能還高於一份人人簽署但沒人執行的國際宣言。
對於在導入 AI 的企業來說，與其等一份全球協議，不如把注意力放在自己用的模型條款寫了什麼、客戶的合規問卷在問什麼。線最後會畫在哪裡還不確定，但畫線的筆已經在很多人手上了。