五角大樓已停止使用Anthropic嘅AI工具並將其列入黑名單,BBC周一獨家報道,事緣Anthropic拒絕為某些機密應用提供不受限制嘅模型訪問,令雙方關係持續緊張。事件發生幾日前,Trump剛委任一位高級情報官員領導一個新嘅AI工作組——呢個任命被包裝成為美國AI治理帶來軍事級別嘅紀律。Anthropic被封殺唔係國防機構同領先AI開發商嘅第一次決裂:過去兩年,OpenAI同五角大樓嘅關係係透過間接承包商而唔係直接授權嚟管理,政府最新嘅AI採購框架明確優先考慮願意為國家安全用途移除安全測試摩擦嘅開發商。Anthropic嘅Claude模型係依據「Constitutional AI」框架訓練,強調拒絕有害請求,顯然同國防部某些作戰要求不相容——當公司嘅對齊優先哲學遇上五角大樓嘅任務完成優先文化,呢個衝突係一早就可預見嘅。
主流嘅睇法
主流科技媒體將呢個故事主要框架為企業政府紛爭:Anthropic選擇咗自己嘅原則,付出咗商業代價。公司嘅Constitutional AI方法——訓練模型拒絕一系列有害輸出——被描述為值得欽佩但商業代價高昂嘅選擇,五角大樓嘅離場係Trump行政當局鷹派AI立場將負責任開發商排擠出局、偏向較不審慎者嘅明證。更深層嘅憂慮,由AI安全研究人員同部分民主黨參議院軍事委員會成員提出,係新AI工作組代表一種將美國AI發展軍事化嘅嘗試,將製造強大但缺乏管制嘅系統,設下中國必然仿效嘅危險先例。OpenAI上星期以「不當處理敏感信息」為由解僱員工,進一步令人感覺AI行業喺壓力下要將安全文化置於機構忠誠度之後。
另一邊嘅睇法
主流框架包含一個埋喺誤導性前提之下嘅真實憂慮,值得將兩者分開睇。
真實憂慮係:喺冇充分管治嘅情況下將AI發展軍事化,製造出強大、不透明、一旦被濫用可能帶來災難性後果嘅系統。每一種以往雙用途技術——核武、化學、生物——嘅教訓,係發展視窗期間缺乏管治框架,恰恰係最需要有佢嘅時候;軍事同情報機構嘅制度文化,唔自然地產生平民AI實驗室所進行嗰種對抗性安全測試。五角大樓嘅採購文化獎勵能力展示,唔係安全邊際。呢啲係合理嘅擔憂。
誤導性前提係:Anthropic嘅Constitutional AI方法係國家安全AI工具嘅適當基準,而五角大樓對此嘅不滿因此只係便宜行事戰勝原則。
呢個前提基於幾個原因係錯嘅。首先,Claude等模型嵌入嘅拒絕協議係為消費者同企業用例設計——阻止喺零售環境中生成製作炸藥嘅教程等——並唔係為軍事定位或情報分析。一個因應消費者安全標準而拒絕討論某些威脅信息嘅模型,唔係喺國家安全環境中更安全;係更冇用而又冇更安全。五角大樓實際面對嘅風險環境唔係「有人用Claude寫惡意軟件」,而係「對手用AI加速核材料識別或生物製劑合成」。Anthropic嘅消費者安全護欄係兩個威脅都解決唔到。
其次,呢個框架誤解咗AI工作組可能嘅方向。Trump任命一位高級情報官員領導新AI治理機構,暗示係反情報導向嘅做法:主要關注防止對手AI利用,維持美國對中俄嘅技術優勢,而唔係移除國內AI發展嘅所有安全限制。執行得好唔好係另一回事,但將佢呈現為純粹莽撞係忽略了驅動呢個決定嘅真實威脅環境。
歷史類比係有啟發性嘅。冷戰初期,美國學術界同軍方圍繞核研究嘅關係喺兩個方向上都深感不適:造咗原子彈嘅物理學家受到忠誠調查,而部分最重要嘅安全決策又冇充分科學意見。Oppenheimer嘅許可被撤銷既係安全過度反應,也係政府處理雙用途科學家嘅做法破壞信任、然後要幾十年重建嘅真實例子。AI行業仲未去到嗰步,但軌跡係可以辨認嘅。問題係:過去十年拒絕參與國防應用嘅科技公司——以所有軍事AI在道德上都是有問題的為由——係咪已經把戰場讓給安全文化較弱、技術可信度較低嘅承包商?有頗強嘅論點說係。
呢度嘅保守主義分析,既唔係對五角大樓立場得意洋洋,也唔係天真地順從Anthropic嘅自我定性。目標——美國技術上勝過對手,同時有充分嘅內部管治防止最壞嘅濫用場景——要求雙方都誠實面對對方嘅需要。目前嘅軌跡係安全導向開發商被列入黑名單,而戰場留給較不審慎嘅行為者,呢唔係服務任何一個目標。
跟住要留意
- 邊個填補Anthropic嘅空缺:哪些承包商或AI開發商接手五角大樓嘅AI需要?答案將揭示採購係走向安全性更低嘅模型,定係走向具有不同但真實管治框架嘅專業國家安全版本。
- 國會嘅回應:參議院軍事委員會兩黨都有成員關注AI治理。留意有冇聽證或框架立法,可能為國家安全AI採購設定最低安全標準。
- Anthropic嘅商業策略:Anthropic能否靠企業雲端夥伴關係彌補失去嘅政府收入,抑或黑名單觸發資金壓縮,迫使佢喺更差嘅條件下重返軍事市場。
- 中國比較:北京嘅AI軍事應用開發係唔需要面對呢種摩擦嘅。美國關於「多少摩擦係合適」嘅討論,應該以此對競爭平衡嘅意義作為校準基準。
—— J