美國商務部喺限制Anthropic旗下最先進兩款AI模型只約三週後，解除咗對Claude Fable 5同Mythos 5嘅出口限制。BBC新聞報道，呢兩個模型喺6月12日以國家安全為由被突然暫停全球訪問，理由係擔心可以被用嚟利用電腦系統漏洞。商務部長霍華德·盧特尼克喺致Anthropic嘅信函中確認，公司「已解決相關風險」，承諾主動偵測同應對安全漏洞、就未來模型發布合作，以及向政府通報任何偵測到嘅惡意活動。限制涉及面向消費者嘅推理模型Fable 5，以及面向企業同網絡安全專家、能夠識別並利用代碼漏洞嘅Mythos 5。商務部表明保留必要時重新施加限制嘅權利。
主流嘅睇法
科技業對呢類事件嘅反應往往係義憤填膺，話政府管理過度。標準反駁係：安全機構缺乏有意義評估AI模型嘅技術能力；對軟件嘅出口管制在結構上有別於對實體武器嘅管制；限制一個已向數億人部署嘅商業AI產品——正如Anthropic當時自己指出的——作為國安措施在操作上係自相矛盾嘅。喺呢個框架下，政府二十日內推翻決定本身就證明最初嘅命令係倉卒嘅：解除限制嘅那些考量，顯然係Anthropic隨時可以提出嘅。呢件事被視為安全官僚機構拿起監管槓桿、卻唔了解所試圖控制嘅技術嘅警世故事。
另一邊嘅睇法
義憤係可以理解嘅，程序上嘅投訴亦有一定道理。不過，把前沿AI模型嘅國家安全審查輕描淡寫為官僚過度干預，仔細一看，其說服力遠不及表面看起來那樣強。
先睇清楚涉事嘅具體能力。Mythos 5被明確描述為面向網絡安全專家嘅模型，能夠識別代碼漏洞並加以利用。呢唔係描述一個幫用戶起草電郵嘅聊天機械人。呢係描述一個具備真實攻擊性網絡能力嘅系統，任何擁有API訪問嘅人、在世界任何地方，都可以用佢對任何目標動手。一個針對Fable 5嘅「越獄」方法——繞過應該防止濫用嘅安全限制——被發現，係任何負責任嘅政府都應該認真對待嘅關切，即使初始回應並不完美。
Anthropic當時嘅反對意見——「發現一個狹義上潛在嘅越獄，不應成為召回一個已向數億人部署嘅商業模型嘅理由」——以一種公司或許沒有預料到嘅方式頗具揭示性。呢個論點實質上係話：部署規模之大創造出嘅豁免，令安全審查無從施加，無論風險係乜嘢。呢個論點如果作為一般原則被接受，實際上係排除對任何廣泛部署嘅技術採取任何國安行動，不論其風險。熟悉大型金融機構論證自身「對系統過於重要、不能嚴格監管」嘅人，對呢個邏輯結構應該不陌生。
解決方案——一份自願合規協議，Anthropic承諾安全監控、政府合作，以及事故通報——其實係比永久禁令或者完全不作為更成熟嘅結果。呢有點像管理其他具有兩用性技術嘅現有框架：政府保留監督權力，公司保持商業運作，雙方有一個處理安全關切嘅明確渠道。BBC新聞報道，商務部明確保留必要時重新考慮嘅權利。
更深層嘅問題係：呢個框架係一次次臨時即興拼湊而成嘅，冇立法授權、冇既定機構架構、冇成文嘅法律原則。盧特尼克嘅信解決咗一件事；佢唔係為管理具有真實兩用潛力嘅AI能力，建立一個持久嘅架構。下一個具備更強能力嘅AI模型，將面臨同樣一班準備不足嘅機構做出同樣臨時性嘅審查——除非國會建立目前仍不存在嘅框架。
對技術監管，有一種保守主義論點係嚴肅對待創新同經濟動力、因此主張政府克制。同樣，對國家有正當利益管制具真實武器級潛力嘅技術、並應以法律而唔係臨時商務部信函將此制度化，亦有一種保守主義論點。現行做法兩種原則都冇滿足。
跟住要留意
留意呢件事之後，國會有冇任何AI國家安全審查框架嘅立法提案獲得推進——盧特尼克嘅信製造咗先例，卻冇建立法律結構。留意Anthropic合規協議嘅披露情況：如果公司被要求公開任何關於所同意監控制度嘅資料，將會說明監督嘅實質程度。下一個任何主要AI實驗室——OpenAI、Google DeepMind或xAI——嘅前沿模型發布，將測試商務部係咪施加一致審視，抑或Anthropic係被單獨點名。國際層面係最重要嘅長遠問題：美國盟友係咪採用兼容嘅監管框架，抑或分歧會造成監管套利，將最敏感嘅AI開發引導到受較少審視嘅司法管轄區？
—— J