呢個星期,AI 界發生咗兩件事,撞埋一齊,逼人正視一個拖咗好耐嘅問題。第一,Anthropic 宣布佢哋嘅安全系統成功阻截咗一次疑似利用 AI 設計生化武器嘅企圖,公司唔肯透露幕後人係邊個。與此同時,美國議員正式推進一批 AI 安全法案——起因係業界研究員公開警告,包括一位 Anthropic 研究員估計 AI 令人類滅絕嘅機率超過一成。Vermont 參議員 Bernie Sanders 更加提出直接立法禁止研發 AI 超級智能。一邊係私人公司截停潛在大規模殺傷力武器開發,另一邊係議員急急立法規管一樣自己都未完全搞清楚嘅技術——呢個時間點,正係 AI 研究員講咗多年嘅管治臨界點。
主流嘅睇法
主流進步派對 AI 風險嘅回應,係真心憂慮加上熱衷政府介入。AI 系統能夠阻截生化武器設計,但同一個能力,換個角度就可以協助研發;令模型對藥物研發有用嘅功能,在惡意使用者手上可以釀成大災難。業界研究員發出嘅滅絕警告唔係邊緣聲音——呢係業內不少人嘅真實判斷,反映緊某樣質上嶄新嘅事正在發生。呢個睇法嘅核心係:市場單靠自己係唔夠嘅,存亡級別嘅風險需要民主政府以具約束力嘅法律框架、國際協調同真正執法力度來應對。EU 嘅《AI 法案》係一個參考;美國需要類似甚至更嚴格嘅制度。Sanders 提出嘅禁令係鈍器,但背後嘅衝動唔係全無道理——某些技術能力或者真係太危險,不如唔好研發。
另一邊嘅睇法
呢個管治直覺係可以理解嘅,不過佢好可能將風險機制完全搞反咗。返去睇 Anthropic 個案究竟發生咗乜:係一間私人公司嘅安全系統自行偵測並截停咗生化武器企圖。系統運作到。呢唔係叫人放心、唔使理嘅論點——佢係叫人認真思考係乜嘢令安全系統有效,又係乜嘢會令佢失效。設計不善嘅監管,風險唔係管唔住危險 AI 開發,而係將呢種開發逼去中國、俄羅斯或者唔受條約規管嘅地方——喺嗰度,冇任何安全系統運作。軍備控制嘅歷史告訴我哋,民主國家單方面限制能力並唔會消滅呢個能力,只係將佢轉移到更少顧慮嘅人手上。
呢個唔係反對所有 AI 監管。係反對一種特定嘅監管思維——將 AI 管治比喻成藥物審批,以為單一國家監管機構可以有效控制準入。AI 能力係建基於開源模型、自由流通嘅學術研究同商品化硬件。建造危險 AI 系統所需嘅知識,唔似製造核武所需嘅知識——唔依賴少數幾個國家可以實物攔截嘅受控投入物。聚焦幾間西方頭部實驗室——Anthropic、OpenAI、Google DeepMind——但對全球開源生態系統避而不談嘅監管框架,大概只係覆蓋咗三成左右嘅風險面。
生化武器案例,「截停」呢個說法本身都值得留意。Anthropic 嘅安全系統攔截咗呢次企圖,係好事。不過假如同樣嘅技術知識可以經由一個安全標準較低嘅開源模型取得,咁截停帶來嘅只係延遲,唔係真正嘅阻止。軍備控制嘅類比再次出現:《不擴散核武條約》減慢咗核擴散但冇阻止,佢嘅失敗模式很有啟發性。每一個新增嘅核武國家都係透過結合自主研發同知識轉移而取得能力,而條約締約國攔截唔到。生物安全挑戰更難,因為相關知識庫分散得更廣。
Sanders 提出嘅超級智能禁令,政治上係有說服力嘅,但運作上係冇實質意義嘅。佢接受 BBC 訪問嘅時候,展示嘅係一個政客用立法符號回應真實民眾憂慮——一條法案,要禁止一樣目前都未能精確定義、冇辦法在邊境實物攔截、而且正在十七個國家同時研發緊嘅嘢。真正認真嘅監管工作係冇咁多鏡頭感嘅:強制事故報告(咁就可以從 Anthropic 事件中產生公共信息)、令公司有財務誘因投資安全而唔係繞道迴避嘅責任框架,以及——無論多麼不完整——針對最災難性近期應用嘅國際協議。
呢個星期嘅事件實際上說明,最重要嘅 AI 安全工作係發生喺私人公司內部,唔係監管機構入面。呢個唔係本質上唔合法——Anthropic 正係為安全而成立,佢嘅承諾看來係真誠嘅——但佢意味住,可能影響文明嘅技術嘅管治,目前係維繫喺三藩市幾十個工程師嘅文化同價值觀之上。呢個基礎,無論你嘅政治立場點,都係值得憂慮嘅。
跟住要留意
- 美國國會 AI 安全法案嘅進展:具實質性嘅責任條款同事故報告規定能唔能夠捱過游說而生存,定係最終立法只係程序性文件。
- Anthropic 會唔會公開更多被截停嘅生化武器企圖細節——企圖展示嘅具體程度,可以反映我哋而家係喺「好奇業餘者」階段定係「成熟行動者」階段。
- EU《AI 法案》框架係咪能夠產生任何可執行嘅跨境機制,定係主要只係對歐洲公司造成合規負擔,唔係真正嘅安全護欄。
- 中國國內 AI 監管立場:北京已公布 AI 內容規則,但冇西方頭部實驗室內部運作嘅安全框架。中國前沿實驗室能力同安全投入之間嘅落差,係全球 AI 管治討論中最少被討論嘅變數。
—— J