美中AI安全對話,峰會背後嘅真正賭注

美中雙方高層官員喺預期舉行嘅Trump-Xi峰會前夕,就AI安全協議進行咗討論,雙方都表示願意建立某種圍繞AI發展同軍事應用嘅通訊框架。Guardian報道,中國已反駁美方將其AI發展步伐定性為魯莽嘅說法,指美方嘅警告唔係出於安全考慮,而係要拖慢中國嘅技術發展。與此同時,聚集聯合國大會嘅各國領袖,被澳大利亞等國邀請簽署一份關於人類對AI系統保持控制嘅宣言。雙邊安全對話加上多邊宣言,係人類第一次認真嘗試為一種發展速度遠遠超越外交機構能力嘅技術建立管治架構。

主流嘅睇法

進步派同技術管治陣型嘅說法係:AI係真實嘅文明規模風險,美中都有強烈嘅自身利益去避免AI系統失控導致嘅災難性後果,而呢個共同利益為合作提供了基礎,類似冷戰時期嘅軍備控制談判。喺呢個框架下,安全對話係令人鼓舞嘅,因為它顯示兩個政府都明白賭注。澳洲宣言一類嘅多邊框架增加咗規範份量;就算執行力薄弱,確立「AI決策需人類控制」嘅原則——特別係喺軍事領域——對長遠係有意義嘅。另一種可能——完全無對話、無框架,同時兩個大國都在朝向自主武器系統同AI情報能力衝刺——明顯係更差嘅結果。

另一邊嘅睇法

冷戰軍備控制嘅類比係有意思嘅,不過唔係以支持者預想嘅方式。美蘇軍備控制框架之所以有效,唔係因為兩個大國互相信任,而係因為:兩方都有壓倒性嘅誘因去避免核戰;透過衛星偵察同現場視察,核查係可行嘅;核武器本身難以隱藏,發展速度緩慢。以上三個條件,AI全部都不符合。

AI發展係分散嘅、兩用嘅,發展速度令核查基本上唔可能。用於中國AI安全研究嘅基礎模型同算力設施,同樣可用於中國AI軍事應用。反過來亦一樣。當Beijing告訴Washington其AI發展係負責任嘅,佢未必係在說謊——佢係從一個真實不同嘅框架出發,就一場雙方都認為對方在嘗試贏嘅技術競賽,對「負責任」呢個詞有不同嘅定義。中國對美方警告嘅反駁——指美方顧慮係戰略性而非原則性——唔係偏執,係對一個局面嘅合理解讀:Washington已頒布大規模AI晶片出口管制,專門用嚟限制中國嘅發展。

呢個背景對安全對話至關重要。出口管制同安全對話係互相矛盾嘅訊號。你唔可以同時話你想同中國合作防止AI災難,又宣布要阻止中國取得發展前沿AI所需嘅計算硬件。參與呢啲對話嘅中國對口人員並不天真;佢哋清楚知道,美國國家安全建制嘅部分人明確偏好係美國永久保持決定性AI優勢。喺呢個框架下,安全合作,要麼係將現有能力差距合法化嘅工具,要麼係建立真正相互制約嘅善意嘗試——而從Beijing嘅位置去區分呢兩件事,係真正困難嘅。

多邊路線——聯合國宣言、澳洲倡議——面對另一個問題。無執行機制嘅宣言,其價值約等於簽署嘅代價。國際技術管治嘅歷史,充滿咗無法對任何國家行為產生任何可量度制約嘅宏願聲明。《核不擴散條約》有實際約束力,係因為它搭配咗國際原子能機構嘅視察制度,以及最終對違規國嘅軍事威脅。無人為AI提議可比擬嘅機制,喺政治上亦唔可行。澳洲宣言產出嘅係規範聲明——有助於框架未來嘅問責討論,但本身對任何政府嘅行為係零制約。

真正構成進步嘅東西其實遠唔係咁耀眼:就軍事領域因AI誤判引致嘅意外升溫,建立雙邊技術協議;就「自主武器系統」達成一致定義,確保人類可以介入;在政治峰會之下建立AI安全研究人員嘅定期交流渠道。軍備控制嘅先例係清楚嘅——莫斯科同Washington之間嘅熱線電話,比任何條約都重要。美中之間一條技術層面嘅AI事故通報渠道,價值超過所有喺聯合國流傳嘅多邊宣言。

跟住要留意

  • Trump-Xi峰會任何聯合聲明嘅具體內容:「承諾繼續對話」係雜音;對事故通報機制或軍事AI制約嘅具體承諾先係訊號。
  • 出口管制政策同安全對話政策係咪仍然互相矛盾,定係政府能夠整合出一個統一立場——商務部嘅晶片管制同國務院嘅安全外交之間嘅張力係真實存在嘅,目前仍未解決。
  • 中國AI發展里程碑:若中國前沿模型喺未來十二至十八個月達到同美國嘅同等水平,安全對話嘅籌碼動態將顯著改變。
  • 國會對任何安全協議嘅反應:兩黨嘅鷹派都將雙邊AI合作定性為為中國軍事發展賦予正當性。行政機構能唔能夠在呢種壓力下維持一個外交進程,目前係真正不確定嘅。

—— J