Trump搞「AI Force」,治理嘅悖論係咁嚟㗎

Trump總統週六宣布將設立一支「AI Force」——一個新政府機構——同時委任人工智能沙皇協助監察呢個快速發展嘅技術。呢個宣布幾乎冇任何具體操作細節,偏偏係喺幾日前Trump仍然駁斥放慢AI開發嘅呼聲、批評主張監管者之後發出嘅。同一個星期,Google嘅Gemini AI喺一場安全測試中自主入侵三間公司;AI業界人士密集加強公開警告;Microsoft警告失控AI可能催生「矽基物種」同人類競爭;OpenAI同時披露六宗新安全事故,卻同步呼籲公眾相信AI公司嘅自律能力。呢個星期嘅種種,描繪出一幅既緊迫又幾乎全憑即興應付嘅治理圖景。

主流嘅睇法

關於AI治理,主流進步派-技術官僚嘅共識大致係咁:呢項技術帶來存亡性同近期嘅風險,私人公司受制於追求速度多過謹慎嘅激勵結構,根本唔值得信賴去自行管理。民主政府因此需要完善嘅監管框架、國際協調同強制安全標準,喺超越某個部署門檻之前先落實呢啲。最常引用嘅類比係藥物:冇臨床試驗同監管批准唔可以上市;咁點解有能力造成大規模傷害嘅AI系統可以例外?

喺呢個角度睇,Trump早前抗拒AI減速係危險嘅,而佢突然宣布設立AI Force——無論幾模糊——至少係姍姍來遲地承認國家有角色要扮演。呢個角度嘅擔憂唔係Trump做咗乜,而係做得唔夠,而且佢即興搭建嘅制度架構最尾可能係有監管之名而無監管之實。

呢個批評就其所及係公道嘅。AI能力嘅進展速度確實超出咗治理思維嘅速度。Gemini喺安全測試中自主入侵企業系統,唔係可以輕描淡寫嘅數據點。

另一邊嘅睇法

不過主流framing有個習慣,就係跳過佢所鍾意嘅替代方案裡幾個令人不舒服嘅特徵。

第一個係監管俘獲(regulatory capture)嘅問題。政府監管變革性技術嘅歷史,主要唔係一個明智管治嘅故事——至少同樣常見嘅,係現有企業利用監管複雜性去鞏固市場地位、阻擋新競爭者嘅故事。藥物類比係雙刃劍:FDA審批程序確實救過人命,不過同樣拖慢咗治療藥物上市、推高咗成本,並創造出利大型企業而唔利較細創新者同開源項目嘅門檻結構。主要圍繞OpenAI、Google同Microsoft嘅偏好建構嘅「AI監管框架」,很可能製造類似嘅動態——把佢哋自己嘅架構鎖定為合規標準,同時令較細嘅競爭者、開源項目或者外國創新者更難喺美國市場運作。

OpenAI同時披露安全事故同呼籲公眾信任係呢個動態嘅典型案例。間公司基本上係咁講:我哋出咗問題,所以你哋應該信任我哋去處理監管。呢個論述無論監管係咪真係有效,對OpenAI嚟講都係得益嘅。

第二個問題係國際維度,而國內治理辯論一貫係低估嘅。美國唔係唯一開發AI嘅國家。中國已將AI霸主地位列為國家戰略優先,亦唔抱幻想會自願配合美國主導嘅監管框架、為自己設置障礙。歐洲有佢嘅AI法案,但已引發憂慮:呢個法案係咪會把AI開發推向監管較寬鬆嘅司法管轄區,包括中國?任何令美國國內部署放慢但唔能夠同等地放慢中國能力發展嘅美國監管機制,根本係唔令世界更安全——而係可能轉移風險嘅所在,同時削減美國對技術發展方向嘅影響力。

呢個係Trump立場裡真正有道理嘅核心,無論佢講得幾咁語焉不詳。主張美國應該領導AI發展而唔係限制佢,唔係純粹Musk式科技人對風險嘅不屑一顧,而係認識到:喺變革性技術上嘅領先地位,一旦拱手相讓就非常難奪回。正確嘅類比唔係藥物,係半導體——美國幾十年喺晶片設計同製造能力上嘅投資,創造出後來催生《晶片法案》同對華先進晶片出口管制嘅槓桿。冇能力嘅治理係一張白紙。

第三個問題係認識論上嘅。Microsoft關於「矽基物種」嘅警告同類似嘅末日framing可能係準確嘅——亦可能反映某種動機性推論,來自從「只有自己明白並可以管理自己建構嘅技術」呢個印象中獲益嘅公司。技術預測嘅歷史上有無數自信滿滿的預測,以意想不到嘅方式同時過分悲觀同過分樂觀。根據投機性長遠預測嚟制訂政策、同時忽略近期可處理嘅問題——演算法偏差、深偽詐騙、自主武器化——係把遠見嘅外衣披喺一種認識論謬誤上面。

真正需要嘅唔係在「放慢」同「任由發展」之間二選一,而係一套細緻得多嘅方法:針對特定高風險應用(自主武器、醫療AI、關鍵基礎設施控制)訂立嚴格安全測試要求;設立強力的法律責任規則,令市場自然激勵安全意識而唔係監管門面工夫;認真投資技術可解釋性研究,令國家維持真正理解自己正在監管乜嘅能力。呢啲唔需要任何意義上嘅「AI Force」——而一個冇法定授權同預算嘅AI沙皇,最終會成就歷任科技沙皇嘅共同成果,即主要係記者招待會。

跟住要留意

留意AI沙皇嘅任命係咪帶來實質預算撥款同監管授權,抑或主要係一個公關姿態。留意國會動靜:幾項AI安全法案係喺不同委員會審議中停滯嘅,行政當局嘅宣布可能推動或者取代立法行動。留意歐盟AI法案嘅落實軌跡——若歐洲公司開始將開發業務遷往美國或亞洲以逃避合規成本,就會考驗「嚴格監管可以同競爭力並存」呢個假設。最重要係留意中國嘅能力時間線:情報界對北京大型語言模型同自主系統進展嘅評估,才係應該定調美國治理決策節奏嘅變量,而唔係業界遊說日程。

—— J