AI監管真空:國會點解填唔到個窿

美國喺人工智能問題上陷入一個奇特嘅處境:總統把安全顧慮斥為「騙局」,主要AI公司一邊呼籲要強制監管、一邊係自己嘅高管幫手擊敗咗相關立法,而國會則對任何安全法案陷入僵局,根本看不到通過嘅希望。Anthropic聯合創辦人Jack Clark向BBC表示,AI「緊急切斷開關」可能需要成為強制性要求,而Nvidia嘅Jensen Huang則堅持行業「唔需要新法律」。科技高管公開呼籲放慢「魯莽」發展嘅步伐後,AI相關股票應聲下跌。美國眾議院議長與此同時警告反對任何暫停,話放慢腳步係讓中國佔便宜。結果係一個令任何認真立場都唔滿意嘅監管格局。

主流嘅睇法

要求AI監管嘅主流進步派論點係有力量嘅:呢啲係前所未有嘅強大系統,由財務誘因同公眾安全唔一致嘅公司,以前所未有嘅速度部署出嚟。藥物標準、航空安全、核電嘅監管歷史顯示,當涉及災難性下行風險,市場參與者係無法充分自我監管嘅。Anthropic聯合創辦人呼籲設切斷開關唔係杞人憂天;佢反映嘅係連AI架構師自己都唔完全理解呢個技術嘅真實不確定性。如果等到出咗嚴重事故先建立監管架構,就遲咗。

英國政府嘅國家安全部長基本上係咁講嘅,佢警告AI「在沒有護欄的情況下對國家安全構成巨大風險」。呢個係合理嘅立場。謹慎原則唔係永遠都錯嘅。有啲情況下,等待傷害嘅證據代價實在太高。

另一邊嘅睇法

不過,目前流通嘅具體建議,同推動呢啲建議嘅政治聯盟,值得以遠比緊迫框架通常邀請嘅更嚴格眼光去審視。

華盛頓同布魯塞爾發展出嚟嘅AI安全共識嘅問題,係佢把三類截然不同嘅顧慮混為一談。第一類係近期、具體嘅傷害:用於詐騙嘅深度偽造、在欠缺足夠人類監督下部署嘅自主武器、在重大決策中嘅算法偏見。呢啲係真實問題,可以用針對性監管處理,唔需要一個有效係把監管權力交俾一小撮技術官僚嘅全面框架。第二類係中期經濟破壞:工作崗位流失、市場集中、競爭動態。呢啲係真實嘅政策挑戰,不過喺任何實質意義上都唔係安全問題;佢哋係產業政策問題。第三類係來自超級智能系統嘅存亡風險:係推動「切斷開關」呼籲嘅情境。呢個係推測性嘅,喺嚴肅研究人員之間係有爭議嘅,而且被修辭性地用嚟製造緊迫感——呢種緊迫感偏偏有利於已經建立起護城河嘅最大現有巨頭。

喺美國監管歷史上有一個有充分根據嘅規律:大型現有企業支持監管框架,正係因為呢啲框架提高嘅合規成本會消滅較小嘅競爭對手。Sherman反壟斷法嘅早期歷史係一個例子;2008年之後金融監管嘅發展亦係咁,最終製造出一個鞏固大銀行主導地位嘅制度。當OpenAI同Anthropic呼籲設立只有佢哋才能達標嘅強制性安全標準,係值得問:由此產生嘅監管架構對邊個有利?

中國嘅論點係雙刃劍。眾議院議長警告放慢就係中國贏。呢個方向上係對嘅,不過唔能解決監管問題:中國自己都喺大力投資AI治理框架,雖然原因非常唔同(控制資訊同管理人口,而非真正嘅安全)。美國因為周全、針對性監管而嘅競爭劣勢,遠少過因一個不受監管系統嘅災難性失敗而完全摧毀公眾對AI信任嘅競爭劣勢。問題唔係監管對比唔監管;問題係我哋係而家寫出聰明嘅規則,定係之後喺恐慌中寫出壞嘅規則。

國會嘅AI監管僵局反映嘅係制度能力嘅失敗,唔係政治意願嘅失敗。國會冇足夠嘅技術人員去評估關於前沿AI開發嘅各種相互矛盾嘅說法。聯邦貿易委員會、NIST同各個有管轄權嘅行政機構缺乏清晰授權,而且本身也受制於製造出當前僵局嘅同一政治風向。所需要嘅唔係由單一行為者控制嘅切斷開關,而係一個真正擁有充足資金嘅技術監管機構——類似核能管理委員會嘅模式——具有法定獨立性同真實專業知識。呢種機構需要多年建立,而且需要目前並不存在嘅兩黨共識。

與此同時,誠實嘅答案係,美國管治AI嘅方式同佢管治早期互聯網差唔多——即係話管得一塌糊塗——而且很可能要等到有足夠嚴重嘅事情出錯到足以迫使政治行動,先可以摸索出一個可行嘅框架。呢個唔係令人滿意嘅結論。不過,佢係一個現實嘅結論。

跟住要留意

  • 有冇任何兩黨AI安全立法能夠附掛到當前國會必須通過嘅預算議案上——預算附加條款歷史上係有爭議嘅監管框架獲得通過嘅方式。
  • 歐盟AI法例嘅執法軌跡:歐洲司法管轄區將產生首批真實嘅AI責任測試案例,而美國法院會密切關注。
  • Nvidia嘅Jensen Huang同佢「不需要新法律」嘅立場:股東壓力同保險市場動態喺近期可能比立法更有力量。
  • 任何具體事件——重大AI詐騙、軍事誤判、醫療系統失靈——都可以一夜之間改變政治盤算。

—— J