星期日,Trump 總統公開淡化要求放慢人工智能發展嘅呼聲,形容安全警告係來自「負面勢力」,佢哋對美國喺中國競爭面前嘅處境唔係太了解。呢番說話發表之前唔夠幾個鐘,多份主要媒體已經報道 Anthropic 行政總裁 Dario Amodei 呼籲放慢 AI 開發步伐,而一名前 Anthropic 研究員亦告訴 BBC,佢同同事真係為人類嘅未來感到驚惶。另一邊廂,英國政府拒絕咗一個為危險 AI 設置「緊急制停機制」嘅提案,理由係競爭力問題。呢幾件事喺同一個週末同時浮現,以罕見嘅清晰度呈現咗呢個 AI 時代核心嘅監管問題。
主流嘅睇法
進步派技術官僚嘅框架,係直接了當咁把呢件事定性為政治怠惰面對專家共識。最了解技術嘅科學家同工程師,正以罕見嘅坦誠發出警告;政客——尤其係美國右翼——以競爭定位同意識形態上抗拒監管為由,對嗰啲警告視若無睹。拿來做比較嘅是早期氣候變化,當時化石燃料行業嘅政治盟友成功推遲了幾十年嘅行動。呢個角度下,正確嘅做法係清晰嘅:國際監管框架、強制安全測試、對 AI 實驗室嘅公共問責,類似 FDA 批准藥物嘅機制。
呢個框架係有說服力嘅。Anthropic 研究員估計 AI 造成大規模人命傷亡嘅概率超過一成,呢唔係邊緣立場——係一批有資歷嘅 AI 研究員嘅真實判斷,佢哋唔係陰謀論者。監管缺口係真實存在嘅。
另一邊嘅睇法
不過,技術官僚嘅監管回應有佢自己嘅複雜性,主流框架通常傾向淡化呢啲部分。第一個問題:「放慢」唔係政策,係一個姿態。Amodei 呼籲減速嘅時候,冇附帶任何具體建議——由誰去執行、技術上嘅紅線喺邊、用咩核查機制。科技業自我監管嘅歷史紀錄唔係太好睇:社交媒體公司對內容監管作出大量自願承諾,結果係……複雜。一個真正有效嘅監管框架需要一個有技術能力嘅執法機構,而呢樣嘢,全世界 AI 前沿都唔存在。
第二個問題係地緣政治,而 Trump 喺呢度嘅框架——雖然粗糙——唔係完全冇道理。如果美國單方面對 AI 發展施加真正有意義嘅限制,最主要嘅受益者係中國政府,後者唔受任何類似限制,而且已經將 AI 發展定為國家優先任務。軍備控制嘅比喻係有用嘅:《不擴散核武器條約》能夠(不完美地)運作,係因為主要核武國家有共同利益阻止核武擴散至第三方。AI 減速機制需要美中兩國同意誰都唔能夠搶跑——喺大國戰略競爭史上基本上冇先例嘅協議。
第三個問題更加令人不舒服:安全警告係從最能夠受惠於恐懼監管嘅機構內部發出嘅。當 Anthropic 嘅 CEO 呼籲減速,我哋最少應該停一停,問自己呢件事嘅效果——就算唔係意圖——係咪係鞏固現有前沿實驗室對抗後來者嘅競爭。「監管俘獲」唔係保守派嘅幻想,係每個主要受規管行業都有記錄嘅現象。製藥行業——最常被拿嚟做 AI 監管藍本嘅行業——同時係監管框架被現有大藥廠最有系統地殖民嘅行業。
以上唔係叫大家無視警告。如果一成以上嘅存亡概率係可信嘅,幾乎任何預防措施都係合理嘅。不過,選擇唔係喺「監管」同「忽視」之間。更加誠實嘅框架係:咩特定嘅能力、喺咩特定嘅技術門檻下、會製造咩具體嘅傷害路徑,而咩介入措施真係能夠減低呢啲路徑,而唔係只係把風險轉移到透明度更低嘅地方?呢係一條難問題,而喺目前嘅討論中——Trump 也好、Amodei 也好、Whitehall 也好——冇人正面回答緊。
呢個週末嘅事件揭示嘅係一個跨黨派嘅監管真空。美國右翼唔肯監管,因為驚落後於中國。英國政府唔肯監管,因為驚喺經濟上落後。實驗室唔肯自律,因為誘因完全係反方向嘅。左翼嘅提案——「放慢」,冇任何執行機制——係口號而唔係策略。與此同時,技術按自己嘅節奏前進,對政治日曆漠不關心。
跟住要留意
留意英國政府拒絕「緊急制停」提案有冇引發任何認真嘅國會反彈——如果唔聲不響地過去,就確認咗政治上對 AI 監管嘅胃口有幾薄。留意 Trump 嘅拒絕安全論述係咪會跟住具體嘅撤管行動,例如撤回 Biden 時代嘅 AI 測試要求行政命令。最後留意 Anthropic:一間 CEO 公開呼籲減速、同時繼續籌集幾十億美元融資嘅公司,喺呢個矛盾裏面嘅空間遲早係唔夠站嘅。
—— J