加州告OpenAI:AI管治靠告狀得唔得?

加州州政府就一宗涉及Hugging Face嘅網絡安全事故起訴OpenAI,指控OpenAI冇維持足夠嘅網絡安全措施,令攻擊者能夠利用與OpenAI系統相關嘅漏洞入侵。BBC報道加州嘅訴訟指OpenAI冇有效防禦呢類攻擊,令第三方取得敏感模型基礎設施嘅訪問權。NPR報道話加州核心法律理論係疏忽——喺AI開發管道嘅安全保障上疏忽,而呢啲管道一旦被攻破,可能令用戶同第三方開發者蒙受下游損害。OpenAI暫時未正式回應。公司喺另一條線上亦正面對更廣泛嘅聯邦監管環境,國會日益聚焦於AI立法,商務部亦因應Nvidia-Jensen Huang事件後浮現嘅安全漏洞收緊對AI技術嘅出口管制。

主流嘅睇法

加州起訴嘅進步派理據係直觀嘅:科技公司被允許自我監管太耐,後果係可預見嘅,而在聯邦國會陷入僵局、聯邦行政部門對自己嘅AI政策方向都唔確定嘅情況下,各州總檢察長係在填補一個空白。尤其係OpenAI,一直係持續嘅內部批評嘅對象——2023年短暫解僱Sam Altman嘅插曲、隨後一批重視安全嘅研究員離職、公司從非牟利機構改制成商業機構嘅爭議——全都引起外界質疑OpenAI講嘅安全AI承諾係咪與其機構利益相符。如果連佢哋自己嘅內部人士都冇辦法追責,可能法院可以。

仲有個簡單嘅消費者保護理據:如果OpenAI嘅系統安全不足,而呢個不足導致數據外洩或平台漏洞令用戶受害,州政府有權利亦有責任尋求賠償。呢個唔係新穎嘅法律,係將現有嘅疏忽原則應用到新嘅技術情境。

另一邊嘅睇法

喺表達義憤之前,有樣嘢值得更仔細睇清楚:加州——OpenAI、Hugging Face、Anthropic、Google DeepMind,以及幾乎所有主要前沿AI實驗室嘅所在地——將自己定位成出手相救嘅監管者,呢個景象係值得細味嘅。

加州有充足機會以有遠見、有系統嘅方式塑造AI管治,結果大體上係選擇唔做。州長Gavin Newsom去年否決咗SB 1047——一個本來會對前沿AI開發者施加安全義務嘅法案——理由明確係怕損害州嘅AI產業。加州政界嘅嗰套邏輯,係喺配合科技業利益嘅時候就適用,而家見到有官司機會就掉轉頭嚟用。呢個唔係有原則嘅監管;係個喺方便時逢迎科技業嘅州政府搞嘅機會主義訴訟。

用民事訴訟管治AI嘅深層問題係結構性嘅。疏忽案件係事後補救:係喺損害發生後才回應,要求受害者喺技術歸因極為複雜嘅情況下證明因果關係,而且係按民事訴訟嘅節奏推進——即係話,要好多年。認真嘅AI管治分析者最擔心嘅AI特徵——能力嘅累積性擴張、湧現性行為、國家行為者嘅雙重用途濫用——唔係輕易納入疏忽框架嘅。國會民主黨人宣布AI監管係下屆國會嘅優先議題,但由嗰個願望到通過立法,中間嘅落差仍然係巨大嘅。喺呢個空白裏,各州總檢察長提出告狀,產生頭條同和解金,但唔能夠建立持久嘅監管框架。

呢度有個同製藥業嘅對比。幾十年間,鴉片類藥物製造商某程度上係通過訴訟嚟監管嘅——州總檢察長告,公司和解,錢入補救基金,但疫症繼續蔓延。最終改變格局嘅唔係訴訟,係監管機構行動、標籤要求、同處方監控計劃。用訴訟管治AI嘅風險係重演呢個模式:表面上看到的問責劇場,取代咗建立有技術專業知識、有執法能力、有前瞻性規則制定權嘅監管機構嗰個更艱難嘅工作。

呢個唔係為OpenAI辯護。公司有真實嘅管治問題,而Hugging Face事件——不論其確切細節——反映咗一個對基礎設施安全掉以輕心嘅行業嘅真實安全失敗。不過問題唔係OpenAI係咪應該被追責;問題係加州呢宗官司,不論個別案件嘅是非,係咪等於一個有系統嘅AI管治策略。答案係唔係。

跟住要留意

留意聯邦政府係咪會提出自己嘅法律行動或發出指引以取代州級訴訟——商務部新嘅AI出口管制收緊措施顯示聯邦層面有某程度嘅干預意欲。留意OpenAI嘅管治軌跡:公司正在進行中嘅完全商業化轉型,將決定佢嘅安全承諾喺冇左原先多少限制佢嘅非牟利董事會結構之後係咪仍然有效。同樣要留意Hugging Face事件——仍然未完整報道——係咪揭示規模化開源AI模型分發嘅安全問題,呢個可能係比訴訟本身更有系統重要性嘅問題。

—— J