OpenAI今週解僱咗三名研究員,事後佢哋公開表示係因為「優先考慮安全」而被辭退,話公司係懲罰佢哋對安全問題直言不諱。BBC報道,OpenAI本身否認呢個說法,表示三人係因為不當處理機密資訊而被解僱。NPR確認,三名被炒研究員堅持認為,OpenAI所標榜嘅安全承諾,已越來越屈服於同Google Gemini同Anthropic Claude系列模型競爭帶來嘅商業壓力。事件發生嘅時機,係OpenAI正籌備一場預計係科技史上最大型IPO之一,令公司管理層承受到巨大商業壓力,要求展示收入增長同部署規模,而唔係謹慎克制。
主流嘅睇法
進步派同科技批評嘅回應,把呢次解僱定性為印證咗長期以來對AI行業管治架構嘅憂慮。OpenAI以非牟利、明確以安全優先嘅使命創立;佢之後喺商業壓力下持續重組走向牟利模式,每次重組都稀釋咗原有嘅管治保障。解僱安全研究員,係呢個軌跡嘅可預料終點:商業利益同安全審慎出現衝突時,商業利益贏。呢個學派提出嘅解決方案係外部監管——聯邦AI安全委員會、強制部署前測試要求、AI研究員舉報人保護,以及可能嘅大型前沿模型強制牌照制度。歐盟嘅AI法案,已開始部分實施,係呢個陣營奉為圭臬嘅範本。結論係:AI行業唔能夠靠自我監管達到安全,就如金融業唔能靠自我監管走出2008年金融危機一樣。
呢個批評係有條理嘅,喺好多方面都有實證支撐。OpenAI安全團隊同部署團隊之間嘅旋轉門現象係有記錄可查嘅。安全問題內部提出、被記錄在案、然後被推翻的模式,亦唔係第一次。
另一邊嘅睇法
不過,呢個建議嘅監管方案,喺我哋擁抱佢之前,係值得嚴格審視嘅。呼籲成立聯邦AI安全委員會聽落好像合理,直到你問清楚:佢具體有授權做乜,又由邊啲人來負責。歐盟AI法案雖然被奉為全球標杆,但已被橫跨政治光譜嘅AI研究員批評為主要由技術理解有限嘅監管官員起草,創造嘅合規負擔最重落喺較小嘅市場參與者,同時鞏固咗最大嘅既有者(包括OpenAI、Google同Anthropic)嘅地位——因為佢哋有能力養起專門嘅合規團隊。設計不良嘅AI監管嘅悖論,係產生出跟本意相反嘅效果:把權力集中喺體量最大、對安全最不認真嘅玩家手上,同時壓制咗更多元、更透明嘅較小模型生態。
仲有一個更深層嘅問題係「AI安全」喺實踐上到底係指乜。被炒研究員嘅憂慮——至少係報道所呈現嘅——似乎係關於部署速度同內部文化,而唔係任何具體識別到嘅災難性風險。BBC報道,OpenAI否認安全係被炒嘅真正原因。呢種各說各話嘅質素,揭示咗一個結構性問題:目前冇任何獨立機構同時具備技術專業知識同法律地位,去裁定一間公司嘅安全實踐係咪達到有意義嘅標準。監管空白係真實存在嘅。但解決方案唔係明顯地就係一個由政治任命人士組成嘅聯邦委員會;可能更像係適用於上市公司財務報表嘅獨立審計模型——嚴謹、專業、獨立,對虛假陳述有真正法律後果。
與此同時,OpenAI唔係呢個領域唯一嘅行為者。BBC另外報道,Anthropic引入使用政策禁止用家對其AI系統「殘忍」——呢個發展本身就引出問題:真正嘅安全研究同企業美德表演之間嘅界線究竟喺邊度?AI安全嘅論述,有把幾個截然不同嘅問題混為一談嘅傾向:超人系統長遠嘅災難性風險、偏頗或操控性輸出嘅近期傷害、部署決策中嘅企業管治失敗,以及對AI道德地位嘅象徵性焦慮。把呢啲混在一起,產生出嘅政策回應,係對自己究竟想防止乜搞唔清楚嘅。
治理真空係真實嘅。正確嘅回應,係建立一套技術上有能力、在政治上有絕緣、集中關注可量化傷害嘅監督架構——而唔係製造下一代安全劇場,令監管者感覺有責任感但實際上冇令AI系統變得更安全。
跟住要留意
OpenAI提交IPO招股書時,留意裏面有關安全文化同僱員關係嘅風險披露——呢部分具有法律重量,會揭示公司點樣向投資者描述呢次解僱事件。留意係咪有國會聽證會針對呢批解僱事件——多位參議員已在建立AI監督議題。留意Anthropic同Google係咪從OpenAI安全團隊招募人手——具有資歷嘅安全研究員離開市場龍頭,係對競爭對手有利嘅,亦可能加速業內互動嘅動態,產生真正問題嘅部署決策。最後,留意被炒嘅研究員係咪提出法律行動;AI語境下嘅舉報人法律,係完全未試水嘅領域。
— J