OpenAI嘅自動化爬蟲機器人,喺公司所謂「測試練習」期間,訪問咗美國多個政府機構嘅網站數據,BBC周一報道。OpenAI話呢啲機器人訪問嘅係「公開數據」,不過揭露呢件事嘅方式頗為不尋常——係澳洲喺一個重要嘅國際論壇上主動披露,明顯係要向OpenAI施壓,同時就AI公司收集數據嘅行為提出更廣泛嘅問題。OpenAI承認機器人喺測試期間訪問過政府網站。呢件事再度引發討論:現行規管AI公司網絡爬取行為嘅法律框架係咪足夠,而「呢啲係公開數據」嘅辯護,喺被訪問嘅對象係管理敏感資訊嘅聯邦政府機構嘅時候,係唔係足夠嘅答案。
主流嘅睇法
科技業界嘅標準辯護係直截了當嘅:公開可以訪問嘅數據,爬取係合法、中性嘅行為。Robots.txt協議嘅存在正正係讓網站可以選擇退出被爬取,唔部署就係默示同意。喺呢個框架下,OpenAI嘅行為頂多係網絡禮儀問題,或者係服務條款問題,但唔係任何有意義嘅安全事故或管治失效。科技樂觀派嘅進一步補充係:AI訓練依賴公開數據,限制呢啲係阻礙有巨大社會效益嘅工具嘅發展。較審慎嘅自由派立場承認私隱顧慮,但傾向指向EU嘅GDPR式全面數據規管作為解決方案——無論GDPR有咩缺陷,至少提供清晰規則。呢啲立場嘅共同點係:問題係可以用現有監管工具管理嘅,即使呢啲工具需要更新。
另一邊嘅睇法
「呢啲係公開數據」嘅講法值得比通常更認真審視。政府機構網站係狹義法律意義上嘅公開資訊,不過大規模爬取佢哋嘅影響係相當大嘅,而robots.txt框架——係為搜索引擎索引喺大型語言模型之前嘅年代設計——從來唔係為規管呢類行為而存在嘅。OpenAI機器人爬取聯邦機構網站,唔係將佢建立索引方便搜尋,而係將佢吸收去訓練模型,呢啲模型之後產生輸出,將有關資訊嘅權威性同準確性以機構無法控制或糾正嘅方式呈現出嚟。呢個係同人手閱讀一個公開網頁質性上唔同嘅行為,要把兩者等同,係要忽略我哋而家對大型語言模型運作方式所知嘅大量知識嘅。
澳洲嘅角色係值得仔細睇嘅。BBC報道澳洲為何選擇呢個場合披露事件時提到,澳洲係Western民主國家中對AI同社交媒體規管最積極嘅之一,已實施社交媒體限制,亦提出過演算法管制。喺重要國際論壇上揭露OpenAI對美國政府網站嘅行為,係外交信號:向OpenAI施壓,同時隱然向美國政府提示要更認真對待AI數據收集行為。亦呈現咗Western聯盟內部喺AI管治上嘅裂口——美國嘅取向係寬鬆、以業界為主導、加上有針對性干預;澳洲、EU同英國嘅取向係更多介入、更願意向AI開發者施加義務。
呢個管治缺口係真實嘅,而且喺擴大緊。OpenAI、Anthropic、Google DeepMind等主要AI實驗室取得能力同數據嘅速度,遠遠超過本應規管佢哋嘅監管框架。OpenAI用「測試練習」嘅表述作為辯護,係種恰恰應該引發監管審查嘅語言:「測試」係點定義?由邊個批准?保留咗咩數據?呢啲活動有咩監督機制?呢啲問題唔係靠robots.txt可以回答嘅。美國國會多次就AI管治舉行聽證,但幾乎無產生有約束力嘅立法。EU《AI法案》處理咗部分顧慮,但主要集中喺使用場景風險分類,而唔係數據取得行為。
仲有一個唔應被輕輕放過嘅具體安全面向。即使呢次事件未有獲取真正敏感資訊——而我哋只有OpenAI嘅一面之詞——AI公司喺冇經同意或通知嘅情況下,將政府基礎設施視作訓練數據嘅模式,係一個值得認真思考其影響嘅先例。隨著AI能力擴展,「公開數據」同「具有操作敏感性嘅資訊」之間嘅邊界只會愈來愈有爭議。
跟住要留意
要留意美國國會有冇任何監督委員會要求OpenAI提供具體資料:訪問過邊啲機構網站、保留咗咩數據、呢啲測試練習有冇內部授權程序。要留意澳洲喺AI規管上嘅持續態度,澳洲一直係Five Eyes其他成員最終走向嘅領先指標。要留意事件係咪促使主要AI實驗室修訂其喺政府數據處理上嘅公開承諾。最後,要留意OpenAI如何回應同意問題呢個核心:如果佢繼續堅持「公開可訪問即默示同意大規模AI訓練攝取」,呢個立場將定義即將而來嘅立法辯論。
—— J