自從生成式人工智能熱潮興起以來，有關數據安全性的爭議就始終不斷。事實證明，即便是“頭部大廠”微軟也有數據泄露的風險。據一家網絡安全公司的最新研究顯示，微軟公司的人工智能研究團隊數月前就曾意外在軟件開發平臺GitHub上泄露了大量私人數據，其中涵蓋了3萬多條微軟團隊的內部信息。雖然沒有涉及用戶信息，但正如在上周一場以管理人工智能為主題的閉門論壇上特斯拉CEO馬斯克所說，“對我們來說，重要的是要有一個裁判”。

訪問權限設置錯誤

一個小小的設置失誤，導致微軟在近三年的時間里將大量內部數據暴露在外。當地時間9月18日，據網絡安全公司Wiz報告，公司在對云托管數據的泄露問題進行持續調查時，發現微軟AI研究團隊在發布開源數據時意外泄露38TB的隱私數據，其中包含3萬多條員工內部信息。

據了解，導致該次數據泄露的源頭是微軟在GitHub存儲庫中提供了一個屬于微軟云存儲系統Azure Storage的網址鏈接，可以用來下載開源代碼和用于圖像識別的AI模型。然而，由于微軟的AI開發人員在網址中包含了一個過于寬松的共享訪問簽名(SAS)令牌，此鏈接竟被設置成授予整個存儲賬戶的權限。也就是說，點進該鏈接的任何人都能訪問與之相關的存儲賬戶的全部內容。

更可怕的是，該鏈接給予訪問者的權限不是只能觀看、不能修改的“只讀”，而是“完全控制”，意味著任何人都有可能在整個賬戶中刪除、替換或添加惡意內容。

在受到影響的全部數據中，包括了兩名微軟員工的個人電腦備份，還有用于微軟服務的密碼、秘鑰以及Teams上來自359名微軟員工的超3萬條內部群聊消息。

Wiz表示，這個網址鏈接從2020年就開始暴露數據，直到Wiz發現該問題并在今年6月22日和微軟分享了研究成果。微軟在兩天后的6月24日撤銷了有問題的SAS令牌，并在今年8月16日完成了對組織內部潛在影響的調查。

對于此事，微軟發言人表示，微軟已確認沒有用戶數據遭到泄露，也沒有其他內部服務受到威脅。微軟安全響應中心在當日發布的博客文章中表示，收到Wiz的研究結果之后，他們已經改進了GitHub的秘密掃描服務，該服務能夠監控所有公開的開源代碼改動，其中包括那些過于寬松的SAS令牌。

AI安全如何確保

事件再一次引起了對于AI數據安全問題的關注。Wiz的聯合創始人兼首席技術官阿米·盧特瓦克(Ami Luttwak)指出：“很多開發團隊都需要處理大規模的數據，需要與同事共享數據或在公共開源項目上進行合作，像微軟這樣的案例將會變得越來越難以監控和避免。”

一位從事IT研發的工程師也對北京商報記者表示，大模型時代需要跑通的數據更多，人工智能企業需要收集和利用大量數據來訓練算法模型，由此出現漏洞的概率也就更大。

在2021年，Wiz就曾指出過微軟Azure基礎設施中的一個“超級漏洞”，其開源應用Jupyter Notebook功能中的一系列錯誤配置讓黑客能夠訪問、修改和刪除數千名Azure客戶的數據。隨后，微軟發布聲明稱該問題已得到解決，并用電子郵件通知了數千名受其影響的云客戶。

在天使投資人、資深人工智能專家郭濤看來，人工智能行業保護用戶隱私和數據安全需要多方面協同發力，一方面，人工智能技術公司需要遵循嚴格的隱私數據保護相關的法律法規，采取相應的措施和技術手段來確保數據的安全性、完整性和機密性，如匿名化、去標識化等技術來保護用戶因素和數據安全;另一方面，提高數據利用的透明度，向用戶解釋如何收集和使用數據，以及為什么需要這些數據，用戶有權決定是否愿意提供這些數據。

“要有一個裁判”

與此同時，監管部門也正在努力解決如何減輕風險。上周，美國商務部長雷蒙多等政府高官在白宮召集AI行業高管，宣布Adobe、Cohere、IBM、英偉達、Palantir、Salesforce、Scale AI和Stability 8家公司承諾，采取自愿監管措施管理AI技術開發風險，包括在推出前展開安全測試、構建將安全放在首位的系統、為AI生成內容添加數字水印等。

具體來看，上述8家公司承諾：在發布AI系統前進行內部和外部安全測試、對網絡安全和內部威脅保障措施投資、推進第三方發現和報告AI系統存在的漏洞等。

此外，8家公司還承諾，對AI生成的內容加上水印以防止虛假信息的傳播，公開報告安全風險和社會風險，開發有助于解決癌癥預防、氣候變化等社會挑戰的AI系統等。

這8家為第二批承諾管控AI風險的公司。今年7月，已有7家領先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI自愿承諾，將幫助推動AI技術安全且透明地發展。

當天，馬斯克、微軟公司聯合創始人比爾·蓋茨和Meta首席執行官扎克伯格等科技公司大佬還受邀參加了一場人工智能峰會，商討未來人工智能的監管方式。

作為推動人工智能立法的一部分，美國參議院多數黨領袖查克·舒默組織了這次私人論壇。他表示，他問了在場的每個人——包括約20名科技高管、倡導者和懷疑論者——政府是否應該在人工智能的監督中發揮作用，“每個人都舉手了，盡管他們有不同的觀點，”他說。

在國會方面，雖然國會議員也同意需要加強立法，但對于具體行動也一直沒有達成共識。一些國會成員擔心監管會“過度”，而另一些議員則認為沒有足夠的監管將難以發現“潛在風險”。

關鍵詞： 數據 人工智能 安全 公司