深度思維為AI生成文本“打水印”
2024-10-30 11:12:06 來源：科技日報
最新一期《自然》雜志發表的一篇論文稱，谷歌深度思維團隊開發了一種能為大語言模型生成文本添加水印的工具，可提高對合成內容的鑒別和追溯能力。
大語言模型（LLM）是廣泛使用的人工智能（AI）工具，能為聊天機器人、文章寫作和其他目的生成文本。不過，人們很難識別并追溯AI生成文本的來源，使信息的可靠性受到質疑。水印被認為能解決這一問題，但生產系統對質量和計算效率的嚴格要求阻礙了其規模化應用。
深度思維團隊此次利用一種全新采樣算法，開發出一個給AI生成文本添加水印的系統——SynthID-Text。該工具通過采樣算法對LLM的詞匯選擇進行巧妙偏移，插入一個能被相關檢測軟件識別的簽名。這既可以通過一種“扭曲”路徑實現（能提高水印質量但會輕微影響輸出質量），也可以通過另一種能保留文本質量的“非扭曲”路徑實現。
深度思維已在多個公開模型上評估了這些水印的可檢測性，結果顯示，SynthID-Text的可檢測性優于當前其他方法。
他們還用Gemini LLM的近2000萬次在線對話，評估了這些文本的質量，最終認為非扭曲水印形式不會降低文本質量。此外，使用SynthID-Text對LLM運行所需算力的影響可忽略不計，從而減少了應用上的障礙。
該研究證明，為生成式文本添加水印是可行的，其可提高AI使用的責任和透明度。
關鍵詞：
相關閱讀
版權和免責申明
凡注有"環球傳媒網 - 環球資訊網 - 環球生活門戶"或電頭為"環球傳媒網 - 環球資訊網 - 環球生活門戶"的稿件，均為環球傳媒網 - 環球資訊網 - 環球生活門戶獨家版權所有，未經許可不得轉載或鏡像；授權轉載必須注明來源為"環球傳媒網 - 環球資訊網 - 環球生活門戶"，并保留"環球傳媒網 - 環球資訊網 - 環球生活門戶"的電頭。
- 深度思維為AI生成文本“打水印”2024-10-30
- AEP100發動機配裝 全球最大無人運輸機2024-10-30
- 神舟十九號乘組兩名“90后”2024-10-30
- 新時代中國調研行之看區域·西部篇｜科技創2024-10-30
- 新時代中國調研行之看區域·西部篇｜科技創2024-10-30
- “風口”上的自動駕駛何時大規模商業化落地2024-10-30
- “風口”上的自動駕駛何時大規模商業化落地2024-10-30
- 嚴二平：堅持長期主義，袋鼠媽媽用品質贏得2024-10-30
- 層林盡染，候鳥南遷 各地陸續進入最美賞秋2024-10-30
- 中國科學院啟動合成細胞國際科學計劃2024-10-30
- 2024WTA江西網球公開賽正式開賽2024-10-30
- 神舟十九號載人飛船成功發射2024-10-30
- 《福布斯》雜志預測AI發展趨勢2024-10-30
- 俄在中國采集的月壤中發現不尋常晶體2024-10-30
- 諾獎成果“技術科學化”說明什么2024-10-30
- 中國選派170余名運動員參加亞冬會2024-10-30
- 國安門將韓佳奇表現驚艷 有望叩開國足大門2024-10-30
- 李隼回應國乒近期成績起伏 年輕球員需要更2024-10-30
- 無錫梁溪邀海內外百余名青年設計師打卡“老2024-10-30
- 江西廬山如琴湖日落美景再現李白夢幻詩境2024-10-30
- 深山藏古剎 泰山玉泉寺千年銀杏樹金黃滿枝2024-10-30
- 神舟十九號載人飛船發射取得圓滿成功2024-10-30
- 神舟十九號載人飛船發射取得圓滿成功2024-10-30
- 注意！環太原公路自行車賽期間太原部分道路2024-10-30
- 臺風“潭美”已致菲律賓125人死亡 逾713萬2024-10-30
- 國乒回應近期比賽成績起伏：嚴肅對待問題，2024-10-30
- 國乒回應近期比賽成績起伏：嚴肅對待問題，2024-10-30
- 北證50指數“五連漲”再創歷史新高2024-10-30
- 海南三亞暴雨中失蹤學生已遇難 官方展開全2024-10-30
- 海南三亞暴雨中失蹤學生已遇難 官方展開全2024-10-30
