來源丨元宇宙簡史

編寫丨元宇宙簡史主理人 Fun

【元宇宙導讀】5月9日，抖音發布了關於人工智能生成內容的平台規範暨行業倡議，以及《抖音關於人工智能生成內容標識的水印與元數據規範》。

這是國內首個針對人工智能生成內容的平台規範，也是抖音在推進內容生態建設方面的一次重要舉措。

該規範要求創作者、主播、用戶、商家、廣告主等平台生態參与者，在抖音應用生成式人工智能技術時，應對人工智能生成內容進行顯著標識，並對其產生的後果負責。

同時，該規範也提出了一系列的技術能力和行業倡議，旨在促進人工智能技術在內容創作領域的健康發展。

01元宇宙簡史

什麼是人工智能生成內容？

人工智能生成內容，指利用生成式人工智能技術，自動生成的視頻、圖像、文本等內容。

生成式人工智能技術，是指利用深度學習等方法，從大量數據中學習特徵和規律，並根據給定的條件或目標，自動創造出新的數據或內容的技術。

目前，常見的生成式人工智能技術有GAN（對抗生成網絡）、VAE（變分自編碼器）、ChatGPT（基於GPT模型的聊天機器人）等。

生成式人工智能技術在內容創作領域有着廣泛的應用場景和價值。例如，GAN技術生成各種風格和主題的圖片和視頻，如動漫、油畫、風景等；VAE技術進行圖像編輯和轉換，如換臉、換髮型、換衣服等；ChatGPT技術進行文本創作和對話交互，如寫小說、寫詩歌、寫評論、聊天等。

這些技術降低了創作的門檻和成本，豐富了互聯網內容生態，為信息生產和傳播帶來了新的變革和機遇。

02元宇宙簡史

為什麼需要對人工智能生成內容進行規範？

儘管生成式人工智能技術有着巨大的潛力和優勢，但面臨的風險和問題也非常多。

由於人工智能生成內容具有高度逼真和難以識別的特點，可能導致虛假信息、欺詐、詐騙等問題。

例如，不法分子利用GAN技術製造出虛假新聞、虛假證據、虛假證言等；利用VAE技術偽造出他人肖像、聲音、簽名等；利用ChatGPT技術編造出虛假評論、虛假評價、虛假推薦等。

這些問題可能會損害公眾的知情權、選擇權和信任感，影響社會秩序和公共利益。

同時，由於人工智能生成內容涉及到個人或集體的肖像權、知識產權等權益，可能導致侵權、盜版、抄襲等問題。

例如，不法分子利用GAN技術侵犯他人肖像權或隱私權；利用VAE技術侵犯他人版權或商標權；利用ChatGPT技術侵犯他人著作權或專利權等。

這些問題可能會損害原創者或權利人的合法權益，影響創新活力和文化多樣性。

因此，在享受生成式人工智能技術帶來的便利和樂趣的同時，也需要對其進行合理的規範和管理。這不僅是為了保護用戶和社會的權益和安全，也是為了促進該技術本身的可持續發展。

03元宇宙簡史

抖音發布了哪些平台規範和行業倡議？

針對上述問題，抖音發布了關於人工智能生成內容的平台規範暨行業倡議。

該規範遵循以下三個理念：以人為本，尊重並充分保障個人權益；鼓勵創作優質內容，禁止發布違規內容；堅持真實美好，避免虛假信息的生產傳播。

基於這些理念，該規範提出了以下八條具體要求：

1、發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景；

2、發布者需對人工智能生成內容產生的相應後果負責，無論內容是如何生成的；

3、虛擬人需在平台進行註冊，虛擬人技術使用者需實名認證；

4、禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限於肖像權、知識產權等。一經發現，平台將嚴格處罰；

5、禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。一經發現，平台將嚴格處罰；

6、平台將提供統一的人工智能生成內容標識能力，幫助創作者打標，方便用戶區分；

7、平台將提供虛擬人的註冊能力，並對已註冊的虛擬人形象進行保護；

8、平台將提供用戶反饋渠道，方便用戶反饋違規生成內容。

此外，《抖音關於人工智能生成內容標識的水印與元數據規範》還詳細說明了如何對不同類型的人工智能生成內容進行標識；如何對不同類型的人工智能生成內容，如視頻、圖片、虛擬人等，進行水印和元數據的添加、讀取和驗證。

該規範的發布，體現了抖音對人工智能技術在內容創作領域的积極探索和負責任的態度。

抖音作為國內最大的短視頻平台，擁有海量的用戶和內容。抖音不僅要保障用戶的權益和安全，也要保持內容的質量和多樣性，同時要遵守相關的法律法規。

在這樣的背景下，抖音發布了關於人工智能生成內容的平台規範暨行業倡議，既是對自身的規範和約束，也是對行業的引領和推動。

該規範的發布，也反映了人工智能技術在內容創作領域的快速發展和廣泛應用。

隨着人工智能技術的進步和普及，越來越多的創作者和用戶開始使用人工智能技術輔助創作或消費內容。

嚴正聲明：本文為元宇宙簡史原創，未經授權禁止轉載！內容僅供參考交流，不構成任何投資建議。任何讀者若據此進行投資決策，風險自擔。