談判終於搞定了！

圖片來源：由 無界 AI 生成

經過數月的遊說和政治角力，以及近 40 個小時的艱苦談判，歐盟立法者終於在上周末就全球首個 AI 監管法案《人工智能法案》（AI Act）達成了初步協議。

該立法草案涉及包括 ChatGPT、Bard 在內的生成式人工智能系統。儘管它仍需得到歐盟成員國和議會的正式批准，但在美國國會沒有任何顯著動作的情況下，這項協議意味着歐盟朝着具有里程碑意義的人工智能政策邁出了關鍵一步。

據悉，該法案將全面監管人工智能，減輕 AI 對基本權利構成最大風險的領域的傷害，例如醫療保健、教育、邊境監控和公共服務，並禁止使用人工智能構成“不可接受的風險”。

同時，該法案要求“高風險”人工智能系統必須遵守嚴格的規則，這些規則需要風險緩解系統、高質量的數據集、更好的文檔以及人工監督。但是絕大多數 AI 應用，如推薦系統和垃圾郵件過濾器等，則將獲得免費通行證。

對於人工智能這個仍處於“狂野西部”且極具影響力的行業來說，《人工智能法案》可能將成為世界上第一部全面的人工智能法律，為其引入重要的規則和執行機制。

那麼，對於這項法案，我們需要了解哪些重點信息？

在透明度和道德方面引入約束性規則

科技公司喜歡談論他們對人工智能道德的承諾，但當涉及到具體措施時，談話就變得枯澀乏味了。

事實勝於雄辯。實際上，科技公司可以隨時決定改變其人工智能道德政策。眾所皆知，OpenAI 最初是一個“開放”的人工智能研究實驗室，但後來為了保護自己的競爭優勢，像所有其他人工智能初創公司一樣，關閉了對其研究的公眾訪問。

但是《人工智能法案》將改變這一現狀。

據彭博社獲得的一份歐盟文件，所有通用人工智能系統的開發人員（具有廣泛用途的強大模型）都必須滿足基本的透明度要求，除非這些系統是免費開源的，其中包括制定可接受的使用政策、隨時更新有關模型訓練的信息、報告用於訓練其模型的數據的詳細摘要等。

在遵守版權法方面，該法規要求科技公司對深度偽造和人工智能生成的內容進行標記，並以一種可以檢測到 AI 生成的媒體的方式設計系統。此舉比 AI 公司向美國白宮做出自願承諾的舉措更進一步，因為後者僅僅是開發水印等人工智能溯源工具。

另一方面，該法案還要求所有提供保險和銀行等基本服務的組織，對使用人工智能系統將如何影響人們的基本權利進行影響評估。

AI 公司仍有很大迴旋空間

在一個后 ChatGPT 時代，歐盟立法者認為他們必須在監管中考慮到通用人工智能模型。對此，圍繞“應該對哪種模型進行監管，以及監管是否會扼殺創新”等問題，行業內出現了激烈的爭論。

法國和德國曾表示，擔心對通用人工智能模型實施過多監管，可能會扼殺法國 Mistral AI 或德國 Aleph Alpha 等 AI 初創企業。

正如上面提到的，《人工智能法案》要求基礎模型和建立在其之上的通用人工智能系統遵守歐盟版權法，並分享更多關於模型訓練數據的信息。但是，對於被認為會構成“系統性風險”的模型將受到額外規則的約束。簡而言之，科技公司必須分享其人工智能模型的安全性和能源效率。

據文件显示，歐盟將根據訓練模型的計算能力來確定是否存在風險，為模型設定的閾值為每秒超過 10 萬億次運算。有專家指出，目前唯一能達到這一門檻的模型是 OpenAI 的 GPT-4。

除此以外，歐盟執行機構還可以根據數據集的規模來確定其他機構，例如是否在歐盟擁有至少 1 萬名註冊商業用戶、註冊用戶的最終數量等可能的指標。

而在歐盟委員會制定出更協調且長期有效的控制措施期間，一些“能力更強”的模型應該簽署行為準則。至於沒有簽署行為準則的公司，則必須向歐盟委員會證明它們的模型會遵守《人工智能法案》。這些模型必須滿足如下要求：

• 主動報告自身能源消耗情況
• 在內部或外部進行紅隊測試/對抗性測試
• 評估和減輕可能的系統性風險，並報告任何事件
• 確保使用適當的網絡安全控制措施
• 報告用於微調模型的信息以及系統結構
• 如果制定了更節能的標準，需要符合新的標準

值得一提的是，對開源模型的豁免並不適用於那些被認為會帶來系統性風險的模型。

然而，上述要求雖然嚴格，卻有一個問題：該法案的妥協方案是，對最強大的 AI 模型應用一套更嚴格的規則（主要根據訓練它們所需的算力分類），但是科技公司實際上可以自行評估是否需要遵守。

對此，歐盟委員會（European Commission）的一名官員不願證實，目前的限制是否會涵蓋 OpenAI 的 GPT-4 或谷歌的 Gemini 等強大模型，因為只有這些公司自己知道，在訓練它們的模型時使用了多少算力。不過，這位官員也明確表示，隨着技術的發展，歐盟可能會改變衡量 AI 模型強大程度的方式。

歐盟將成為全球第一個 AI 警察

根據《人工智能法案》，歐盟將設立一個新的歐洲人工智能辦公室，以協調合規、實施和執法。它將成為全球第一個對人工智能執行約束性規則的機構。該法案的治理機制還包括一個由獨立專家組成的科學小組，負責就人工智能帶來的系統性風險，以及如何對模型進行分類和測試提供指導。

此外，對於違規行為，該法案制定了很高的罰款金額：從公司全球銷售額的 1.5% 到 7% 不等，具體取決於違規的嚴重程度和公司規模。

隨着該法案初步達成協議，歐盟保留了先發優勢，就像《通用數據保護條例》（GDPR）一樣，《人工智能法案》也可能成為全球標準，其他地方的公司想要在世界第二大經濟體開展業務，就必須遵守這項法律。相比之下，歐盟的規則比美國出台的規則（例如白宮行政命令）更進一步，因為它們具有約束力。基於此，歐洲也將成為世界上第一個公民能夠對人工智能系統提起投訴的地方。

安全是重中之重

目前，一些人工智能用途在歐盟被完全禁止：

• 使用敏感特徵的生物識別分類系統
• 從互聯網或閉路電視錄像中無目的地抓取面部圖像，以創建 Clearview AI 等面部識別數據庫
• 工作或學校中的情緒識別
• 社會評分
• 操縱人類行為的人工智能系統
• 用於利用人類弱點的人工智能

歐盟委員會的一名官員表示，預測性監管也被禁止，除非它是在“明確的人類評估和客觀事實的基礎上使用的，這種評估基本上不會僅僅因為算法的指示，就決定在刑事調查中決定追捕某個人”。

然而，《人工智能法案》不適用於專門為軍事和國防用途開發的人工智能系統。

關於該法案爭論之一是，如何規範警察在公共場所使用生物識別系統，許多人擔心這可能會導致大規模監視。儘管歐洲議會（European Parliament）推動完全禁止該技術，但法國等一些歐盟國家對此表示強烈反對，後者想要利用它來打擊犯罪和恐怖主義。

因此，歐洲警方只有在獲得法院批准后，才能在公共場所使用生物識別系統，而且只能針對恐怖主義、販賣人口、性剝削兒童和販毒等 16 種不同的特定犯罪。此外，執法部門也可能在“與公共安全有關的特殊情況下”使用不符合歐洲標準的高風險人工智能系統。

接下來會如何呢？

可能需要幾周甚至幾個月的時間，公眾才能看到這項法案的最終措辭。毫無疑問的是，法案內容仍需經過技術上的修改，並且必須得到歐盟成員國和議會的批准，才能正式成為法律。但該協議的達成或許為快速發展的 AI 技術的監管定下了基調。

參考資料：

https://www.technologyreview.com/2023/12/11/1084942/five-things-you-need-to-know-about-the-eus-new-ai-act/

https://www.bloomberg.com/news/articles/2023-12-09/new-eu-ai-regulations-what-do-they-mean-for-models-like-chatgpt