谈判终于搞定了！

图片来源：由 无界 AI 生成

经过数月的游说和政治角力，以及近 40 个小时的艰苦谈判，欧盟立法者终于在上周末就全球首个 AI 监管法案《人工智能法案》（AI Act）达成了初步协议。

该立法草案涉及包括 ChatGPT、Bard 在内的生成式人工智能系统。尽管它仍需得到欧盟成员国和议会的正式批准，但在美国国会没有任何显著动作的情况下，这项协议意味着欧盟朝着具有里程碑意义的人工智能政策迈出了关键一步。

据悉，该法案将全面监管人工智能，减轻 AI 对基本权利构成最大风险的领域的伤害，例如医疗保健、教育、边境监控和公共服务，并禁止使用人工智能构成“不可接受的风险”。

同时，该法案要求“高风险”人工智能系统必须遵守严格的规则，这些规则需要风险缓解系统、高质量的数据集、更好的文档以及人工监督。但是绝大多数 AI 应用，如推荐系统和垃圾邮件过滤器等，则将获得免费通行证。

对于人工智能这个仍处于“狂野西部”且极具影响力的行业来说，《人工智能法案》可能将成为世界上第一部全面的人工智能法律，为其引入重要的规则和执行机制。

那么，对于这项法案，我们需要了解哪些重点信息？

在透明度和道德方面引入约束性规则

科技公司喜欢谈论他们对人工智能道德的承诺，但当涉及到具体措施时，谈话就变得枯涩乏味了。

事实胜于雄辩。实际上，科技公司可以随时决定改变其人工智能道德政策。众所皆知，OpenAI 最初是一个“开放”的人工智能研究实验室，但后来为了保护自己的竞争优势，像所有其他人工智能初创公司一样，关闭了对其研究的公众访问。

但是《人工智能法案》将改变这一现状。

据彭博社获得的一份欧盟文件，所有通用人工智能系统的开发人员（具有广泛用途的强大模型）都必须满足基本的透明度要求，除非这些系统是免费开源的，其中包括制定可接受的使用政策、随时更新有关模型训练的信息、报告用于训练其模型的数据的详细摘要等。

在遵守版权法方面，该法规要求科技公司对深度伪造和人工智能生成的内容进行标记，并以一种可以检测到 AI 生成的媒体的方式设计系统。此举比 AI 公司向美国白宫做出自愿承诺的举措更进一步，因为后者仅仅是开发水印等人工智能溯源工具。

另一方面，该法案还要求所有提供保险和银行等基本服务的组织，对使用人工智能系统将如何影响人们的基本权利进行影响评估。

AI 公司仍有很大回旋空间

在一个后 ChatGPT 时代，欧盟立法者认为他们必须在监管中考虑到通用人工智能模型。对此，围绕“应该对哪种模型进行监管，以及监管是否会扼杀创新”等问题，行业内出现了激烈的争论。

法国和德国曾表示，担心对通用人工智能模型实施过多监管，可能会扼杀法国 Mistral AI 或德国 Aleph Alpha 等 AI 初创企业。

正如上面提到的，《人工智能法案》要求基础模型和建立在其之上的通用人工智能系统遵守欧盟版权法，并分享更多关于模型训练数据的信息。但是，对于被认为会构成“系统性风险”的模型将受到额外规则的约束。简而言之，科技公司必须分享其人工智能模型的安全性和能源效率。

据文件显示，欧盟将根据训练模型的计算能力来确定是否存在风险，为模型设定的阈值为每秒超过 10 万亿次运算。有专家指出，目前唯一能达到这一门槛的模型是 OpenAI 的 GPT-4。

除此以外，欧盟执行机构还可以根据数据集的规模来确定其他机构，例如是否在欧盟拥有至少 1 万名注册商业用户、注册用户的最终数量等可能的指标。

而在欧盟委员会制定出更协调且长期有效的控制措施期间，一些“能力更强”的模型应该签署行为准则。至于没有签署行为准则的公司，则必须向欧盟委员会证明它们的模型会遵守《人工智能法案》。这些模型必须满足如下要求：

• 主动报告自身能源消耗情况
• 在内部或外部进行红队测试/对抗性测试
• 评估和减轻可能的系统性风险，并报告任何事件
• 确保使用适当的网络安全控制措施
• 报告用于微调模型的信息以及系统结构
• 如果制定了更节能的标准，需要符合新的标准

值得一提的是，对开源模型的豁免并不适用于那些被认为会带来系统性风险的模型。

然而，上述要求虽然严格，却有一个问题：该法案的妥协方案是，对最强大的 AI 模型应用一套更严格的规则（主要根据训练它们所需的算力分类），但是科技公司实际上可以自行评估是否需要遵守。

对此，欧盟委员会（European Commission）的一名官员不愿证实，目前的限制是否会涵盖 OpenAI 的 GPT-4 或谷歌的 Gemini 等强大模型，因为只有这些公司自己知道，在训练它们的模型时使用了多少算力。不过，这位官员也明确表示，随着技术的发展，欧盟可能会改变衡量 AI 模型强大程度的方式。

欧盟将成为全球第一个 AI 警察

根据《人工智能法案》，欧盟将设立一个新的欧洲人工智能办公室，以协调合规、实施和执法。它将成为全球第一个对人工智能执行约束性规则的机构。该法案的治理机制还包括一个由独立专家组成的科学小组，负责就人工智能带来的系统性风险，以及如何对模型进行分类和测试提供指导。

此外，对于违规行为，该法案制定了很高的罚款金额：从公司全球销售额的 1.5% 到 7% 不等，具体取决于违规的严重程度和公司规模。

随着该法案初步达成协议，欧盟保留了先发优势，就像《通用数据保护条例》（GDPR）一样，《人工智能法案》也可能成为全球标准，其他地方的公司想要在世界第二大经济体开展业务，就必须遵守这项法律。相比之下，欧盟的规则比美国出台的规则（例如白宫行政命令）更进一步，因为它们具有约束力。基于此，欧洲也将成为世界上第一个公民能够对人工智能系统提起投诉的地方。

安全是重中之重

目前，一些人工智能用途在欧盟被完全禁止：

• 使用敏感特征的生物识别分类系统
• 从互联网或闭路电视录像中无目的地抓取面部图像，以创建 Clearview AI 等面部识别数据库
• 工作或学校中的情绪识别
• 社会评分
• 操纵人类行为的人工智能系统
• 用于利用人类弱点的人工智能

欧盟委员会的一名官员表示，预测性监管也被禁止，除非它是在“明确的人类评估和客观事实的基础上使用的，这种评估基本上不会仅仅因为算法的指示，就决定在刑事调查中决定追捕某个人”。

然而，《人工智能法案》不适用于专门为军事和国防用途开发的人工智能系统。

关于该法案争论之一是，如何规范警察在公共场所使用生物识别系统，许多人担心这可能会导致大规模监视。尽管欧洲议会（European Parliament）推动完全禁止该技术，但法国等一些欧盟国家对此表示强烈反对，后者想要利用它来打击犯罪和恐怖主义。

因此，欧洲警方只有在获得法院批准后，才能在公共场所使用生物识别系统，而且只能针对恐怖主义、贩卖人口、性剥削儿童和贩毒等 16 种不同的特定犯罪。此外，执法部门也可能在“与公共安全有关的特殊情况下”使用不符合欧洲标准的高风险人工智能系统。

接下来会如何呢？

可能需要几周甚至几个月的时间，公众才能看到这项法案的最终措辞。毫无疑问的是，法案内容仍需经过技术上的修改，并且必须得到欧盟成员国和议会的批准，才能正式成为法律。但该协议的达成或许为快速发展的 AI 技术的监管定下了基调。

参考资料：

https://www.technologyreview.com/2023/12/11/1084942/five-things-you-need-to-know-about-the-eus-new-ai-act/

https://www.bloomberg.com/news/articles/2023-12-09/new-eu-ai-regulations-what-do-they-mean-for-models-like-chatgpt