根据澎湃新闻报道，近日欧洲议会两个委员会通过了《The Act》提案的谈判授权草案。草案就对 ChatGPT 等生成式大模型的一系列要求达成一致，标志着欧盟对人工智能实施强监管方面又迈出了一步。

草案严格禁止了「对人类安全造成不可接受风险的人工智能系统」，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。草案提出了新的保障措施，并禁止各种危险用例，包括禁止在公共场所进行大规模面部识别程序，以及禁止使用预测性警务系统(即AI犯罪预测系统)。草案还要求建立一个公共数据库，记录政府部门部署的“高风险”人工智能系统，公开数据，以便公民能够了解他们将何时以及如何受到这项技术的影响。

预计该草案将于 6 月中旬提交欧洲议会全会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说，一旦获得批准，这将成为全世界首部有关人工智能的法规。

该草案由两个关键委员会批准：内部市场委员会(Internal Market Committee)和公民自由委员会(Civil Liberties Committee)。这些委员会由负责监督立法制定的欧洲议会议员组成。他们最终以84票赞成、7票反对、12票弃权批准了完成的草案。

欧洲议会表示，在草案中，欧洲议会议员旨在确保人工智能系统由人监督，且确保其安全、透明、可追溯、非歧视和环保。他们还希望对人工智能有一个统一的定义，旨在保持技术中立，以便其可以适用于现在和以后出现的人工智能系统。

修正案包括扩大禁止行为清单，以禁止对人工智能系统的“侵入性”和“歧视性”使用，禁止行为包括：在公共可访问空间建立实时远程生物特征识别系统;使用远程生物特征识别系统，唯一的例外是执法部门起诉严重犯罪，并且只有在司法授权后;使用敏感特征(例如性别、种族、民族、公民身份、宗教、政治取向)的生物识别分类系统;预测性警务系统(基于貌相、地点或过去的犯罪行为预测犯罪);执法、边境管理、工作场所和教育机构中的情感识别系统;从社交媒体或监控摄像头中抓取生物特征数据以创建面部识别数据库(侵犯人权和隐私权)。

除了禁令之外，更新后的草案还引入了旨在监管“通用人工智能”的新措施，适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统，其中包括GPT-4和ChatGPT等语言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能图像生成器。

根据拟议的立法，人工智能大模型的创建者需要在人工智能使用之前进行评估并减轻各种风险，包括评估训练人工智能系统可能造成的环境损害。相关公司必须公开训练人工智能使用的数据，以确保其使用受版权法保护的数据训练。

有业内人士认为，版权问题可能会在美国产生重大影响。在美国，版权所有者已经对未经同意使用其数据的图像生成器提起了一系列诉讼，许多科技公司，如谷歌和Open，都通过拒绝披露训练系统的数据(通常声称这些信息是商业机密)来避免这类法律挑战，若欧盟要求公开训练数据，则可能会产生新的诉讼。