欧盟立法者制定生成式人工智能法草案

发布时间:2023-05-15  

根据澎湃新闻报道,近日欧洲议会两个委员会通过了《The Act》提案的谈判授权草案。草案就对 ChatGPT 等生成式大模型的一系列要求达成一致,标志着欧盟对人工智能实施强监管方面又迈出了一步。

草案严格禁止了「对人类安全造成不可接受风险的人工智能系统」,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。草案提出了新的保障措施,并禁止各种危险用例,包括禁止在公共场所进行大规模面部识别程序,以及禁止使用预测性警务系统(即AI犯罪预测系统)。草案还要求建立一个公共数据库,记录政府部门部署的“高风险”人工智能系统,公开数据,以便公民能够了解他们将何时以及如何受到这项技术的影响。

预计该草案将于 6 月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说,一旦获得批准,这将成为全世界首部有关人工智能的法规。

该草案由两个关键委员会批准:内部市场委员会(Internal Market Committee)和公民自由委员会(Civil Liberties Committee)。这些委员会由负责监督立法制定的欧洲议会议员组成。他们最终以84票赞成、7票反对、12票弃权批准了完成的草案。

欧洲议会表示,在草案中,欧洲议会议员旨在确保人工智能系统由人监督,且确保其安全、透明、可追溯、非歧视和环保。他们还希望对人工智能有一个统一的定义,旨在保持技术中立,以便其可以适用于现在和以后出现的人工智能系统。

修正案包括扩大禁止行为清单,以禁止对人工智能系统的“侵入性”和“歧视性”使用,禁止行为包括:在公共可访问空间建立实时远程生物特征识别系统;使用远程生物特征识别系统,唯一的例外是执法部门起诉严重犯罪,并且只有在司法授权后;使用敏感特征(例如性别、种族、民族、公民身份、宗教、政治取向)的生物识别分类系统;预测性警务系统(基于貌相、地点或过去的犯罪行为预测犯罪);执法、边境管理、工作场所和教育机构中的情感识别系统;从社交媒体或监控摄像头中抓取生物特征数据以创建面部识别数据库(侵犯人权和隐私权)。

除了禁令之外,更新后的草案还引入了旨在监管“通用人工智能”的新措施,适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统,其中包括GPT-4和ChatGPT等语言模型,以及Stable Diffusion、Midjourney和DALL-E等人工智能图像生成器。

根据拟议的立法,人工智能大模型的创建者需要在人工智能使用之前进行评估并减轻各种风险,包括评估训练人工智能系统可能造成的环境损害。相关公司必须公开训练人工智能使用的数据,以确保其使用受版权法保护的数据训练。

有业内人士认为,版权问题可能会在美国产生重大影响。在美国,版权所有者已经对未经同意使用其数据的图像生成器提起了一系列诉讼,许多科技公司,如谷歌和Open,都通过拒绝披露训练系统的数据(通常声称这些信息是商业机密)来避免这类法律挑战,若欧盟要求公开训练数据,则可能会产生新的诉讼。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    最高罚款3500万欧元!欧盟正式批准《人工智能法案》;全球首部AI全面监管法规即将生效 当地时间周二,欧盟成员国批准了世界上第一部监管人工智能(AI)的重要法律,该部法律于6月开始生效。欧盟......
    欧盟《人工智能法案》正式生效;该法案是全球首部全面监管人工智能的法规,标志着欧盟在规范快速发展的人工智能应用方面迈出了重要一步。 法案旨在通过风险导向的方法对人工智能系统进行分类和管理,确保......
    规则将分阶段实施,其中一些禁止性规则将在该法律通过六个月后生效,与通用人工智能模型相关的某些规则将从2025年起适用。 欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。去年12月......
    很多工作要做。人工智能将促使我们重新思考民主制度核心的社会契约、教育模式、劳动力市场以及进行战争的方式。《人工智能法案》是围绕技术建立的新治理模式的起点。现在必须集中精力把这项法律付诸实施。” 据了解,该法......
    测未来的法规。” 在欧盟,至少有一家公司与Tobey的想法一致。位于荷兰的NXP半导体已经制定了自己的人工智能道德新措施。 美国是否需要特定的人工智能法律? 难道美国已经有了保护公众免受人工智能不道德使用的法律......
    "2024大成人工智能法律合规与知识产权"论坛圆满落幕;上海2024年9月24日 /美通社/ -- 2024年9月20日, "2024大成人工智能法律合规与知识产权"论坛圆满落幕。本次......
    促进创新与保护消费者和社会之间取得平衡。该法律还重点关注高风险应用程序,确保它们受到更严格的监管和监督。 “人工智能法案正处于立法程序的最后阶段。在这个过程中,我们正在讨论建立一个欧洲人工智能办公室。这个办公室可以处理最先进的人工智能......
    欧盟就《人工智能法案》达成共识:对基础模型引入更严格监管;经过为期三天的“马拉松式”会谈,欧盟理事会主席和欧洲议会谈判代表日前就人工智能(AI)协调规则提案(即所谓的《人工智能法案》)达成......
    包括要求聊天机器人开发商披露他们是否使用了受版权保护的材料。 据知情人士透露,欧洲议会议员即将就欧洲“人工智能法案”的部分内容达成一致。该法案是关于人工智能使用的一套全面规定。 议员们可能提出的措施之一是,要求开放人工智能......
    未来"为主题,聚焦人工智能与企业管理话题,旨在助力企业积极顺应人工智能发展趋势,了解最新的国际相关法规,以推动企业的合规发展,同时帮助企业提升管理效能和文化软实力。TÜV南德电子电气研发部高级项目经理周世乐先生深度解析了欧盟人工智能法......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>