全球首部AI全面监管法规即将生效
当地时间周二,欧盟成员国批准了世界上第一部监管人工智能(AI)的重要法律,该部法律于6月开始生效。欧盟理事会表示批准《人工智能法》(the AI Act)是开创性监管法律,制定AI相关的全面规则。
据悉,《人工智能法》定义了一个框架来理解人工智能相关的风险,并根据所获得的数据及利用该数据采取的决定或行动。据欧盟人工智能法案网站显示,法案对人工智能存在的风险进行了分类:
一是禁止不可接受的风险(例如社交评分系统和操纵性人工智能)。
二是大部分文本涉及受到监管的高风险人工智能系统。
三是较小的部分负责处理风险有限的人工智能系统,但透明度义务较轻:开发人员和部署人员必须确保最终用户意识到他们正在与人工智能(聊天机器人和深度伪造)进行交互。
四是最小的风险不受监管(包括目前在欧盟单一市场上提供的大多数人工智能应用程序,例如人工智能视频游戏和垃圾邮件过滤器;但该内容正在随着生成人工智能而改变)。
法案中明确了大部分义务由高风险人工智能系统的提供商(开发商)承担,其中包括打算在欧盟投放高风险人工智能系统或投入使用的企业,无论其总部位于欧盟还是第三国。此外,还有在欧盟使用高风险人工智能系统输出的第三国提供商。
欧盟《人工智能法案》的这些规则将对欧盟境内开发、创造、使用或转售人工智能的任何个人或实体产生重大影响。
路透社称,几个月来,随着微软所支持的Open AI推出的ChatGPT、谷歌等生成式AI系统的日益普及,国际社会对AI造成错误信息、虚假新闻和版权保护的担忧也日益加剧。美国科技巨头也密切关注这项法律,已经有越来越多的资金正在投入面向大众的生成式AI系统和应用中。
有业内人士预期,这些要求需要一段时间才会生效,对通用AI的限制要到《人工智能法案》生效12个月后才会开始。至于OpenAI的ChatGPT、Google的Gemini和微软的Copilot这些商用的生成式AI系统有过渡期,从法案生效之日起,有36个月让自家技术符合立法规定。
针对欧盟议会出台的历史性法案,美国科技公司反应不一。
亚马逊方面表示:“我们致力于与欧盟和业界合作,支持人工智能技术的安全、可靠和负责任的发展。”该公司正在推出AI聊天机器人助手。
Meta公司则警告不要采取任何可能扼杀创新的措施。Meta欧盟事务主管Marco Pancini表示:“最重要的是,我们不要忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力,而开放是关键。
违反《人工智能法案》将面临何种处罚?
如前文所述,《人工智能法案》旨在为人工智能系统开发商确立清晰的规范,并对这项技术的使用设定新的界限。那么,如果违反法案者将面临何种处罚?
目前来看,罚款是主要途径之一。对于违反新法案的公司,欧盟委员会有权处以高达3500万欧元或全球年营收7%的罚款,以金额较高者为准。也对“通用AI”等生成式AI系统施加严格限制,包括尊重欧盟版权法、透明披露模型的训练方式、例行测试和充分的网络安全保护。新法规预计将于2026年实施。
新法案的适用范围广泛,涵盖了在欧盟市场上销售的所有人工智能产品,无论这些产品是在哪里开发的。此外,该法案还规定了严厉的罚款措施,最高可达公司全球收入的7%。
虽然这个法案的适用范围目前仅限于欧盟,但由于其前瞻性和全面性,预计将产生深远的全球影响。
欧盟《人工智能法案》将加入此前旨在保护欧盟公民数字权利的体系,包括2018年的《通用数据保护条例》,该条例可能处以最高2000万欧元或企业全球营收4%的罚款,同样以较高者为准。
Facebook母公司Meta去年因违反《通用数据保护条例》,被罚款创纪录的12亿欧元,超过欧盟此前对亚马逊处以的7.46亿欧元的罚款。
律师们警告说,随着欧盟立法者努力敲定《人工智能法案》,企业需要及早准备,而且最好从现在开始着手进行准备。