量子人工智能技术的安全性成为研究热点,脆弱性和防御手段还面临诸多挑战

2022-12-07  

研究人员已经提出了许多量子算法来增强各种人工智能任务。随着量子增强人工智能的迅速建立,一个紧迫的基本问题自然出现了:量子人工智能技术在各种攻击下是否值得信赖?

经典神经网络容易受到对抗性扰动的影响,例如,带有小涂鸦的停车标志可能会被误分类为让行标志。最近的理论工作表明,量子神经网络同样具有脆弱性,这将给未来量子在安全场景中的应用带来严重问题。由此,研究人员建立了量子对抗机器学习的基础。

然而,从实验上演示量子分类器的对抗例子,并显示所提出的对抗措施在实践中的有效性是具有挑战性的,以前从未报道过。现在,由浙江大学王浩华、清华大学邓东灵等组成的团队克服了这些困难,并报告了用10个可编程超导量子比特阵列进行量子对抗学习的首次实验演示。论文于11月28日发表在《自然·计算科学》上[1]。

值得一提的是,在最近举办的第三届和第四届“科学探索奖”颁奖典礼上,浙江大学王浩华教授荣获“科学探索奖”数学物理学奖,奖金300万人民币。

12月3日电随着发展量子计算和人工智能成为世界各国的重要战略,两者交汇而生的量子人工智能更是发展迅速。但由于神经网络容易受到对抗扰动的影响,量子人工智能技术的安全性成为研究热点。

近日,清华大学交叉信息研究院邓东灵研究组与浙江大学物理学院王浩华、宋超研究组等合作,在超导系统中首次实验实现了量子对抗机器学习。相关成果“通过可编程超导量子比特实现量子对抗学习的实验演示”以封面论文形式发表在《自然·计算科学》,并获得了该期刊的专栏评论。

对抗机器学习的早期研究可以追溯到垃圾邮件过滤问题,涉及垃圾邮件的发送方与抵制方之间的博弈。一般来说,当用户的邮箱地址被外界得知后,一些恶意方可能为了商业利益向这个邮箱发送广告邮件、电脑病毒等。为了抵御这种行为,人们开发了邮件过滤器来区分正常邮件与恶意邮件并对后者加以阻挡。而恶意邮件的发送者为了躲过邮件过滤器的检测,便会采取一系列的手段,如修改恶意邮件中的特征词汇、增加正常词汇等。

随着深度学习的发展,深度学习模型在人脸识别、自动驾驶、医疗诊断等领域得到了广泛的应用。然而,人们发现深度学习模型同样也存在着被对抗样本攻击的威胁。

“比如,在一辆自动驾驶汽车上,如果前方的一个停车告示牌被贴上一层精心设计的对抗扰动薄膜,被汽车的识别程序判断为常速行驶,便可能引发安全事故。在机器学习辅助医疗诊断中,如果核磁共振的图片被恶意添加了微小扰动,也可能引发医疗事故。”研究人员表示,如果这类攻击没有得到解决而且被恶意利用,可能导致严重的安全隐患。

最近两年,量子对抗的概念被提出并受到了广泛关注。然而,在当前中等规模带噪声量子设备上演示量子学习模型面对对抗攻击的脆弱性和防御手段还面临诸多挑战。

量子纠缠实际上将消除现代互联网面临的所有安全问题。至少这是理论。根据新的研究,有一种(理论上的)方法可以“引导”纠缠的光子以避免信息丢失。

Mehul Malik教授研究量子技术已有15年。马利克与他在赫瑞瓦特光子和量子科学研究所的团队一起构思了一种在光纤上发送量子信息的新方法——一种有助于避免数据丢失并使量子互联网概念更接近现实的方法。

量子互联网是基于属于量子计算理论的奇怪现象的下一代网络的理论模型。最奇怪的现象被称为量子纠缠,因为它描述了两个粒子或粒子组(例如,两个光子),无论距离多远,它们都保持连接。无论光速如何,纠缠粒子的量子态都不能独立于另一个粒子的状态来描述。

量子技术试图利用亚原子粒子的量子特性来开发令人难以置信的强大计算机,或者大大提高网络通信和导航系统的安全性。然而,量子纠缠的问题在于,由于噪声和信息丢失,在光纤上“传输”纠缠光子变得难以长距离。

即使是世界上最好的光纤,每公里也会有一定的损耗,所以这是量子通信成为可能的一大障碍。然而,Mehul Malik教授与团队一起开发的新研究首次表明,量子纠缠可以容忍噪声和损失 - 并且仍然以称为量子转向的强大形式存在。

量子转向是一种可以通过使用“qudits”来提高纠缠鲁棒性的技术,“qudits”本质上是排列在多个维度上的量子位数组(量子计算中位的等效物)。研究人员利用光的空间结构在由光的“像素”组成的53维空间中纠缠光子。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。