科学家发现神经网络中受量子启发的漏洞

在最近一项融合量子物理和计算机科学领域的研究中，张俊杰博士和孟德宇教授通过物理学不确定性原理的视角探索了神经网络的脆弱性。

他们的工作发表在《国家科学评论》上，将神经网络对定向攻击的敏感性与不确定性原理所施加的限制进行了比较，不确定性原理是量子物理学中的一种完善的理论，强调了同时测量某些属性对的挑战。

研究人员对神经网络漏洞的量子启发分析表明，对抗性攻击利用了输入特征的精度与其计算梯度之间的权衡。

“在考虑涉及学习损失函数的深度神经网络架构时，我们总是可以通过确定损失函数相对于这些输入的梯度来定义输入的共轭变量，”张博士说，他的专业知识在于数学物理。

这项研究有望促使人们重新评估神经网络的鲁棒性，并鼓励更深入地理解其局限性。通过对神经网络模型进行对抗性攻击，张博士和孟教授观察到模型的准确性和弹性之间存在折衷。

他们的发现表明，神经网络在数学上类似于量子系统，很难同时精确地解析两个共轭变量——损失函数的梯度和输入特征——这暗示了其内在的脆弱性。这种见解对于开发对复杂威胁的新保护措施至关重要。

“这项研究的重要性是深远的”，机器学习专家、该论文的通讯作者孟教授指出。

“随着神经网络在基本系统中发挥着越来越重要的作用，理解和加强其安全性变得势在必行。这项跨学科研究为揭开这些复杂的&luo;黑匣子&ruo;系统的神秘面纱提供了一个全新的视角，有可能为更安全和可解释的人工智能的设计提供信息楷模。”