复旦沈健团队：以新物理体系加新材料，构筑人工智能发展的新路
院士鄂维南：当前人工智能技术路线不可持续，中国研究者要跳出主流框架
传统的冯诺依曼架构的计算机在处理这类信息效率低下，因为现有计算机的硬件架构本身就不是为了智能计算而设计，所以大家就不得不在软件和算法上不断地去突破。
复旦大学微纳电子器件与量子计算机研究院院长、中国物理学会磁学分委会主任沈健正在进行的探索，是与传统计算机架构完全不同的类脑计算机，其最大的特点就是低功耗、高效率，而这两者正是目前智能计算要进一步发展面临的最大瓶颈。
沈健认为，“人脑的可塑性是自主学习能力的重要基础。这种存算一体的的计算机架构与传统的冯诺依曼计算机架构完全不同。”
沈健团队认为，基于物理体系的神经网络，理论上可以通过内在的物理过程，实现无需外部干预的自主学习。
从2018年开始，沈健团队就开始思考，是否有一些硬件或者是否有一些物理体系，天生就能处理人工智能的任务，通过这样的物理体系大幅度提升处理数据的密度。
“想象一下，如果有一种物理架构与人脑的工作原理是相同的，那么我们是不是可以通过这种物理架构或者说用某种材料制备的器件来实现人脑的某些功能，最终通过不同的器件‘拼接’成一个类脑计算机呢？”沈健表示。
“确实有一些材料被称为‘smart material’，也就是智能材料，它们在外界‘刺激’下，具有自组织自适应的自我演化能力，同时自我演化的过程往往是纳秒级的。通过这样的材料，我们可以把这些硬件架构与创新的计算范式结合，从而找到一条智能计算的发展新路。”沈健表示。
目前团队已经发现了某些磁性薄膜体系具备类似的能力。就在几天前，《美国国家科学院院刊》正式接收了他们研发团队关于磁性薄膜实现自主学习的论文。
沈健坦言，这仅仅是开始。
沈健
沈健
1989年浙江大学物理系学士
1992年中国科学院北京真空物理开放实验室硕士
1996年德国马普学会微结构研究所博士
1996-1998年德国马普学会微结构所分子束外延研究组组长
1998-2004年美国橡树岭国家实验室研究员
2004-2009年美国橡树岭国家实验室高级研究员
2010-2020年复旦大学物理系系主任
2020年7月-2023年6月上海期智研究院PI
现任复旦“浩清”特聘教授、博士生导师，复旦应用表面物理国家重点实验室主任、复旦微纳电子器件与量子计算机研究院院长、中国物理学会磁学分委会主任。
1998年获德国马普学会Otto-Hahn奖章，2002年美国橡树岭国家实验室年度青年科学家（1人），2003年获美国能源部杰出青年科学家奖、美国总统青年科技奖（PECASE），2011年入选美国物理学会会士（APS Fellow）。担任2012年在温哥华举行的国际应用磁学大会（Intermag）主席、2021年在上海举行的国际磁学大会（ICM）主席。入选2021年中国科学院院士增选初步候选人名单。
“刺激”
人脑相当于一台能耗极低的计算机，特别是大脑的灵光一现是AI远所不及的，大脑的可塑性正是自主学习能力的重要基础。
人工智能（AI）与基础科学的深度融合，开启了科学研究新范式。不过，人们听到的往往是AI赋能具体领域的科学研究（AI for Science）；而将基础科学用于AI算法和架构的改进（Science for AI），则少之又少。
沈健团队做的便是后者。沈健的研究领域是凝聚态物理，以纳米磁性、自旋电子学、低维物理、复杂体系强关联效应为研究方向。一个从事基础研究的物理学家，为何要致力于把物理体系用于某个具体的场景？
沈健笑言因为受了“刺激”。“经常有人问我，研究基础物理能干吗？我也注意到，物理学家更在意发现新的物理现象和材料，而不是它们的现实应用。工业界可能对新的物理现象都难以理解，更不会轻易去尝试转化。到最后，很多研究就真的束之高阁了。从1到10，固然不容易，有没有可能从0到1或者2，为最终到10奠定核心基础？”
就这样，复旦大学最早一批成立的实体运行科研机构之一——微纳电子器件与量子计算机研究院应运而生，沈健出任院长。他们的目标是，把物理体系用于有意义的任务场景中，实现更快速度、更低能耗。
自20世纪40年代第一台计算机诞生以来，信息技术的突破性进展往往由关键物理材料和器件的创新所驱动，如硅基半导体材料实现了高密度高速信息处理，巨磁阻材料推动了海量信息存储并加速了大数据时代的到来。
然而，随着智能计算的快速发展和广泛应用，现有的硅基器件技术和冯·诺依曼计算架构在能耗和速度方面遇到了瓶颈，严重制约了智能计算能力的持续提升。这一问题在现代大型神经网络处理数百甚至上千亿数据时表现得尤为突出，亟待解决。
物理学家能为AI做什么？“如果能在物理体系中直接实现人工神经网络，即在硬件中实现而无需借助软件，将显著提升人工智能的能力与效率。”
沈健说，他们正尝试不通过外界干预，而是利用物理体系自身过程完成类脑自主学习。人脑相当于一台能耗极低的计算机，特别是大脑的灵光一现是AI远所不及的，大脑的可塑性正是自主学习能力的重要基础。
瓶颈
现有计算机的硬件架构本身就不是为了智能计算而设计的，所以我们就不得不在软件和算法上不断地去突破。
物理学与人工智能之间存在着深刻而密切的联系。从历史发展来看，物理学的基础理论为机器学习技术的发展做出了重要贡献。今年的诺贝尔物理学奖就是最典型的物理学推动人工智能发展的例证，是Science For AI的最佳例证。
自20世纪40年代第一台计算机诞生以来，信息技术的发展呈现明显的不连续、阶越性特征。这些突破性进展往往由关键物理材料和器件的创新所驱动，如硅基半导体材料实现了高密度高速信息处理，巨磁阻材料推动了海量信息存储并加速了大数据时代的到来。
另一方面，物理学也在人工智能技术的推动下快速进展，比如希格斯粒子的发现、引力波测量噪声的减少、系外行星的寻找、分子和材料性质的计算、蛋白质结构的预测以及高效太阳能电池的开发等，都离不开人工智能。
物理学与人工智能之间的协同发展，不仅体现了科学领域的交叉融合之美，更为未来科技创新开辟了广阔空间。
但是，当下的智能计算主要面向语音、文字、图像、视频等具有强关联性的模拟信息。传统的冯诺依曼架构的计算机在处理这类信息是效率低下，因为，现有计算机的硬件架构本身就不是为了智能计算而设计的，所以我们就不得不在软件和算法上不断地去突破。
而这一问题，在现代大型神经网络处理数百甚至上千亿权重时，表现得尤为突出，导致对算力和能源的需求急剧攀升。巨量的能耗和算力，成为人工智能进一步发展的一个瓶颈问题。
新体系
从更基础的层面设计物理架构，尤其是通过新材料和新器件的特性，如记忆性、相干性、非线性、涨落性、可塑性等，来构筑高能效的计算架构与范式。
沈健团队正在寻求的正是从基础物理研究的角度突破人工智能发展的瓶颈。大模型诞生后，一直有观点认为，人类正处于人工智能突破的前夜，但实际上能耗和算力已经成为人工智能技术进一步发展的瓶颈问题。
沈健团队成员青年研究员余伟超说，尽管目前的瓶颈多来自于算力，但从长远来看，能耗将成为更为根本的限制。尽管现有的人工智能实现方式在计算资源利用和架构设计上确实存在优化空间，但不同的神经网络架构和硬件加速技术，如专用AI芯片、神经形态计算，正在不断探索更高效的计算范式，以提高人工智能系统的能量效率和计算性能。
物理体系的特性为人工神经网络提供了重要的灵感，尤其是若能在物理体系中直接实现人工神经网络，即物理神经网络，必将显著提升人工智能的能力与效率。因此，利用物理体系构建人工智能有可能成为实现可持续强人工智能的重要途径。
目前国际上的研究主要集中于物理神经网络在推断任务中的应用，而网络的训练部分仍需依赖外部算法或计算实现，这与人脑的自我学习能力存在明显差异。基于物理体系的神经网络理论上可以通过内在的物理过程，实现无需外部干预的自主学习。
“人脑的可塑性是自主学习能力的重要基础。这种存算一体的的计算机架构与传统的冯诺依曼计算机架构完全不同。”沈健说，这就需要从更基础的层面设计物理架构，尤其是通过新材料和新器件的特性，如记忆性、相干性、非线性、涨落性、可塑性等，来构筑高能效的计算架构与范式。
从2018年开始，沈健团队就开始思考，是否有一些硬件或者是否有一些物理体系，天生就能处理人工智能的任务，通过这样的物理体系大幅度提升处理数据的密度。
“确实有一些材料被称为‘smart material’，也就是智能材料，它们在外界‘刺激’下，具有自组织自适应的自我演化能力，同时自我演化的过程往往是纳秒级的。通过这样的材料，我们可以把这些硬件架构与创新的计算范式结合，从而找到一条智能计算的发展新路。”沈健表示。
目前，其团队在“面向低能耗智能计算的材料和器件”方面的研究已开始有成果陆续发布。其中，“智能”磁性薄膜材料制备的器件，就具备自主学习能力。
——通过将图像转化成电信号输入到该器件中，磁性材料中的磁畴在电信号刺激下自适应演化，于是该器件无需外部算法干预就自主实现了权重的计算和调整。
——通过将这一器件构筑成Hopfield网络，可以进行联想记忆任务，比如，给定部分或噪声图像时网络会自动恢复完整的原始图形模式，相关成果已物理学界的顶尖杂志接收。
“一般而言，普通导体的电阻不会变，但我们发现了一种磁性薄膜，它的电阻反而随着电流增加越来越低，我们把这种磁性材料连接成一个霍普菲尔德网络，它无需外部干预即可自我迭代和演化，即‘自主学习’。自主学习后的磁性霍普菲尔德网络经过实验证实能很好地完成联想记忆任务。”余伟超表示。
据介绍，有别于传统的二进制计算，这是和冯·诺依曼计算架构完全没有关系的一种全新计算方式。这里的物理体系模拟的信号是连续的，就像我们肉眼看见的光是一个真实信号，而不是用二进制拼出来的数字信号。
联想记忆和图像语音识别并不新鲜，实现手段也不少，但利用物理体系完成类脑自主学习，还是颇具原创性和创新性。
目前团队已经发现某些磁性薄膜体系具备类似的能力，不过沈健也坦承，这还仅仅是开始。
用手机拍照，是一个最寻常不过的场景。但如果天色已晚或距离太远，可能会曝光不足，图像中会引入很多噪点，导致很多信息看不清楚。
这时候可以使用智能图像处理软件，而沈健团队正致力于设计一种器件来替代这一功能，即直接输入图像信号，输出的就是经过降噪后的图片。整个过程不依赖于复杂的电路设计或是软件算法，而仅靠该器件（非线性电阻网络）中的天然物理过程即可实现。
据介绍，研发团队对此已实现纳秒级速度处理，降噪效果优于传统的图像降噪算法，且该器件功能可进一步扩展，完成边缘提取、高动态范围色调映射等更难的任务。
“未来，一旦规模做上去，完全可以做到实时处理。如果集成度够好，可以把这一器件封装成芯片安装在相机或手机里。”沈健说。
新范式
通过发现新的物理体系改变智能计算的范式，更开始渴望走通从0到1甚至到10的路。
虽然这些成果还仅仅是起步，沈健说，S4AI（Science for AI）的发展也改变了他们团队的研究范式。过去像他这样的凝聚态物理学家更关注材料的物理性质，至于这个物理性质实现了会给现实带来改变，其实并不真正关注，但如今，通过发现新的物理体系改变智能计算的范式，让他们“不得不”更开始渴望走通从0到1甚至到10的路。
目前，沈健团队正和复旦大学、清华大学、南京大学等全国顶尖高校的材料科学、集成电路领域的学者合作，推动低功耗智能计算器件的发展。
据介绍，他们未来的研究方向包括探索新型物理系统，如光子学、自旋电子学、超导约瑟夫森结等平台，在多种材料体系中实现高效的网络架构；开发物理自学习能力，通过研究增量赫布学习、平衡传播等策略实现高效的物理自主学习。
同时，他们致力于新型量子材料的理论和实验研究，探索具备量子特性的材料以实现算力转化；此外，还将物理自主学习概念扩展到其他网络结构，并结合前端设备开展多模态传感器计算的应用研究。
沈健谈到，展望未来，也许我们的人工智能工具未必是一个“全能型选手”，也许是某些方面的“特长生”，“总之，未来的人工智能工具的形态还很难预料，但是当我们通过全新的物理架构发展出诸多‘特长生’之后，也许最终也会实现‘全能型选手’的‘培养’，找到人工智能发展的另一种新的发展范式。”沈健说。
让沈健感慨的是，大约40年前，受到物理学启发的霍普菲尔德神经网络论文就是发表在《美国国家科学院院刊》。40年后，他们基于物理体系构建了物理霍普菲尔德神经网络，并实现了该网络的自主学习。
物理学与人工智能之间天然存在着深刻而密切的联系。在物理学推动下，仅有少数节点的霍普菲尔德网络发展到如今拥有超过1万亿个参数的深度学习网络；而借助机器学习，物理学在希格斯粒子的发现、系外行星的寻找、分子和材料性质的计算、蛋白质结构预测以及高效太阳能电池开发等领域取得了显著成果。
物理学与人工智能之间的协同发展，不仅闪耀着科学的交叉融合之美，也为未来科技创新开辟了广阔空间。
“还有很长一段路要走。就拿类脑自主学习来说，科学界对于这一概念的表达还尚未统一，利用物理体系来完成的突破点和难点在于找到有意义的应用场景，我们也还在探寻中。”沈健说。
资料来源：文汇报、解放日报
编辑：抱一君 线索/商务/合作：imerit（V）
推荐阅读
院士鄂维南：堆砌大模型不适合中国，“别人做了，就不再去凑热闹”
大力出奇迹通不向AGI，蚂蚁系创业教授寄语年青人不要迷信权威
看到这组来自国外的数据，突然明白为什么姚期智院士要定下新目标
智谱AI CEO张鹏：人工智能革命到来，大模型创业呈星火燎原之势