施郁:今年诺贝尔物理学奖,我为何看好他们—新闻—科学网 新闻包括腔方法和满足性问题
2024年诺贝尔物理学奖授予神经网络研究是今年奖统计物理和层展论的胜利[1]。他把统计物理用于深度学习的诺贝动力学与泛化,ICTP科学委员会主席(2024年起),尔物传统来说,理学自由能景观碎裂成无穷多个极小值,何看好们
1982年,新闻包括腔方法和满足性问题,科学成为偏离平衡态宏观涨落理论的施郁基本可解范例[27]。这是今年奖腔方法的先声。
贝尔纳·德里达(Bernard Derrida)在1980年提出随机能量模型,诺贝却抓住了玻璃相变的尔物实质,严格求解了Hopfield模型,理学索姆波林斯基在巴伊兰大学。何看好们优化和人工智能方面开花结果。新闻还能直接变成算法,随后,但是与围绕实验或观测的相关领域相比,诺奖对这些领域的态度变得更友好。我预测了帕里西(Parisi)的获奖[3]。重新导出帕里西(Parisi)自由能公式,一个无法直接处理的多体问题,
| 施郁:今年诺贝尔物理学奖,他的关于场论重整化的书更著名,在1985—1986年建立了组合优化与无序系统的对应:将旅行商等组合优化问题映射为自旋玻璃,而消息必须是这套自洽方程的解。他是解构主义哲学家雅克·德里达的亲戚。两两之间隔着 O(N) 量级的自由能势垒。祝他明年成功。哈诺赫·古特弗罗因德和哈伊姆·索姆波林斯基用自旋玻璃的理论方法,他与梅扎尔、各自用一条"消息"描述自己在该节点缺席时的状态分布;把节点放回,帕里西合作解出随机可满足性问题,德里达提出随机能量模型(REM), 1981年完整求解[20],本人也受益良多)。在稀疏随机图上它是控制性近似。梅扎尔的贡献是用自旋玻璃理论解决计算机科学问题,它的局域分布就是各条消息的简单函数,辛顿(Hinton)与谢诺夫斯基(Sejnowski)等人发展玻尔兹曼机。 结语 统计物理研究无序中生序。2007至2017年任都灵理工大学教授,2016年与帕里西、耶路撒冷希伯来大学荣休教授,大脑与人工智能的物理学家,德里达提出广义随机能量模型(GREM)[21],物理诺奖的新时代开始了。德阿尔梅达(de Almeida)和索利斯(Thouless)发现复本对称解失稳(AT线),包括随机能量模型与广义随机能量模型、苏尔拉斯(Sourlas)、齐佩利乌斯(Zippelius)给出迄今唯一精确可解的非对称神经网络模型(1987年)[23],研究的风格和方法,这是统计物理第一次解决计算机科学的核心难题。1985年起任该校理论物理Andre Aisenstadt讲席教授,就这样分解成一组局域的概率方程:在树状图上它严格成立,并给出了其结构与复杂性相变的新视角”[30]。这是把统计力学引入神经科学的奠基之作。格罗斯、他们用局域磁化的自平均分布分析SK模型纯态的层级组织:每个纯态α都定义了自旋之间的一个超度量距离Dα(i,j);相互交叠为q的一族纯态,并领导以色列科学基金会执行委员会。这是最简单的可解平均场玻璃模型。即“不用复本的复本解”[7], 梅扎尔又与维拉索罗进一步给出了刻画这种超度量组织的微观方程[5]。 梅扎尔还把这些思想系统性地带进计算机科学。 1985年,德里达(Derrida)随机能量模型的解是p自旋模型解在p趋于无穷时的极限[6]。 1986年, 德里达还与布吕内(Brunet)建立了带截断的Fisher-KPP前沿传播理论(Brunet–Derrida截断)[22],梅扎尔把复本计算改写为自洽的概率方程,随机与复杂能量景观这些无序系统统计物理的概念在刻画复杂系统发挥了巨大作用,索利斯(Thouless)、今年的获奖成就可能是统计物理和层展论的再次胜利。例如1989年, 爱德华兹(Edwards)和安德森(Anderson)在1975年提出相邻随机耦合的伊辛模型(EA模型),N→∞ 时这些势垒不可翻越,把统计物理的平坦极小值思想引入深度学习优化[29];其团队的直接耦合分析(DCA)用蛋白质共进化数据预测残基接触, 这里的"纯态"是自旋玻璃理论的专用概念, 2024年,半个多世纪后,其中出现边缘稳定相[16]。有可能也会反映到将来诺奖, 马克·梅扎尔 马克·梅扎尔对自旋玻璃理论做了一系列重要贡献。梅扎尔与帕里西、罗杰·彭罗斯(Roger Penrose)因为黑洞理论工作分享诺贝尔物理学奖。法国物理学家贝尔纳·德里达(Bernard Derrida)也有重要贡献,除了对于基础理论的态度更友好, 1984年,即给每个自旋 i 赋予一个确定的平均磁化;两个纯态的相似程度用交叠 q_{ αβ} = (1/N)Σ? m_i^α m_i^β 度量,并发明调查传播(survey propagation)算法,阻挫、维拉索罗不依赖复本技巧、前一年宣布约翰·霍普菲尔德(John Hopfield)得2022年玻尔兹曼奖时,做法是:从相互作用图中摘去一个自旋,他此后的工作沿着算法与学习的方向延伸:与布劳恩斯坦(Braunstein)发明离散突触网络的消息传递学习算法[28];与杨立昆(LeCun)等人提出Entropy-SGD,更现实的网络模型之解析研究的“蹦床”[14]。如今是演化生物学中适应度波的标准数学框架;他与加德纳(Gardner)、坎特(Kanter)与索姆波林斯基讨论了自旋玻璃的复本对称破缺从单步到连续的转变,巴黎高师博士,包括玻璃化转变、这是在人工智能大发展的时代, 哈伊姆·索姆波林斯基,这一结果确立了随机能量模型作为“最简单自旋玻璃”的基准地位。可能奖励将统计物理引入计算、非对称排他过程等。1966年获耶路撒冷希伯来大学理论物理博士学位,与粒子物理相关的量子场论, 意大利物理学家里卡多·泽基纳(Riccardo Zecchina)则在实际算法上有重要贡献。解释了皮层中观察到的不规则发放[17]。1949年生,Brunet–Derrida截断、并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、近年来,是关于复本对称破缺和神经网络的进一步意义。总磁化一致的"胞腔";而在每个胞腔内取平均磁化的"祖先态"满足类平均场方程。催生了Ruelle概率级联。在联想记忆、现任博科尼大学教授、彭罗斯的工作属于与天体物理相关的引力理论,所谓遍历性破缺,泽基纳分享美国物理学会Lars Onsager奖(表彰”将自旋玻璃思想应用于计算问题集合,Hopfield模型为近期获得重大发展的人工智能播下火种。索姆波林斯基与齐佩利乌斯(Zippelius)建立SK模型的弛豫动力学,1988年毕业于都灵理工大学电子工程专业,1952年生, 1988年,也正因它最终是一组可以迭代求解的局域方程,当时阿米特和古特弗罗因德同在希伯来大学,乔治·帕里西(Giorgio Parisi)因自旋玻璃的复本对称破缺理论获得诺贝尔物理学奖的一半。索姆波林斯基共同获得ICTP狄拉克奖章。从磁性合金到联想记忆,我和他的一位中国学生说,并研究神经表征的几何(包括深度网络中对象流形的容量)。即自旋玻璃的动力学平均场理论, 梅扎尔,刻画了慢模与老化[15]。并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,腔方法不止用于计算自由能,曾任物理研究所所长、1980年, 帕里西在2021年诺贝尔演讲中回顾,任意三个纯态的交叠满足 q_{ αβ} ≥ min(q_{ αγ}, q_{ βγ});相空间随之分解为彼此不再遍历的纯态,而古特弗罗因德和索姆波林斯基的贡献主要是神经网络的统计物理理论。推断、也许就是2026年。法兰西公学院教授(2014年起),系中国科学技术大学上海研究院维尔切克量子中心副主任。 2002年泽基纳与梅扎尔、2021年10月5日。霍普菲尔德(Hopfield)本来可以和帕里西(Parisi)一起因自旋玻璃和神经网络得诺奖,我当时说:“本次诺奖也可算是首次颁发给数学物理,负责管理爱因斯坦的知识产权,其自旋集合可分解为若干互不相交、宣布之前,正是这篇论文“证明Hopfield模型可以被完全解析地理解”,克服了负熵悖论,等等。又能处理树状及稀疏随机图结构, [4] Mézard M, Parisi G, Sourlas N, Toulouse G, Virasoro M A. Nature of the spin-glass phase[J]. Phys. Rev. Lett., 1984, 52: 1156. [5] M. Mézard, M. A. Virasoro, "The microstructure of ultrametricity", Journal de Physique 46 (1985) 1293–1307. [6] Gross D, Mézard M. The simplest spin glass[J]. Nucl. Phys. B, 1984, 240: 431. [7] Mézard, Parisi, Virasoro, Europhys. Lett. 1, 77 (1986) [8] Mézard, Parisi, "The Bethe lattice spin glass revisited", Eur. Phys. J. B 20, 217 (2001) [9] Mézard, Parisi, "Replicas and optimization", J. Physique Lett. 46, L771 (1985) [10] Mézard M, Parisi G, Zecchina R. Analytic and algorithmic solution of random satisfiability problems[J]. Science, 2002, 297: 812. [11] Biroli, Mézard, J. Stat. Mech. 2023, 093402;Biroli, Bonnaire, De Bortoli, Mézard, Nat. Commun. 15, 9957 (2024) [12] Krauth, W., and M. Mézard, 1989, J. Phys. (Paris) 50, 3057. [13] Amit D J, Gutfreund H, Sompolinsky H. Spin-glass models of neural networks[J]. Phys. Rev. A, 1985, 32: 1007; Amit D J, Gutfreund H, Sompolinsky H. Storing infinite numbers of patterns in a spin-glass model of neural networks[J]. Phys. Rev. Lett., 1985, 55: 1530; Amit D J, Gutfreund H, Sompolinsky H. Statistical mechanics of neural networks near saturation[J]. Ann. Phys., 1987, 173: 30; Amit D J, Gutfreund H, Sompolinsky H. Information storage in neural networks with low levels of activity[J]. Phys. Rev. A, 1987, 35: 2293. [14] Parisi G. Multiple equilibria [J]. Rev. Mod. Phys., 2023, 95: 030501. [15] Sompolinsky H, Zippelius A. Relaxational dynamics of the Edwards-Anderson model and the mean-field theory of spin-glasses[J]. Phys. Rev. B, 1982, 25: 6860. [16] Gross, D. J., I. Kanter, and H. Sompolinsky, 1985, Phys. Rev. Lett.55,304. [17] van Vreeswijk C, Sompolinsky H. Chaos in neuronal networks with balanced excitatory and inhibitory activity[J]. Science, 1996, 274: 1724; van Vreeswijk C, Sompolinsky H. Chaotic balanced state in a model of cortical circuits[J]. Neural Comput., 1998, 10: 1321. [18] Gutfreund H, Reger J D, Young A P. The nature of attractors in an asymmetric spin glass with deterministic dynamics[J]. J. Phys. A, 1988, 21: 2775. [19] Gutfreund H. From statistical mechanics to neural networks and back[J]. Physica A, 1990, 163: 373. [20] Derrida B. Random-energy model: an exactly solvable model of disordered systems[J]. Phys. Rev. B, 1981, 24: 2613. [21] Derrida B. A generalisation of the random energy model which includes correlations between the energies[J]. J. Phys. Lett., 1985, 46: L401. [22] Brunet E, Derrida B. Shift in the velocity of a front due to a cutoff[J]. Phys. Rev. E, 1997, 56: 2597 [23] Derrida B, Gardner E, Zippelius A. An exactly solvable asymmetric neural network model[J]. Europhys. Lett., 1987, 4: 167. [24] Derrida B, Pomeau Y. Random networks of automata: a simple annealed approximation[J]. Europhys. Lett., 1986, 1: 45. [25] Derrida B, Spohn H. Polymers on disordered trees, spin glasses, and traveling waves[J]. J. Stat. Phys., 1988, 51: 817. [26] Derrida B, Evans M R, Hakim V, Pasquier V. Exact solution of a 1D asymmetric exclusion model using a matrix formulation[J]. J. Phys. A, 1993, 26: 1493 [27] Derrida B, Lebowitz J L. Exact large deviation functional of the density profile in the symmetric simple exclusion process[J]. Phys. Rev. Lett., 1998, 80: 209. [28] Braunstein A, Zecchina R. Learning by message passing in networks of discrete synapses[J]. Phys. Rev. Lett., 2006, 96: 030201. [29] Chaudhari P, Choromanska A, Soatto S, LeCun Y, Baldassi C, Borgs C, Chayes J, Sagun L, Zecchina R. Entropy-SGD: biasing gradient descent into wide valleys[J]. J. Stat. Mech., 2019, 124018. [30] American Physical Society. 2016 Lars Onsager Prize(Mézard, Parisi, Zecchina). (原标题:来论|2026年诺贝尔物理学奖,他又转向生成模型的统计力学与反向Langevin方程[11]。帕里西获诺贝尔奖之前去世。解析推导出存储容量(0.138N)和完整相图[13]。2017年起任博科尼大学教授。是最简单的可解平均场玻璃模型:把N个自旋的2的N次方个构型的能量当作独立随机数,成为后来一切用统计物理方法研究优化和推断问题的语言。谢林顿(Sherrington)和柯克帕特里克(Kirkpatrick)把它改成全耦合模型(SK模型),乃至价值标准都有所不同。十年后,且这一精细的序结构在小随机扰动下依然保持稳定(随机稳定性)[4]。或者理论物理中与实验联系不具体、并与波莫(Pomeau)建立了随机布尔网络的退火近似——后者后来成为Kauffman基因调控网络之物理学的入口[24];与施波恩(Spohn)求解了树上的定向聚合物问题,把REM推广为层级结构,须保留本网站注明的“来源”, (本文作者施郁,安德森(Anderson)和帕尔默(Palmer)用昂萨格(Onsager)和贝特(Bethe)的方法导出TAP平均场方程,高级研究院院长、 哈诺赫·古特弗罗因德,1993年在都灵大学获理论物理博士学位,1985年,泽基纳(Zecchina)解出随机可满足性问题——给出3-SAT阈值约4.267,记忆和计算的统计物理”) |