关于人工智能科学发现的数学思考
从可学习性、复杂性到开放式科学智能
English Edition: Mathematical Considerations for AI Scientific Discovery
通过深度流形 的视角，我们识别出五个数学基础 《关于科学与工程智能的数学思考》，它们赋予人工智能在科学发现中独特的、并且在某些方面具有唯一性的优势。这些优势部分来自这样一个事实：神经学习的运行方式，与数学家传统上接受的提出问题和解决问题的训练方式非常不同。我在《数学家不是这样训练的》中讨论了这一点：
反问题 —— 学习如何发生
分片流形 —— 复杂性如何被处理
无属性激活 —— 不同数据如何能够共同参与计算
满秩结构 —— 关系如何被发现
范畴论 —— 学到了什么
要理解人工智能的发现能力，我们首先必须理解神经网络的可学习性。因此，发现并不是叠加在学习之上的一个独立能力；它产生于同样的数学结构和学习动力学, 正是这些结构和动力学，使神经网络能够形成、连接并泛化关系结构。我在《神经网络学习与发现的数学思考》中讨论了这种联系。
科学发现从根本上说是一个关于复杂性与涌现 的问题：神经网络能够学习高阶关系结构，因此特别适合发现超越传统还原论分析的模式与关系。但这种能力还取决于模型是否真正能够学习所需要的结构, 这是我在《学习复杂性的数学思考》中讨论的问题。
这些基础解释了为什么神经网络能够学习复杂的关系结构，也解释了为什么它们可能具有非同寻常的科学发现能力。接下来的问题是：当这些结构已经被学习之后，会发生什么？它们如何被重新访问、扩展、连接，并最终演化？ 这首先把我们带到递归, 然后是为什么仅有递归还不够。
递归作为神经网络的数学性质
范畴论并不从对象的内在属性出发，而是从变换及其复合出发。在神经网络中，每一层都作用于先前层所构造的单标几何，并生成一个可供后续变换继续作用的新状态。各层并不需要共享参数；递归来源于复合封闭性：每一次输出仍然位于同一计算结构之中，并成为下一次计算的条件。无属性性使数值状态不会被固定语义或物理属性锁定，而满秩结构则保留足够的方向与关系，使这些状态能够继续被变换、复合与重新进入。
这种递归并不仅发生在激活值上。注意力会重新构造单标之间的关系，学习投影会改变其坐标与方向，而残差连接则把较早的数学覆盖带入后续层。如图所示，《深度流形第一部分：神经网络流形剖析》第 4.1 节与《深度流形第二部分：神经网络数学》第 5.3 节提出了一种相互连接的环面几何。其中封闭且彼此连通的路径，使计算状态能够返回相关区域，重新进入先前形成的关系结构，并沿不同的局部路线继续演化。这种几何结构使递归式的重访、重组与细化在几何上成为可能。
因此，范畴论通过反复复合解释了递归为何在数学上是自然的，而相互连接的环面几何则为这种递归提供了一种可能的几何实现。从深度流形的视角看，递归并不只是字面意义上的自循环，也不是对同一操作的机械重复；它是神经计算跨越连续的数学覆盖，对关系结构进行重新访问、变换与重组的能力。不动点迭代是这种递归的极限形式：随着变换持续进行，系统生成的不是彼此无关的新状态，而是与目标不动点类越来越相容的神经状态。
递归并不足够
递归使神经网络能够反复变换、细化并重用其内部状态，但在同一架构内部的重复本身，并不会自动创造出无限的可学习性或可发现性。当前大多数基础模型仍然是巨型单体模型：海量的知识、尺度、模态与非线性结构被压入同一个全局耦合的流形之中。正如《关于巨型单体模型的数学思考》所讨论的，规模的增加并不能消除这样一个困难：如何同时保持局部精度、可塑性以及整体几何的一致性。
一个更有前景的未来是流形联邦。在这种结构中，专门化、富有弹性的局部模型能够保持各自的学习空间、路径、边界条件与不动点类，同时又参与到一个动态协调的全局系统之中。正如《关于流形联邦的数学思考》所描述的，这种联邦式结构能够分散学习复杂性，保留局部颗粒度，并比在一个日益僵硬的单一模型内部进行递归，打开更丰富、更多样的发现路径。
最终目标，不应只是构建一个递归处理既有学习内容的模型，而应使模型在数据、任务、环境与边界条件不断变化时，仍能保持开放性与自我演化能力。《关于开放式基础模型的数学思考》将其描述为学习空间的持续扩展，而《关于自我演化神经网络的数学思考》则进一步将这一过程延伸到流形结构的变异、分化、选择、稳定与延续。
实现这一目标，还需要对神经网络中的范畴论展开更深入的研究。正如《关于通过范畴论进行迁移学习的数学思考》与《关于专家数据迁移的数学思考》所提出的，未来的学习系统不仅必须理解如何重复执行变换，还必须理解关系结构与复合结构如何在不同模型和领域之间被映射、保留、比较或拒绝。递归延续一条路径；范畴论则可能帮助判断，哪些结构能够跨越边界，进入一个全新的结构。
发现的障碍
第一重障碍是具有欺骗性的前向准确性。正如《关于科学与工程智能的数学思考》中所讨论的，人工智能系统可能准确复现观测结果或预测输出，却并未发现真正的底层机制。补偿性误差、不可辨识参数与伪相关，都可能把模型引向一个表现良好、但在物理或科学意义上并不正确的不动点类。因此，前向准确性必须接受数学分析、控制方程、数值模拟、实验以及独立领域证据的共同检验。
第二重障碍来自神经智能的犬牙交错性与病态性。犬牙交错的行为可能使发现长期困在一个自循环之中，不断强化某个看似合理的假设，却无法打开真正新的路径。当数据、上下文或边界条件发生微小变化时，它也可能突然使发现路径脱轨，从而导致推断结构发生巨大偏移。正如《关于犬牙交错与病态智能的数学思考》所指出的，脚手架、多步验证、外部工具与独立评估并非可有可无的附加环节，而是稳定这一无法天然保证唯一性与稳定性的逆问题过程所必需的条件。
第三个障碍对我尤其重要，因为我亲身经历过这种差异。三十年前，我曾作为不连续介质数值计算领域的领先专家，参与世界各地的重大工程项目。真正的专业能力并不仅仅来自方程、论文或模拟结果；它来自直接面对岩石、砂土、结构、现场测量、不确定性、失效的假设，以及判断错误所带来的后果。在《人称“专家”》和《专家课程》中，我提出，仅仅给人工智能更多领域数据是不够的，我们还必须思考，如何让它获得更接近真实领域经验的东西。
一个模型可以产生极具说服力的前向结果，同时依赖的却是不完整、不稳定，甚至错误的内部关系。这个更深层的数学困难，我在《神经学习的喜剧》中进行了讨论。
This article is now listed under Scientific and Engineering Intelligence & Alignment and Mathematical Considerations Series in Deep Manifold, Two Years Later: 2024–2026.