从"大模型能否发明广义相对论"谈起

写在前面

　　距离ChatGPT发布已近四年，笔者只需一条prompt，在给定交互环境边界的情况下，既可让Agent独立完成过去需要投入一周的部分工作（如自动化推理引擎性能提升，达到数百行级别的正则切分系统的迭代）。

　　某一天，笔者在知乎上看到了关于“回到了1905年，AI能否发现广义相对论”的讨论。笔者对天文相关的东西有一定的了解，这让我首先想起的是关于水星进动的观测（一个能够被相对论效应解释但牛顿经典物理体系无法解释的的玩意儿），随后让我想起了一些关于长周期天文观测并验证结论的玩意儿（罗默通过观测木卫一掩星周期变化进而推断光速有限并对光线进行测量、Tombaugh利用巡天策略发现冥王星），经过了对长周期科研任务的特征分析后，笔者认为、只要能够给超级智能装上四肢、并赋予动机、给到超级智能与人同等的信息摄入能力&动机创造能力后，应该也可以具备发现上述科学发现的能力。（当然，这可能需要更下一代的模型，比如GPT x？）

　　笔者研究法律AI也已过去了接近四年、在这四年时间里，笔者对问题的抽象建模和问题一般化能力、以及对人思考问题的思维模式的抽象建模能力有了极大的提高，于是笔者也试着对上述AI4Science的问题进行了一些思考和抽象。

　　对上述问题的思考和抽象，以及一些人对于人工智能系统的质疑，让我希望去试着回答这几个问题：

1. 人是怎么去研究一个复杂的科学问题的，研究的动机、行为是怎么样的，是否可以进行抽象？

2. AI是否可以自主地产生动机、是否可以形式化地进行建模、表达和模拟？以实现大量科学探索的产出？

3. Next Token/Action Prediction策略是否可以实现AGI/ASI? 是否符合第一性原理？

4. 如果一种能力由机器实现，它是否就需要额外证明自己“真的”拥有这种能力，并自证该项能力的可解释性？

5. 超级智能、或者是智能的定义应该是什么？应当如何对智力建立一般化测量机制？以及通用智能和专用智能之间的关系是什么？通用超级智能是否代表万能？

　　对上述五个问题，笔者将会在接下来的行文中逐一给出个人的答案。和其他人的思考可能不太一样的点是，笔者的思考方式是，对Artificial Intelligence的讨论，会先把Artificial换成Humanity，思考人在这一问题上是怎么去做的，然后试着使用高度抽象化/形式化的方法对问题进行定义，并针对其中的问题、重要名词和边界进行定义，最终得出结论。

 　　要讨论人工系统能否自主作出科学发现，首先需要明确“发现”包含哪些工作。一个研究者需要从已有知识与观测中识别问题，提出可能的解释，选择能够区分不同解释的观测或实验，并根据结果调整认识与研究方向。研究所需的新证据往往还要通过后续行动获得，研究目标也可能随之变化。因此，本文将先分析这一过程中的能力、动机与行动及其相互关系，再考察人工系统实现这些功能所需的条件。

 

一、人是怎么去研究一个复杂的科学问题的，研究的动机、行为是怎么样的，是否可以进行抽象

两个具体的例子

笔者以“罗默发现光速有限并实现了光速的测量”作为一个讨论的例子：

• 最初动机：希望把木星卫星周期性的食当作“天上的时钟”，通过同一事件在不同地点记录的当地时间差，确定经度差。因此，需要长期观测并编制准确的木卫一食时刻表。
  

• 具体实践：长期记录、对照预测、寻找偏差规律。 用望远镜（针对精细天文观测进行了优化）记录木卫一进入或离开木星阴影的时刻，依据其约 42.5 小时的公转周期预测后续事件。

• 最终动机浮现：他发现，地球远离木星时，观测时刻逐渐落后于预测；靠近时则相反。

  • 此时有两个解释：1. 木星的直径会周期性地变化 2. 光速是有限的
  • 经后续观测，延时验证了2的猜想
• 结论：1. 根据观测时刻偏差推算光穿过地球轨道直径所需时间为22分钟(现代值16min38s)，由惠更斯计算出地球轨道直径约为2.2万个地球直径($1.44 \times 10^{11} toises$ 法国旧单位长度),  进而换算出光速卫每秒1.1亿toises(21.4万千米/s) 
• Source: 惠更斯《光论》：https://p-books.com/book/Treatise-on-Light-Christiaan-Huygens.html

　笔者可以再简略地讲一个汤博发现冥王星的例子，其实这个方法很粗暴，他用巡天望远镜把整个天球都拍下来了，然后每隔一段时间比对天球上的照片差异（理论上恒星作为背景相对位置是不会发生变化的），然后发现了一个在移动的光点就发现了。

　　ps：这个和海王星的发现不太一样，海王星是根据天王星以及其他的星体的引力异常推算出轨道后得到验证的。

 

对人思考和行动过程的建模

　　人的研究过程可以抽象为：根据已有知识、当前目标和资源条件选择行动，再根据行动结果更新认识，调整后续研究。

　　研究的动机可以来自外部任务，也可以来自自身的兴趣与疑问，并在执行过程中产生新的目标（如上文中罗默的例子）

　　具体实践中，研究者可以复用他人成果，也可以通过观测、实验和计算获得新信息，并根据预期收益与成本选择下一步。

　　验证可以分级进行，如先模拟筛选，再投入实际实验（当然，模拟受模型假设约束，观测可能会存在误差），因此需要在更高层面上进行统筹，也需要通过新的证据区分不同解释，必要时修改甚至放弃原有假说。

　　工具不足时，人还会先改进或制造工具，扩大观测范围、提高测量精度或计算效率。任务复杂时，则组织分工系统，共享中间成果并相互检查。研究能够做到什么，取决于个人能力，也取决于能够组织起来的工具与协作条件。

　　当进行一个巨型研究，或者长期研究时（如曼哈顿计划）还需要保存组织形式、数据、假说和失败记录，以便中断后继续工作，或交给其他人接着研究。其中一部分时间用于思考和计算，另一部分则用于等待观测机会与实验结果，甚至有一部分的时间需要用于思考组织形态是否需要进行变化。

　　形式化地，令 K 表示已有知识、资料与暂定解释，M 表示目标及其优先级，C 表示资源、工具与协作条件，则行动选择及认识更新可以表示为：

$$A_{i,t}=\pi_i(K_{i,t},M_{i,t},C_{i,t})$$
$$K_{i,t+1}=U_i(K_{i,t},A_{i,t},O_{i,t+1})$$

　　其中:

• π表示行动选择函数，表示研究者如何根据已有知识、当前目标及资源条件，决定下一步采取什么行动
• A表示研究者所采取的行动，A可以改变C（如制造机器或变更组织形态）

• O 表示两次决策之间接收到的全部输入，既包括观测、计算和交流的结果，也包括吃喝拉撒、休息放松期间接触的信息，以及身体状态的变化(它们未必由研究行动直接引起，也未必都被注意或记住，但都可能影响后续的认识与选择，和下文的注意力部分的内容进行联动，或许可以解释灵感)

• U 包括判断其可信度、修正解释和记录失败
• 新的认识(K) 又可能改变 M，形成下一轮研究目标。

　　这些函数暂时只描述功能关系，具体机制还需要进一步讨论。

　　接下来的问题就是：M 怎样形成和变化？

对动机的抽象

　　前面把 M 作为行动的输入，这里进一步讨论它是怎么产生的。同样的信息，不同的人会关注不同的部分，也会对是否值得研究作出不同判断，因此需要先对每个 researcher 的个体差异进行建模：

$$R_{i,t}=F(B_i,H_{i,\leq t})$$

其中：

• B 表示初始禀赋，包括不同方面的能力倾向。

• H 表示截至当前的成长与交互经历，包括教育、实践、成败和日常生活。

• F 表示这些因素共同塑造个体状态的过程。

• R 表示由此形成的能力特征、偏好与注意倾向。

一个人可能本来就比较擅长空间想象，过去的经历又使其对某类形状或运动异常比较敏感。这些差异会影响他从输入中注意到什么，以及会联系到哪些已有知识。当前的研究目标也会参与这一过程：

$$
Z_{i,t} = \operatorname{Attn}(O_{i,t},K_{i,t},R_{i,t},M_{i,t-1})
$$

其中：

• O 表示当前收到的输入，其范围沿用前文的定义。

• K 表示当前掌握的知识、资料与暂定解释。

• Attn 表示注意选择与相关记忆激活的过程。

• Z 表示由此进入当前思考的线索与关联内容。

• 上一轮的 M 表示此前正在追求的目标及其优先级。

这里的输入并不局限于研究场景。研究者在散步、吃饭或放松时接触到的某个东西，也可能与此前没有解决的问题建立联系。在这个模型中，可以把一部分“灵感”理解为当前输入、已有知识与个体注意倾向共同形成的新关联。

但产生关联以后，是否值得投入，还需要考虑个人偏好、已有目标和现实条件。因此，将目标的生成与调整表示为：

$$
M_{i,t} = G(K_{i,t},R_{i,t},Z_{i,t},M_{i,t-1},C_{i,t})
$$

其中：

• G 表示目标生成、评价与调整的过程。

• C 表示当前的资源、工具与协作条件。

• 当前的 M 表示本轮选定的目标及其优先级。

G 可以保留原来的目标，也可以增加子问题、改变优先级或放弃某条路线，之后再由前面的 π 选择具体行动。外部布置的任务可以通过输入进入这个过程；没有人布置任务时，已有疑问与日常输入也可以提供新的研究方向。至于一个方向为什么能让研究者持续投入，就需要看它在后续反馈中如何被反复评价和保留下来。

 

二、AI是否可以自主地产生动机，并持续产出科学探索成果？

　　上一部分把研究过程拆成了知识、个体状态、目标、行动与反馈。
　　将这一分析方法用于AI，需要分别考虑：系统是否有能力完成研究，以及它怎样选择接下来研究什么。

现有AI系统仍需增强的地方

对于前一个问题，笔者认为可以从以下几个方面讨论：

1. 大规模团队协作：OpenAI证明NS方程的过程中使用了约一万个Agent（这必然伴随着一套复杂的方向调整、资源分配和中间结果整合的策略），如其“人效”能达到人类水平，则我们可以近似地理解为其组织度接近一万个人的水平（这是一个不严谨的换算）。

　　但是，一万人的组织度不一定足以解决目前最复杂的问题（eg： 曼哈顿计划的直接参与人员为13万人，二战时美军峰值参战人数1210万人），在这一方面上可能还有1-3个数量级的scale需求。

 

2. 关于创新性：好消息是：IMO/IOI这种封闭空间内的数学/算法竞赛问题已被顶级AI几乎攻破，坏消息是得更换更能真实反映生产力的bench了，特别是把真实世界中尚未得知是否有解的问题出给AI。

　　和IMO/IOI类比的话，更进一步的评估类似于AlphaEvolve，属于给定问题和环境要求其其反复探索更好的解法的评估方法。目前GPT-6 Astra已在这一方面出现了突破，已有用户描述其改进了多道算法竞赛题目的复杂度上界。

　　更进一步的情况下，AI需具备有自动化设置评估标准的能力（类似于如何证明发生了核裂变），甚至质疑某一些评估标准/定理可能出错的能力。

 

3. 关于tool-scaling：好消息是GPT-6 Astra的报告中出现了BenchCAD评测和Blender展示，我们初步看到了AI和真实世界交互的曙光。

　　如果要更进一步地接入到现实中的话、我们得教会AI使用各种量测仪器、实验设备、制造系统（比如数控机床），为了降低成本，甚至得让AI学会去分级验证/使用上述的工具。为了训练AI具备有这样的能力，需要从一些专业的使用系统中导出对应的过程性数据以参与训练（如CAD/CAE/FMEA的操作过程）。做真实世界的RL某种意义上和自动驾驶的训练有了更高的相似度，但其总规模可能会异常地庞大。

　　我觉得有一点也非常重要，即在某一些情况下，AI应该具备改进甚至是创造工具的能力（现有的系统中已可以观测到AI写一个专门的程序出来跑验证），甚至造出的这个工具在某一方面的能力远高于AI本体（类似于人为了更精确的观测造了个望远镜），并在巨大的Agent team中共享上述的工具。

　　真实世界的tool-use可能会比预想中的要复杂很多，除了Math&Coding这种几乎纯虚拟环境可模拟的场景外，下一步被AI攻克的可能是“半虚拟”的工程环境：即大部分设计、仿真和优化都可以在计算机上完成，但设计需要遵循物理规律，最终还要交给真实世界制造和验证的玩意儿，如：

• 产品设计与物理仿真方面，如工程和建筑领域的CAD/CFD/FEA/EDA设计机械/建筑/芯片/电路结构，以及对材料/电磁/光学进行模拟分析的玩意儿
• 产品制造和质量把控方面，如涉及到具体制造和失效分析的CAM/FMEA/MBES等组件

　　造这些玩意儿，都可以先在软件里反复修改和测试，再输出图纸或制造文件，工艺参数，最后根据实物的制造和测试结果继续迭代（而这些量测仪器某种意义上也可以用机器直接控制）。这样，真实世界的交互可以集中在少数必要环节，大量试错则留在计算机内完成。

 

 

 关于AI做某一行为的动机从何而来的问题

　　我们还需要思考下AI如何能够产生动机（在不输入或输入非常模糊的prompt的情况下）。

　　沿用前面的模型，AI的B可以对应初始模型的能力与训练倾向，H对应后续任务、交互和反馈形成的经历，R则对应由此形成的能力特征、偏好与注意倾向。不同Agent可以接触不同资料、承担不同工作，并保存各自的成功与失败记录，逐渐形成不同的研究习惯（而习惯可以以某一种形式保存在该智能体中，可以是以模型参数的形式也可以是非模型参数的形式）。

　　这里的“人格”可以先理解为稳定的选择差异：有的Agent偏向寻找反例，有的偏向构造模型，有的更重视实验成本。写一段人物背景可以作为初始化方式，但还需要检查这些差异能否在长期任务中保持，并根据实际反馈发生变化。已有的Generative Agents研究展示了记忆、反思与规划共同影响模拟行为的路径，但这与形成可靠的科研能力之间，仍然需要进一步验证。

　　关于灵感，可以让输入O适度包含当前任务之外的信息，通过前面的Attn与已有知识建立联系；也可以调整temperature等采样参数，增加候选方案的多样性。然后针对前述的新的$A_t$进行验证，既可在一定程度上模拟“灵感”。

可以把前面的动机函数G进一步拆成两步：

$$\mathcal{Q}_{i,t}=P(K_{i,t},R_{i,t},Z_{i,t},M_{i,t-1};\varepsilon_{i,t})$$

$$M_{i,t}=S(\mathcal{Q}_{i,t},K_{i,t},R_{i,t},M_{i,t-1},C_{i,t})$$

其中：

• P表示候选研究方向的生成过程。
• Q表示候选问题与研究方向的集合。
• ε表示生成过程中引入的随机性。
• S表示对候选方向进行评价、选择和优先级调整的过程。
• 其余变量沿用前文定义。

　　P负责扩大探索范围，S则结合证据、研究价值与成本决定投入。系统可以先用较低成本检验一个想法，再根据结果决定继续、调整或放弃；随机产生的新方向如果没有通过筛选，就不必成为长期目标。

这里所说的自主，是系统能够在给定条件下发现和选择具体研究问题，并持续调整研究计划。初始目标与评价机制仍然可以由人提供，但不需要人逐项布置后续课题。要判断这种机制是否带来了大量科学产出，可以给系统相同的预算，比较它能否持续提出有价值的问题、完成验证、复用失败经验，以及减少人对研究方向的逐次干预。

 

三、Next Token/Action Prediction是否可以实现AGI/ASI？

　　从第一性原理出发，参与现实交互的智能系统，都受到因果关系与有限资源的约束，即根据当时已有的信息和内部状态进行计算、作出行动，再根据新的输入继续更新。人的研究也是如此，有依赖关系的推理需要串行推进，前一步尚未得到的结果，不能直接成为后一步已经掌握的信息。

　　人和传统的LLM之间给出产出的主要区别，某种意义上可以体现为：“下一步”限定的是输出的先后，并不要求系统只考虑眼前一步。 下一次行动完全可以综合过去的经验、已有的推导与长期目标，因此，逐步生成本身不能成为否定复杂智能的依据。

　　可能有人会认为，以Token为输出单位，会把模型的思考限制在文字空间中，无法覆盖那些难以用语言说明的认知过程。针对此问题，笔者将AI系统的输出从Next Token Prediction抽象为Next Action Prediction，以覆盖文字/非文字的产出/思考信息。输出包括但不限于:文字、调用工具或操作设备，对内部状态进行更新，潜空间推理的中间态信息。我们仅关注这一步如何利用已有信息、改变系统状态，并影响后续行动。至于这种内部操作如何学习和实现，还需要具体的模型结构与训练机制来支持。

　　当前系统在长期规划、持续学习、纠错和真实世界交互上，仍然存在明显不足。但这些不足本身，还不足以证明Next Token Prediction及前述向Action扩展的路线存在不可跨越的能力上限；在顶级AI lab中，目前也尚未看到其存在明显的能力提升瓶颈。结合前文的讨论，增加与真实世界交互的过程性数据，让系统持续经历行动、反馈和修正，并完善工具使用与Agent协作机制，仍有进一步扩展能力的空间。笔者因此认为，这条路线依然有较大的可能走通，其依据也需要在这些改进能否持续带来能力提升的过程中得到加强。

　　这里需要区分：一个过程可以被表达为逐步选择Action，不等于仅靠Next Token Prediction的训练目标，就一定能学会这个过程。前面的抽象说明了逐步生成与复杂智能并不矛盾，至于需要怎样的模型、训练数据与反馈机制，才能在可接受的资源下形成这些能力，可能会是更下一代的模型需要创新的地方。

　　笔者倾向于认为，普通AI、AGI与ASI之间，并不存在仅凭名称就能确定的天然分界，它们更多体现为能力范围和水平的不同。回顾人类智能的演化与文明的发展，制造工具、控制火、农业与工业革命，都可以成为标志性节点，但这些节点标记的是能力、技术或组织方式的突破，并不意味着人类在那一刻才突然获得“通用智能”。学习、推理、迁移、规划等能力可以在不同方向上发展，并不要求存在一个统一的“通用智能开关”。我们可以为了评测而设定门槛，也可能观察到跨越门槛的关键突破，但不能由此推断，从普通AI走向AGI、再走向ASI，就必须更换一套智能的实现原理。

 

四、如果一种能力由机器实现，它是否就需要额外证明自己“真的”拥有这种能力，并自证该项能力的可解释性？

　　笔者认为，对人和机器，应当采用共同的能力判据。这里可以借鉴法学中的证据分析方法：法律会评价故意、目的等主观要素，但这些判断需要结合行为、言词和具体情境等证据作出，并不以直接读取行为人的内心为前提。 对智能的评价也可以如此：我们需要检查系统做了什么、在什么条件下做到、遇到变化后能否继续做到，而不必先确认它是否具有与人相同的内心体验。

　　（PS：在笔者某一篇论文中，分析人工智能生成物是否符合合理使用时，仍采用的是将评判标准和人类进行类比）

　　“机器只是表现得聪明”如果指的是只会背过答案、无法迁移、不能纠错，那么它提出了具体的能力问题，可以通过陌生任务、条件变化和反例等可证伪的方法进行检验。但如果系统已经能够稳定地学习、推理、发现和修正错误，仅凭其是机器，或者无法确认其主观体验，就不足以否认这些能力。本文暂不处理尚缺乏明确检验方法的主观体验问题，在这类问题上深入地讨论下去的话，这个问题将超过技术范畴，进入玄学范畴。

　　可解释性也需要明确解释的对象。一个研究者提出了新的猜想，我们会要求他给出证明或实验依据，但通常不会要求他先解释清楚灵感产生时的全部神经活动。对AI也应区分：“这个结论为什么成立”与“系统内部怎样产生了这个结论”是两个问题。 前者可以检查证据、推导和实验，后者则需要研究实际的计算过程与内部机制。生成机制尚未完全解释清楚，不会自动使一个经过独立检验的结论失效；同样，结论正确，也不能证明我们已经理解了它的生成机制。（这里最经典的例子是种地，一个人未必能解释种子萌发、生长和结果的全部生物学机制，但仍然可以通过反复种植，掌握哪些条件有利于发芽、哪些措施能够提高产量）在科研、法律或工程应用中，要求提供来源、推导、操作记录和验证结果，是为了让结论能够被复核、错误能够被发现。这些要求应根据任务、风险与证据缺口确定，对人和机器都适用，不因智能的载体不同而变更评判的标准。

　　当然，对这个问题的讨论，本文回避了对AI是否已经产生意识的讨论，只把能力评价放在可检验的行为与证据上。虽然内部机制研究同样可以提供证据，但无法直接确认某种“思想体验”，不应成为否认已有能力的理由。笔者也不希望把讨论都导向不具有可证伪性，以及定义尚不明确的问题上。

 

五、关于超级智能的定义，评估和能力边界的讨论

　　在讨论超级智能是什么前，笔者觉得有必要先讨论何为智能，以及是否可以建立一套适用于不同智能系统的量测机制。随后再讨论通用智能、专用智能与专用工具之间的关系。

关于智能

　　笔者将智能定义为：一个系统在问题空间中学习、发现、表征并运用规律，并依据反馈检验和修正其认识与行动的能力。 这里的规律，既包括自然规律，也包括逻辑关系、统计关系和在一定条件下有效的经验；表征则不要求一定能用文字表达，也可以体现为系统内部的表示。在这一体系下，笔者暂时回避了带有算命性质的问题，以及一些不可证伪的问题。

　　为了方便讨论，可以先区分两类典型的问题空间：符号世界与自然世界。数学、法律(算半个)形式逻辑、棋类游戏等，通常已经给出了基本规则，但规则已知不代表其全部推论已知，系统仍然需要发现结构、寻找解法并检验推导。自然世界则需要通过观测和实验，从不完整且含有噪声的信息中建立模型，再根据新的证据检查其预测、修正其适用范围。

　　这两个空间也会交叉或者存在有不完全被当前问题空间覆盖的情况。工程设计需要同时满足形式化的设计约束与实际的物理条件；法律问题的推理中涉及对一些模糊地带进行解释（所以不完全算符号世界）。因此，这一区分主要用于说明我们如何获得和检验知识，并不是说所有问题都能被完全放进其中一类。

　　在这一定义下，笔者倾向于先从广度与深度两个方向描述智能。广度是系统能够有效进入的问题空间的范围，尤其是面对陌生问题时，能否学习新的规则、形成新的能力并迁移已有的方法。因此，预先掌握很多知识，不必然意味着能够进入更多新的领域。

　　深度则是系统在某一问题空间内能够达到的水平。对于数学问题，可以考察其能解决的问题难度、证明的正确性以及方法的一般性；对于自然科学问题，可以考察预测精度、适用范围、对未知情况的解释与预测能力。这里也不能简单认为解释范围越广就一定越好，还需要看它在对应条件下是否准确、可靠，以及需要付出多少成本。

　　这一量测思路的灵感，也来自笔者看到的一则关于如何评价天文学家水平的评论：谁能找到适用范围更广、或预测精度更高的规律，谁就体现出了更强的研究能力。

　　如果进一步做量测，就需要给不同系统提供一组有差异的问题，并记录其已有经验、可用工具，以及新增的数据、时间和计算预算。除了看已有任务的完成水平，还要看学习陌生任务需要多少资源、能否迁移到新的条件、出错以后能否根据反馈修正。广度不能靠把同一类题目拆成很多类别来增加，深度也不能只靠某一次答对来证明。最终得到的更可能是一组能力分布与学习曲线，而不是一个能说明所有问题的“智商分数”。

超级智能是否无所不能

　　有了上述区分，通用智能与专用智能就不必被理解成简单的强弱关系。专用智能的能力集中在较窄的问题空间中，可以在局部达到极高水平；通用智能则能够进入更多不同的问题空间，并通过学习和迁移建立能力。通用性并不要求预先掌握所有任务，也不要求在每一个任务上都超过专用系统。

　　专用工具还需要单独区分。望远镜能够观测人眼看不到的东西，计算器能够算的更快，但这些性能本身并不意味着它们比制造它们的本体具有更高的智能。人的能力可以体现为：判断需要什么工具、制造或选择工具，并理解和检验工具的输出。对于AI也是如此，模型本体未必擅长某项计算，但它可以编写程序、调用求解器，甚至根据任务需要改进工具。

　　前文讨论的tool-scaling与Agent team，也可以放在这里理解：通用智能可以通过制造并组织专用系统，提高自己在不同问题空间中的实际能力。 我们通常不会要求同一辆交通工具同时比赛车跑得快、比飞机飞得高、比潜艇潜得深；同样，也没有必要要求一个模型仅靠自身参数完成所有任务。需要考察的是，它能否识别自身的不足，并找到、组合或创造适合的解决手段。

　　笔者在这里将超级智能理解为：一个完整系统能够在广泛且重要的认知任务上，持续表现出超过人类专家或专家团队的能力，并能在陌生问题中继续学习、发现和运用规律。这是对能力范围与水平的描述，并不意味着系统跨过某个门槛后，就突然拥有了所有能力。

　　即使是超级智能，也仍然受到信息、资源和物理条件的约束。缺少观测时，它可能无法区分几个同样符合已有证据的解释；需要等待实验结果时，更多计算也未必能代替这段等待。它可以比人更善于设计实验、组织工具和利用资源，但这不等于任何问题都有解，也不等于它能以任意低的成本得到答案。超级智能可以远超过人，同时仍有其能力边界。

 

回到最初的问题

　　把AI放回1905年，它能否发现广义相对论？　

　　DeepMind研究者在《LLMs can’t jump》中，以广义相对论的形成为案例，提出当前LLM的一个关键缺口：能够从已有前提出发完成推导，并不意味着能够从经验中提出新的基本假设，而后者正是他所讨论的“jump”。

　　笔者认为，这一区分值得重视，但这种跳跃并不必然是人类独有的能力，也不能仅凭当前系统的不足，就认定机器无法实现；前文讨论的经验积累、注意与关联、候选假设的生成和筛选，都可以成为进一步探索其实现机制的方向。

　　对于广义相对论这类问题，新的理论也不一定需要等待大量新观测才能提出，系统可以尝试重构已有知识，通过推导解释已知现象，再提出可供后续观测检验的预测。

　　笔者因此相信，机器能够在不预先知道答案的条件下完成这类发现，而形成这种能力，笔者的个人判断是，或许就在未来五年之内。