人工智能和机器学习发展史的核心脉络
AI的发展史并非一条直线,而是几大主流思想(或称学派、范式)相互竞争、融合、交替引领风骚的历史。
了解这些“主义”的源流,能从根本上理解为什么今天的深度学习会是这个样子,以及它未来可能的发展方向。
AI与机器学习的三大主流派与两大辅流
AI的发展史可以被概括为三大主流思想的“战争”与两大辅助流派的渗透。
源于华盛顿大学教授佩德罗·多明戈斯(Pedro Domingos)在其著作《终极算法》中的精彩总结。
1. 符号主义 (Symbolism) - “逻辑学家”
- 核心思想:智能源于对符号的操作和逻辑推理。人类的思考过程可以被形式化为一套规则和符号,只要将这套系统在计算机上实现,就能创造出智能。
- 黄金时代:1950年代 - 1980年代。这是AI的第一个黄金时代,“专家系统”的时代。
- 比喻:大脑就像一台逻辑推理机。知识是可以被明确表达和编码的IF-THEN规则。
- 代表技术:专家系统(Expert Systems)、逻辑编程语言(如Prolog)、知识图谱(Knowledge Graph)的早期雏形。
- 历史与现状:符号主义在早期取得了巨大成功,让人们对AI充满信心。但它也遇到了瓶颈:现实世界的规则太复杂、模糊,且充满了例外,很难用明确的符号完全定义,且系统无法从经验中学习新知识。这直接导致了80年代的“AI寒冬”。如今,符号主义并未消亡,而是在知识图谱、语义网、可解释AI等领域以新的形式焕发生机,并成为与深度学习融合的重要方向。
2. 连接主义 (Connectionism) - “仿生学家”
- 核心思想:智能源于大量简单处理单元(神经元)之间的相互连接和协作。知识并非存储在某个特定的规则中,而是分布在整个网络的连接权重里,通过从数据中学习来自动调整这些权重。
- 黄金时代:1980年代-1990年代(第二次浪潮),2010年代至今(深度学习的复兴与统治)。
- 比喻:大脑就是一个巨大的神经网络。我们不需要告诉它规则,只需要给它看足够多的案例,它自己就能“悟”出来。
- 代表技术:感知机(Perceptron)、反向传播算法(Backpropagation)、卷积神经网络(CNN)、循环神经网络(RNN)、Transformer,以及当今所有的深度学习模型。
- 历史与现状:连接主义是当今机器学习和深度学习的绝对主流。得益于大数据、大算力和关键算法(如反向传播)的突破,它在计算机视觉、自然语言处理等领域取得了革命性进展。现在接触到的几乎所有最前沿的AI技术,都根植于连接主义。它的“黑箱”特性(可解释性差)是其主要挑战之一。
3. 行为主义 (Behaviorism) - “试错者”
- 核心思想:智能不是源于内在的思考或表征,而是源于与环境的互动和试错。智能体(Agent)通过感知环境、采取行动、获得奖励或惩罚,来学习最优的行为策略。
- 黄金时代:1990年代至今,尤其是在游戏和机器人领域。
- 比喻:智能就像训练宠物。做对了给奖励,做错了给惩罚,久而久之它就知道该怎么做了。
- 代表技术:强化学习(Reinforcement Learning, RL),如Q-Learning、策略梯度(Policy Gradients),以及AlphaGo、自动驾驶、机器人控制等应用。
- 历史与现状:行为主义思想为强化学习提供了理论根基。早期它主要用于解决控制论问题。如今,它与深度学习(连接主义)深度融合,形成了深度强化学习(Deep Reinforcement Learning, DRL),成为攻克复杂决策问题的利器。
4. 贝叶斯主义 (Bayesianism) - “概率学家”
- 核心思想:智能的核心是处理不确定性。学习的本质是根据新的证据(数据)来更新我们对一个假设的信念(概率)。
- 代表技术:贝叶斯定理(Bayes' Theorem)、朴素贝叶斯分类器、贝叶斯网络、高斯过程、变分推断(Variational Inference)。
- 现状:贝叶斯思想无处不在。它是现代机器学习的数学基石之一,为我们理解模型的不确定性、正则化(防止过拟合)等提供了强大的理论工具。在生成模型(如VAE)、推荐系统等领域有广泛应用。
5. 类比主义 (Analogism) - “相似性学习者”
- 核心思想:智能是通过类比和相似性来学习的。要对一个新问题进行分类或预测,只需看它和哪些已经见过的案例最相似。
- 代表技术:支持向量机(Support Vector Machines, SVM)、K-近邻算法(k-NN)、核方法(Kernel Methods)。
- 现状:在深度学习浪潮之前,以SVM为代表的类比主义是监督学习领域最强大的方法之一。它们数学优美、可解释性强。如今虽然在非结构化数据(如图像、文本)上被深度学习超越,但在许多中小型数据集和特定任务上依然非常有效。其“核技巧”的思想也对后来的模型设计产生了深远影响。
必读著作(由浅入深)
《终极算法 (The Master Algorithm)》 - 作者:Pedro Domingos
推荐理由:这本书完美地用“五个学派”的视角,通俗易懂地梳理了机器学习的历史和核心思想,并展望了统一所有学派的“终极算法”。非技术背景也能轻松读懂,强烈推荐作为第一本入门读物。
《人工智能:一种现代方法 (Artificial Intelligence: A Modern Approach)》 - 作者:Stuart Russell, Peter Norvig
推荐理由:这是全球最权威、最经典、使用最广泛的AI教科书,被誉为“AI领域的圣经”。它全面地介绍了AI的各个方面,包括符号主义、贝叶斯方法、机器学习等,能为您构建最完整、最权威的知识体系。
《深度学习 (Deep Learning)》 - 作者:Ian Goodfellow, Yoshua Bengio, Aaron Courville
推荐理由:由“深度学习三巨头”中的两位(Bengio, Goodfellow)亲自撰写,俗称“花书”。这是深度学习领域最权威的教科书,系统地介绍了从数学基础到前沿模型的所有核心知识。如果想深入连接主义的核心,此书必读。
斯坦福大学课程 (Stanford University)
CS231n: Convolutional Neural Networks for Visual Recognition: 专注于视觉领域的深度学习。
CS224n: Natural Language Processing with Deep Learning: 专注于自然语言处理领域的深度学习。
推荐理由:这些是斯坦福大学的公开课,代表了学术界的最高水平,所有课程资料(讲义、视频、作业)都在网上公开,非常前沿和深入。
论文与人物
图灵奖得主:了解人工智能的进展,最直接的方式就是关注该领域的最高奖——图灵奖。特别是2018年获奖的“深度学习三巨头”:Geoffrey Hinton, Yann LeCun, Yoshua Bengio,他们的论文和演讲是连接主义思想最前沿的体现。
经典论文库:arXiv.org 是获取最新AI研究论文的首选平台。可以关注顶级会议,如 NeurIPS, ICML, ICLR,这些会议的论文集记录了机器学习的最新进展。

浙公网安备 33010602011771号