人工智能革命:超级智能之路(上)

　　我们正处在变化的边缘，就像地球上人类生命的崛起一样。——弗诺·文奇

　　站在这里感觉如何?

 

　　从上帝视角来看，这似乎是一个非常陡峭的站立场所 - 但是我们必须明白这是站在时间图表上的感觉：从真实的世界中来说我们并不能看到右边是什么样子的。 所以站在那里的感觉是这样的:

 

　　这种感觉才是很正常的感觉......

遥远的未来 - 即将到来

　　想象一下，假如使用时光机将你带回到1750年 - 当那个世界还不存在电力，长距离通信基本上靠吼，或者向空中发射炮弹，而且所有交通工具都靠干草上来运行。当你到达那里的时候找到一个家伙，带他到2015年，然后带他四处转转，看看他对一切的反应。我们不可能理解他在高速公路上看到闪亮的胶囊赛跑；在当天和在海洋另一边的人进行谈话聊天；观看1000英里以外的体育赛事；听听50年前发生过的音乐表演；玩可以用来拍摄现实生活形象或记录生命瞬间的魔法向导矩形；生成一张带有移动蓝点的地图，向他显示他在哪里；看着别人的脸，并与他们聊天，即使他们在这个国家的另一边；以及其他对他来说是不可思议的巫术世界的样子。并且这一切都是你还没有向他展示互联网或解释什么是国际空间站，大型强子对撞机，核武器或广义相对论之前。

　　这种经历对他来说可能太难以接受了,他可能会直接被吓死。

　　但有趣的是-如果当他回到1750年时嫉妒我们看到他的反应并决定他想尝试同样的事情，他可以使用时光机回到相同的距离，大约在1500年，将1个家伙带到1750年，并向他展示一切。1500年的人会被很多事情震惊 - 但他并不会被吓死。这对他来说并不是什么疯狂的经历。因为虽然1500年和1750年非常不同，但与1750年到2015年相比,它们的差异要小得多。这个1500年的家伙将会学习一些关于空间和物理学上令人费解的东西；他可能会对欧洲人对帝国主义的狂热感到印象深刻；他也必须对他心中的世界地图的概念、交通方式、通讯手段等等做一些重大的修改。但在1750年,他只会看着日常生活一天天的过去但是肯定不会被吓死。

　　不，为了让1750年的家伙能像我们一样享受他们被吓死的乐趣，他必须向前返回得更远 - 也许要一直回到公元前12000年左右，在第一次农业革命产生第一批城市和文明的概念之前。可以寻找一个来自纯粹狩猎采集世界的人 - 从这个人类或多或少只是另一种动物物种的时代带走他，当他看到1750年的巨大的人类帝国，他们高耸的教堂，他们横渡海洋的船只，他们"内在的概念"，以及他们堆积如山的人类知识和发现 - 那么他可能也会被吓死。

　　如果在公元前12000年的他死后，回到了他的时代并且他也嫉妒了并也想做同样的事情呢?如果他回到12000年后到公元前24000年并找到一个人,将他带到公元前12000年，那么他向这个人展示一切，那个人就只会说：“好吧，这有什么意思呢？”对于公元前12000年的人来说,要想有同样的乐趣，他必须回到10万年前，找到一个可以展示火和语言的人。

　　为了让一个人被传送到未来,并从他们所经历的震惊程度中死去，他们必须向前走足够长的时间才能达到“死亡水平”或“死亡进展单位”（DPU）。所以狩猎采集时代里需要向前花费了超过10万年才可以，但在农业革命后的时期，它只用了向前大约1.2万年。后工业革命后的世界变得如此之快，以至于一个1750年的人只需要向后几百年就会发生DPU。

　　随着时间的推移，从这种模式可以看出 - 人类进步的速度是越来越快的 - 这就是未来学家Ray Kurzweil所说的人类历史的加速回报法则。发生这种情况是因为更先进的社会有能力比不发达的社会有更快的速度前进 - 因为他们更先进。19世纪的人类比15世纪的人类更了解并拥有更好的技术，因此人类在19世纪取得的进步远远超过15世纪，至于15世纪人类与19世纪人类无法相提并论也就不足为奇了。

　　这也适用于较小的时间回溯规模。电影“ 回到未来 ”于1985年上映，而“过去”则发生在1955年。在电影中，当迈克尔·J·福克斯回到1955年时，他对电视的新鲜感，苏打水的价格、刺耳的电吉都是缺乏兴趣的,但是对俚语的变化感到措手不及。是的,这是一个不同的世界，但如果电影制作于今天而过去发生在1985年，这部电影可以有更多的乐趣,也会有更大的不同。这个角色将回到在个人电脑，互联网或手机出现之前的时代 - 今天的出生于90年代后期的少年Marty McFly在1985年将比电影的Marty McFly在1955年更不适应。

　　这与我们刚才讨论的原因是一样的 - 加速回报法则。1985年至2015年的平均增长率高于1955年至1985年之间的增长率 - 因为前者是一个更先进的世界 - 而最近30年发生的变化比前30年更多。

　　所以，进步是越来越大的，发生的越来越快。这暗示我们的未来有一些相当激烈的事情，对吧？

　　Kurzweil认为，整个20世纪的进步只能在2000年以2000年的增长速度实现 - 换句话说，到2000年，进展速度比平均进展速度快5倍。 他认为，在2000年到2014年之间又发生了另一个 20世纪的进步，并且到2021年，对仅仅是在七年之后，另一个20世纪的进步将会发生。几十年后，他相信20世纪的进步将在同一年内多次发生，甚至更快，可能会在不到一个月的时间里发生。总而言之，由于“加速回归法则”，Kurzweil认为，21世纪将达到20世纪进步的1000倍。

　　如果Kurzweil和其他人赞同他的观点是正确的，那么我们可以认为在2030年我们可能会像我们的那个1750年的倒霉蛋在2015年一样被震的目瞪口呆，也就是下一个DPU可能只需要几十年的时间，并且在2050年，全球可能会因此比今天有很大的不同,今天的我们几乎会不认识那个世界。

　　这并不是科幻小说。这是许多比你我更聪明、更博学的科学家所坚信的 - 不过如果你看历史的话会发现，我们现在是在历史的逻辑上预测的。

　　那么为什么，当你听到我说“从现在起35年后的世界可能完全无法辨认”之后，你在想，“酷......但是应该不会出现在这种情况吧”？这是因为我们有对未来的古怪预测持怀疑态度的三个原因：

　　1)谈到历史,我们是直线思考。当我们想象未来30年的进展时，我们回顾前30年的进展，以此作为衡量可能发生多少变化的指标。当我们考虑21世纪世界将发生变化的程度时，我们只是把20世纪的进展加到2000年。这和1750年的家伙犯的错误是一样的,他从1500年找到了一个人。线性思维是最直观的,我们应该以指数思维来进行思考。如果有人在这方面更加聪明，他们可能会预测未来30年的进展，而不是通过观察前30年，通过计算当前的进展速度来做出判断会更准确，但仍有很长的路要走。为了正确地思考未来，需要想象事物的移动速度比它们现在移动的速度快得多。

 

　　2)近代史的历史轨迹往往讲述一个扭曲的故事。首先，即使是一个陡峭的指数曲线，当你只看到它的一小部分时看起来也是线性的，如果你近距离观察一个巨大圆圈的一小段，它看起来几乎就像一条直线。其次，指数增长并非完全平稳和均匀。Kurzweil解释说，进展就好像发生在“S曲线”中：

 

　　当一种新范式席卷全世界时，S曲线就是由进步浪潮创造的。曲线分为三个阶段：

1. 增长缓慢（指数增长的早期阶段）

2. 快速增长（指数增长的后期，爆发阶段）

3. 随着特定范式的成熟而趋于平稳

　　如果你只关注最近的历史，你目前所处在的S曲线会模糊你对发展事务速度感知的一部分。第一阶段:1995年至2007年这段时间见证了互联网的爆炸式增长，微软，谷歌和Facebook的引入公众的视野，社交网络的诞生，以及手机和智能手机的推出。第二阶段：美国经济的井喷式增长，但2008年至2015年的突破性的自我进展较少，至少在技术方面如此。今天思考未来的人，可能会观察过去几年的发展来衡量目前的进步速度，但这忽略了更大的图景。事实上，一个新的、巨大的第二阶段增长突破可能正在酝酿之中。

　　3）我们自己的经历使我们像顽固的老人看未来。我们根据个人经验建立了关于世界的看法，而这种根深蒂固的经验在我们的脑海中以"事情发生的方式"来反映了之前的增长速度。我们还受到我们的想象力的限制，想象力利用我们的经验来形成对未来的预测 - 但通常，我们所知道的并不能使我们准确思考未来。当我们听到关于未来的预测与我们基于经验的对事物如何运作概念相矛盾时，我们的直觉是预测肯定是不对的。如果我在这篇文章的后面告诉你，你可能活到150岁或250岁，或者根本不死，你的本能将是，“那太蠢了 - 因为每个人都会从历史中知道一件事，那就是每个人都会死。”是的，过去没有人不会死。但是，在飞机发明之前，没有人驾驶过飞机。

　　因此，当你阅读这篇文章时，你可能会觉得正确，但实际上这可能是错误的。事实是，如果我们真的符合逻辑并期待历史会按照这个模式继续发展下去，我们应该得出这样的结论:未来几十年里,会有比我们直觉预期多得多的变化。逻辑还表明，如果一颗行星上最先进的物种不断以越来越快的速度向前发展，那么他们将会在一定程度上实现飞跃，以至于它完全改变了生活，因为他们知道它的感知对人类具有的意义，就像进化一直在朝着智力前进，直到它最终向人类实现了巨大的飞跃，它彻底改变了它对任何生物生活在地球上的意义。如果你花一些时间阅读今天科学和技术方面正在发生的事情，你会开始看到许多迹象悄然暗示我们目前的生活无法承受接下来的飞跃。

超级智能之路

人工智能

　　如果你像我一样，曾经认为人工智能是一个愚蠢的科幻概念，但最近你一直听到有些严肃的人提到，你才明白你其实没有真正的理解什么是人工智能。

　　有很多人对AI这个术语感到困惑是因为有三个原因：

　　1)我们将AI与电影联系起来。星球大战。终结者。2001：太空漫游。即使是摩登家族。但这些都是虚构的，机器人角色也是如此。所以它让我们觉得人工智能听起来有些像虚构的。

　　2)AI是一个广泛的主题。它的范围从你手机的计算器到无人驾驶汽车，再到将来可能会彻底改变世界的东西。人工智能指的是所有这些东西,这很让人感到困惑。

　　3）我们在日常生活中一直使用人工智能，但我们常常没有意识到它是人工智能。约翰麦卡锡于1956年创造了“人工智能”一词，他抱怨说“一旦它起作用，就再也没有人将其称为人工智能。” 由于这种现象，人工智能通常听起来像是一个神话般的未来预测而不是现实。与此同时，AI听起来像过去的流行概念，它从未实现过。Ray Kurzweil说他听到人们说人工智能在20世纪80年代就衰败了，他将其比之为“坚持认为互联网在21世纪初的互联网泡沫破裂中消亡了。”的人一样。

　　所以让我们清楚一点。首先，不要再想机器人了。机器人只是人工智能的容器，有时模仿人形，有时不模仿 - 但AI本身就是机器人内部的计算机。AI是大脑，机器人就是它的身体 - 如果它有一个身体的话。例如，Siri背后的软件和数据是人工智能，我们听到的女人的声音是人工智能的化身，完全不涉及机器人。

　　其次，你可能听说过“奇点”或“技术奇点”这个术语。这个术语在数学中被用来描述类似渐近线的情况，其中常规规则不再适用。它被用于物理学中来描述一个无限小但密度大的黑洞的现象，或者我们在宇宙大爆炸之前都被挤进去的那个点。同样的，是在通常规则不适用的情况下。1993年，Vernor Vinge写了一篇著名的文章他将这个术语应用到未来我们的技术智能超过我们人类的时刻 - 对他来说,我们所知道的生活将永远改变,常规的规则也不再适用。然后Ray Kurzweil通过将奇点定义为这样一个时间点,即回报加速定律达到如此极端的速度,以至于技术进步的速度是无限的，之后我们将生活在一个全新的世界中。我发现很多现在的人工智能学者已经停止使用这个术语了，因为无论如何它都让人感到困惑，所以我不会在这里使用它（尽管我们将在整个过程中关注这个概念）。

　　最后，因为人工智能是一个广泛的概念,所以有许多不同类型或形式的人工智能，但我们需要考虑的关键类别是基于人工智能的能力。有三种主要的人工智能能力类别：

　　AI类别1）弱人工智能（ANI）：有时被称为弱AI，弱人工智能是专门研究一个领域的人工智能。人工智能可以在国际象棋中击败世界象棋冠军，但这是它唯一能做到的。当你要求它找出一种更好的方法将数据存储在硬盘上，它会茫然地看着你。

　　AI类别2）强人工智能（AGI）：有时被称为强AI，或人类水平的人工智能，强人工智能指的是可以执行人类能够执行的任何智力行为。创建AGI 比创建ANI 要困难得多，我们还没有做到这一点。Linda Gottfredson教授将其描述为“一种拥有非常普遍的心智能力，包括推理、计划、解决问题、抽象思考、理解复杂的思想，快速学习和从经验中学习的能力。”AGI将能够尽可能轻松地完成这些事情。

　　AI 类别 3）人工超级智能（ASI）：牛津哲学家和AI思想家Nick Bostrom将超级智能定义为“比几乎在每个领域中最优秀的人类智慧更聪明的智能，包括科学创造力，一般智慧和社交技能。”超级智能的范围是从一台比人类聪明一点的计算机到一台比人类聪明数万亿倍的计算机。ASI是人工智能话题如此危言耸听的原因，也是为什么“不朽”和“灭绝”这两个词都会多次出现在帖子中的原因。

　　到目前为止，人类已经在很多方面征服了最低水平的AI-ANI，并且体现在各方面。人工智能革命是从ANI通过AGI到ASI的道路 - 这条我们可能生存或者可能无法生存的道路，但无论如何，它这将改变这一切。

　　让我们仔细看看这个领域的主要科学家是如何看待这条道路的，以及为什么这场革命可能比你想象的更早发生：

我们目前在哪里 - 一个在ANI上运行的世界

　　弱人工智能是机器智能，在某一个特定的事情上等同于或超过人类的智能或效率。几个例子：

• 汽车行业现状充满了ANI系统，从计算机中可以看出，当防抱死制动器应该启动时，计算机会自动调整燃油喷射系统的参数。谷歌现在正在测试的自动驾驶汽车中将包含强大的ANI系统，可以让它感知周围的世界并做出反应。

• 你的手机是一个小的ANI工厂。当您使用地图应用程序导航时，从网易云音乐接收定制的音乐推荐，查看明天的天气，与Siri交谈，或者进行其他数十项的日常活动，也是在使用ANI。

• 电子邮件垃圾邮件过滤器是一种经典的ANI类型 - 它开始加载有关于如何弄清楚什么是垃圾邮件和什么是正常邮件的智能，然后它会在体验到您的特定偏好时开始学习并为您量身定制它的智能。Nest Thermostat做同样的事情，因为它开始计算你的行为并采取相应的行动。

• 你知道当你在淘宝上搜索一个产品然后你在另一个网站上看到它作为“推荐给你”的产品，或者当微博知道把添加谁是好友更有意义，你会发现这个令人毛骨悚然的事情。朋友，这是一个ANI系统网络，它们会通知对方你是谁以及你喜欢什么，然后利用这些信息来决定向你展示什么。同样适用于亚马逊的“购买此产品的人也购买了......”的东西 - 这也是一个ANI系统，其工作是从数百万客户的行为中收集信息并合成该信息以巧妙地追加销售，以便您购买更多东西。

• 谷歌翻译是另一个经典的ANI系统 - 在一项狭隘的任务中表现出色。语音识别是另一种系统，并且有许多应用程序使用这两个ANI作为标签团队，允许使用一种语言说出一个句子并让手机在另一种语言中说出相同的句子。

• 当你的飞机着陆时,并不是由人决定应该飞机去前往那个登机口,就像不是人决定了你的飞机票的价格是一样的。

• 世界上最好的跳棋、国际象棋、拼字游戏、西洋双陆棋和奥赛罗的电脑玩家现在都是ANI系统。

• 谷歌搜索是一个大型的ANI系统，拥有令人难以置信的复杂方法，可以对页面进行排名，并找出想要向您展示的内容。Facebook的新闻推送也是这样。

• 这些只是在消费者领域。先进的ANI系统还广泛应用于军事，制造和金融等行业和领域（AI算法高频交易员占美国市场交易股票的一半以上），在医疗系统帮助医生做出诊断，最著名的是，IBM的沃森系统，他用足够多的回答击败了传奇冠军,并且获得了Jeopardy冠军。

　　目前的ANI系统现在并不是特别可怕。但在最坏的情况下，一个小故障或编程错误的ANI可能会导致严重的灾难，例如摧毁电网，造成有害的核电站故障，或引发金融市场灾难（例如2010年的ANI计划以错误的方式做出反应时的Flash Crash 出现了意想不到的情况并导致股市短暂暴跌，价值1万亿美元的市场价值，其中只有一部分在错误得到纠正后得以恢复）。

　　但是，虽然ANI没有能力造成威胁，但这个相对无害的ANI组成的日益庞大和复杂的生态系统，是作为改变世界的飓风的先驱。每一个新的ANI创新都悄然为AGI和ASI增添了一块砖头。或者正如Aaron Saenz所看到的那样，我们世界的ANI系统“就像早期地球原始泥土中的氨基酸” - 生命中本来没有生命的东西，在一个意想不到的日子，醒来了。

　　原文链接：<https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

　　未完待续.........