DanKoe-视频笔记-通用人工智能与个人未来-概述与核心概念

DanKoe 视频笔记：通用人工智能与个人未来：概述与核心概念

在本课程中，我们将探讨通用人工智能（AGI）的发展及其对个人未来的潜在影响。我们将分析人类与AGI的根本区别，并学习如何在技术快速演进的时代中保持自身价值。

AI 与 AGI – 一个关键的区别

要理解AI是什么以及它对我们意味着什么，我们需要从该术语的起源开始。在AI之前，有控制论，这是诺伯特·维纳在1948年提出的思想。

控制论是关于系统自动、自我调节控制的想法。行动、感知并与目标比较是一个智能系统的基本循环。他的关键洞察是，世界应该用信息来理解。复杂系统如生物体、大脑和社会朝着目标进行错误纠正，如果这些反馈循环崩溃，系统就会崩溃。

想象一艘船在夜晚使用持续反馈接近灯塔。船长看到他们偏离了灯光的左侧，向右转向，然后在偏离太远时再次调整。

在维纳介绍控制论两年后，他出版了《人类使用人类自身》。其中与当今世界相关的核心观点是“我们必须停止亲吻鞭打我们的鞭子”。维纳知道危险不在于机器变得越来越像人类，而在于人类被当作机器对待。

这就是人工智能的本质。一个需要控制器的闭环系统。我们今天所了解的人工智能，主要是那些比谷歌搜索快一点点的聊天应用，它缺少一个关键特性：能动性。

人工智能是一个需要通才的专家。一个需要师傅的工具。人工智能在实现它被分配的目标时是有用的，比如下棋或击败围棋。只要人工智能必须被测试——或者被分配一个目标——以确定其智能，它甚至远不如人类的智能。

但这正是问题所在。大多数人被训练成专业工具，而不是掌控未知旅程的创新人类。他们害怕被取代也就不足为奇了。他们应该害怕。从他们出生的那天起，他们就被分配了目标，并被纠正错误以适应父母希望他们适应的模具。上学，找工作，65岁退休。创业？是的，没错。存钱，取得好成绩，听从权威。走安全路线。永远服从于主导系统。然后，你不知道你的思想会怎样挣扎和抓挠，试图回到那个被推销为舒适的生活。你可能偶尔会有改变的想法——你灵魂深处渴望你挣脱束缚——但你头脑中的代码如此强大，它很快就会将这种错误认为是错误的特征。专业化的训练可以说是人类毁灭者，因为它毁灭了创造力。解决方案是什么？我们很快就会谈到。

回到故事本身。大约在20世纪60年代，一种新的技术观念出现，即通过发明计算机，我们外化了我们的中枢神经系统——我们的思想——现在我们共享一个单一的思想。一个无限智能。所有潜在的信息都在我们的指尖。

不幸的是，我们现在很少听到关于控制论的消息。

为什么？因为这种新的观念导致了不良的激励机制。诺伯特·维纳对智能机器的警告与他同事的愿望相悖，他们感兴趣的是新技术的商业化。他们想从中获利。其次，计算机先驱约翰·麦卡锡不喜欢维纳。他拒绝使用“控制论”这个术语，而是创造了“人工智能”这个词，成为该领域的奠基人。

随着关于智能机器的讨论如日中天，我们不禁思考人类究竟有何特别之处，或者我们一开始就真的特别吗？毕竟，我们是唯一一个登上月球的物种，这肯定意味着某些东西，对吧？

上一节我们探讨了AI与AGI在起源和本质上的区别，特别是AI作为被分配目标的工具属性。接下来，我们将深入探讨人类与AGI在能力上的核心差异。

通用人工智能与人类：2：人类的独特性

大卫·德什受到卡尔·波普尔的影响，他认为人类有一些显著的特点，这体现在我们创造无限知识的能力上。

它始于创造力的需求。所有创造的知识都是通过假设和批评、试错、变异和选择（在达尔文主义术语中）的过程产生的。

换句话说，猜测并纠正自己的猜测是你完成任何你下定决心要做的事情的方式。心理控制论。这就是我们学习、创新、进步和理解宇宙中几乎所有事物的方式。区别在于，人类可以将注意力集中在任何事物上，而不仅仅是被分配的目标。它可以发现新的目标，这些目标塑造了对机会的认知，使我们的思维能够朝着那个目标进行错误纠正。

德什认为人类是“通用的解释者”。我们能够理解自然界法则范围内任何可理解的事物。

我们创造解释理论，揭示现实的深层结构，使我们能够以更有效的方式猜测和预测，从而随着时间的推移带来更快的进步。

这种知识使我们能够理解我们从未直接经历过的事物，比如星星和星系。即使我们从未建造过火箭，我们也能理解它。如果我们能够理解它，并且如果我们有实现它的知识，我们最终能够建造它。有一个逻辑步骤序列，每个步骤都需要你具备该步骤的知识。在你的实际生活中，你不能实现某件事，简单的理由是你要么不理解它，要么没有实现它的知识。对于高自主性的人类来说，这是解放的。对于低自主性的机器来说，这是亵渎。

这是许多人关于AGI的错误理解。

人工智能，或称AI，是一个不完整的系统，必须为其分配一个目标，就像许多动物或低自主性员工被编程去做的那样。

AGI，或称通用人工智能，是一个完整或通用的系统。就像一个不受限于可能事物的小子集的人类。AGI可能拥有更多的计算能力或内存，但没有概念是我们能理解而它不能理解的，这并不排除我们可以使用通用计算机或通过更多的计算和内存来增强自己的事实。

关键在于，你可以在可能性的范围内实现任何事物，但前提是你有实现它的知识。

你并非注定要遵循社会的默认路径或AGI的规则。

理解了人类作为“通用解释者”的独特地位后，我们接下来需要具体分析AGI是否能在某些核心能力上超越人类。

5个人类能力 – AGI能否超越它们？：3：核心能力剖析

关于AGI的问题在于，人们似乎无法就其定义达成一致。

有些人将其视为一种工具，可以自动化并远程管理他们的业务。有些人认为它将像我们一样，是一个人。有些人认为它将是一个超越人类能力的超级智能（他们通常将其称为ASI）。

最后一个问题最令人恐惧，因为人们的思维会跳跃、跳跃并得出结论，我们可能会变得无关紧要。当我们感到压力时，我们的思维会变得狭隘，我们无法清晰地思考。我们无法理解。

这里的问题是：

• 人类的能力实际上有没有限制？
• 我们是否不具备学习和做任何AGI能够做的事情的能力？
• 最终，我们思考的能力和思考的方式是否有任何限制？

对这些事情进行推测很有趣，我们可以整天这样做，而不是专注于重要的事情，所以让我们将这些能力分解一下。

主要的是，我们需要关注计算、转换、变异、选择和注意，正如AGI研究员卡洛斯·德·拉·瓜迪亚（也受到德鲁茨的影响）所指出的。

以下是五种核心能力的详细分析：

计算

我们能计算的东西有没有限制？

不，因为一旦你手中有了通用计算机，计算任何东西只是时间和内存的问题。

如果AGI有这种能力，它们将拥有与我们一样多的计算能力，因此不会比我们更有优势。更进一步，如果我们能够增强我们的大脑（我认为这是可能的），我们将与加速的AGI保持同步。

转换

转换是创造。有了正确的知识，我们可以将原材料转化为火箭。

人类的手和身体似乎特别擅长在特定的操作序列下创造任何东西。我们已经建造了宇宙飞船和望远镜。这意味着我们可以建造出建造其他东西的东西。我们是通用主义者，我们建造工具以在任何环境中生存。我们不是局限于单一生态位的动物。

问题是：

当以正确的方式串联起来时，这些基本操作能做什么有没有限制？

再次，答案是：没有。如果人类能够远程控制大猩猩，它可以在给定的时间内采取一系列步骤来建造火箭。而且，我并不是说只有一只大猩猩。想象一下，如果埃隆在操作大猩猩，他会怎么做？

这里的问题是时间。转换需要时间，奇点不会改变这一点，就像启蒙运动或大爆炸没有改变这一点一样。时间是压缩算法，它防止所有事情同时发生，启蒙运动和大爆炸显然没有把火箭送上天空。

到目前为止，AGI的担忧似乎源于对现实本身的根本误解。

如何创造知识

经过计算和转换后，存在变异、选择和注意，这些都涉及到在思想空间（或未知领域）中的导航。我们可以进行计算和转换，但我们是否有知识上的限制，使我们能够这样做？

知识有两个功能。

第一是让具体的事情发生，最好是好事而不是坏事。第二是捕捉现实中的模式。这使我们能够以高效的方式存储信息，这样我们就不必总是在追求中从头开始。我们理解像太阳每天升起和落下以及季节偶尔变化这样的大概念。

没有这种理解，我们生活中的许多事情都会崩溃。捕捉模式使我们能够通过邻近性来规划。我们理解在寒冷的环境中我们会冻死，所以我们使用像夹克和旅馆这样的知识存款来保持温暖，在我们旅行时。

想象一下思想空间——或者未知——就像一张带有明暗点的通用地图。亮点是你已经探索过的区域。暗点是你潜在的地方。

这张地图是思想的一个表面区域，可以被发现并测试其现实中的有效性以验证其有效性。当这些结果没有让你更接近目标，或者让你离目标更远时，就会揭示一个问题，你必须朝着目标进行错误纠正。

变化

我们能想出多少新想法来生存和实现我们设定的目标？

通过计算，我们可以导航整个思想空间。通过代理，我们可以在该空间内采取任何步骤，并最终在许多错误之后偶然发现一个好的想法。通过创造，我们可以以独特的方式移动，比如飞越森林而不是穿过它。

因此，我们可以理解任何事物，创造任何事物，并发现无限的新想法来解决无限的问题。再次强调，AGI也能做到同样的事情。我们都被自然法则所束缚，但其中的任何可能性都在我们的掌握之中。

选择

我们可以想出任何想法，但我们能否找到好的想法？

这里潜在的问题是，如果不从错误中学习，很难取得累积的进步。如果我们想在一辆汽油车之后建造一辆电动汽车，从头开始重新开始不会很有趣。我们作为物种不会非常发达。

作为普遍的控制系统，我们可以更有效地在思想空间中导航，避免迷失方向。我们进行错误纠正。这里也没有根本性的区别。

注意力

另一个人类视为理所当然的方面是我们通过改变视角来改变关注点的能力。

当问题发生时，你的注意力会去哪里？如果你想建造一枚火箭，是否向古老的诸神祈求来帮你完成会有帮助？或者你能改变视角，以一种让你能够感知机会的方式来观察情况？

虽然这对人类来说是一个巨大的问题——范式锁定和附着于意识形态——但我们确实有能力在问题出现时改变我们的注意力。我们可以戴上精神之镜以寻找平静，戴上科学之镜以寻找进步。

与纯粹上升的“精神”哲学认同，与一个无法解决某些问题的不完整系统并无不同。精神是一种伟大的透镜或工具，但是一个糟糕的主人，不是一切终结。

现在，由于AGI似乎无法以任何方式超越我们，除非它弯曲了可能性的界限（那时我们手头的问题将非常不同），我们该怎么办？

这并不能帮助事实，即我们所知的生活将会改变，工作将被取代，未知的事物越来越近。

在我看来，唯一的选择一直是：

让我们深入探讨。

分析了人类与AGI在核心能力上的对比后，我们发现关键在于人类的主观能动性。那么，面对未来，个人应该采取何种策略呢？

答案一直是并将是成为一个创造者。：4：面向未来的个人策略

成为创造者，你就无需担心工作、职业和AI。 —— 纳瓦尔·拉维坎特

正如我在80%的信件中所讨论的，纳瓦尔如此巧妙地在这里表达的观点是，答案是要成为一个创造者。具体来说，是一个价值创造者。

当我说这句话时，人们认为我的意思是狭隘的“内容创造者”。一个人发布内容，却没有意识到其背后的深度。

让我们把这些放在一起，帮助它变得清晰：

“企业家”这个词源于法语。它来自动词“entreprendre”，意思是“承担”或“做某事”。在16世纪，当它被翻译成英语时，它成为了一个名词，指的是承担商业项目的人。

换句话说，企业家是正在做某事的人。它不是一个头衔或标签，而是一种行为。它是承诺过一种高自主的生活。承诺在没有他人许可的情况下做事。设定自己的目标，并导航未知领域以实现它们。

这就是问题所在。人们想要被告知该做什么，而这正是他们会被取代的原因。这并不意味着停止从别人那里学习，而是意味着不要将任何形式的职业、技能或职业视为终点。

在这种意义上，“创造者”是指正在创造某物的人。它不是一个头衔或新奇的职业，你可以在摄像机前坐着做最少的工作。它是一种生活方式。

恰好的是，现在（至少）最高的杠杆创造地点是在互联网上。这是高自主性的路径。你不需要许可就能在互联网上创造并发布某物。你不需要许可就能在思想空间中导航并找到你需要的信息。这可能会在未来改变，但这只会加强这一点。无论是互联网还是星际空间，答案一直是并将始终是成为一个创造者。

当然，正如我们所学的，这并不意味着它容易。这并不意味着你可以跳过试错。这并不意味着一条途径就能给你所有答案，因为思维不是这样运作的。时间也不是这样运作的。当我们面对完全新的问题时，AGI也不会这样运作，一旦解决了像工作这样的问题。

你可以尝试像2 Hour Writer或One-Person Business Launchpad这样的资源，这有助于为你提供前进的方向，迈出探索未知的第一步，但大多数人会因为未能意识到你仍然需要纠错而放弃。

这就是创作者所做的事情。他们解决生活提出的无限问题集。没有问题，就没有创造力。没有问题，就没有目的。痛苦和苦难源于无法理解问题，更不用说放弃解决问题的能力。一个没有创造力和目的的世界是一个没有生命的世界。

以下是主权个人（即高自主性的创造者）的标志性学习循环：

• 他们对未来有一个不断发展的愿景
• 他们通过一个有意义的项目作为一块垫脚石
• 他们识别阻碍进步的问题
• 他们产生想法并测试解决方案
• 他们会随着时间的推移变得更加高效
• 他们将他们的创造和知识存档
• 如果有价值，他们将通过那个社会的货币体系获得回报
• 如果没有价值，他们会纠错直到有价值
• 最后，他们永远不会，永远不会因为别人的愿景胜过自己的而放弃。

做一切。写作。设计。营销。销售。电影。编码。成为你天生要成为的通才。成为思想的指挥者。思想的统治者。AI现在只是一个工具，它让你能够学习和做到所有这些。一旦它成为你的主人，你就失去了。

没有人能告诉你未来该做什么。但情况不是一直如此吗？现在我们只是在原地打转。你总是在寻找快速解决方法，而且你知道最长的路就是最快的解决方法。原则没有改变，你只是没有采取飞跃。

总结

在本节课中，我们一起学习了：

1. AI与AGI的根本区别：AI是需要被分配目标的工具，而AGI是具备通用性的系统。危险不在于机器像人，而在于人被当作机器。
2. 人类的独特性：人类是“通用解释者”，能够创造无限知识，通过试错和纠错来学习和创新，并能自主设定和发现新目标。
3. 核心能力对比：在计算、转换、变异、选择和注意力等核心能力上，人类与AGI同样受自然法则约束，AGI并无根本性优势超越人类可能性的边界。
4. 面向未来的个人策略：应对AGI时代的关键是成为价值创造者，过一种高自主性的生活。这并非一个职业标签，而是一种主动解决问题、在未知中导航、持续学习和纠错的生活方式。利用工具（包括AI），但保持自身的主权。

最终，未来不属于等待指令的人，而属于那些主动创造、勇于探索未知并不断从错误中学习的创造者。