停止担心-AGI-当前的危险是减少通用智能-RGI-
停止担心 AGI：当前的危险是减少通用智能（RGI）
越来越多的讨论指出，通用人工智能（AGI），一种能够在广泛的认知任务中匹配或超越人类能力的人工智能，即将到来。反应各不相同：从对这些主张持怀疑态度，乐观地认为这可能会解决许多挑战性问题，到担心这可能会夺走工作甚至统治人类。
虽然 AGI 是一个值得思考的真正问题，但我认为，对于普通大众来说，思考我们目前看到作为 AI 后果的更紧迫但令人担忧的趋势更为重要。
在过去一年左右的时间里，关于过度依赖或滥用 AI 的结果出现了许多令人不安的报告。这在正在上学的孩子和年轻专业人士中尤为明显，他们最有可能广泛使用 AI。有大量报道称学生使用AI 来解决作业或考试，在面试中作弊，或者专业人士用它来生成未经验证的代码或报告。在几个案例中，教师立即识别出了作业中的作弊行为，而工作场所提交的粗心大意或充满错误的代码或文档，未经质量控制，导致了职业灾难。
许多新闻文章和视频都强调了学生由于过度依赖 AI 而导致阅读、写作、理解和批判性思维技能的下降。
几位专业程序员的轶事报告指出，在使用 AI 后，编程技能出现了下降，一篇最近的研究论文显示用户在创造力和认知能力上有所下降，一篇最近的麻省理工学院文章则突出了使用 AI 进行编码的潜在成本。
我们还看到社交媒体上 AI 生成的内容越来越多，被称为“AI slop”。“AI slop”加上社交媒体的成瘾性导致人们在这些平台上花费的时间比以往任何时候都多，这也导致了认知能力下降。
因此，当前紧迫的问题不是通用人工智能的后果，而是我将称之为 Reduced General Intelligence（RGI）的问题。
为什么这是一个问题
要在今天的世界中保持相关性，你需要具备批判性思维技能，并能在截止日期前解决问题。要变得有价值，你需要产出有价值的工作。如果你过度依赖 AI，那么你输出的质量就取决于 AI 的好坏。让我们坦诚地说，AI 并不总是可靠的，如果你可以被取代，那么你将会被取代。这种核心技能的退化正是 RGI（Reduced General Intelligence）之所以危险的原因。
批判性思维技能和解决问题的能力就像肌肉一样。你不能一蹴而就地发展这些技能，这需要训练。可以这样想——如果你想保持健康，你需要锻炼身体。使用 AI 来完成你的作业并期望自己能够提高，就像每天开车一小时来提高你的耐力一样。正如体育锻炼对于增强力量和耐力很重要一样，解决那些问题和亲自尝试那些写作和编码作业对于提高你的智力至关重要。
过度依赖 AI 还可能导致道德问题。你被期望深入思考问题并提交分配给你的作业。然而，你却将它推给了 AI。大多数 AI 工具生成的写作很容易与人类写作区分开来，一旦读者知道这不是你的原创作品，你就在他们眼中失去了信誉。读者不太可能认真对待你，因为他们现在知道至少你的一部分工作不是你自己的。
重复使用人工智能也会导致人们高估自己的能力，我们越来越多地看到这种情况出现在许多领域。用户对基础知识理解不足，但错误地认为自己知道“高级内容”。这是达温-克鲁格效应的结果，即在一个特定领域能力较低的人（当你开始学习一个特定领域时这是真的）高估了自己对该领域的了解。在一个领域发展专业知识需要你投入大量实践，并独立思考问题。你不能让人工智能为你思考，并假设你现在已经掌握了。
过度依赖人工智能也会让你变得懒惰，通常会导致需要大量努力才能纠正的草率工作。人工智能工具会产生幻觉：创建不存在的参考资料，调用未定义的函数或变量（在编程中），放入无意义的代码，做出在物理上或逻辑上都不合情理的陈述，等等。然后你必须投入大量努力来识别和纠正这些错误。
与编写代码相比，程序员通常花费更多的时间进行调试和改进代码。然而，我们正在看到“感觉编码”的急剧增长：使用人工智能生成大量代码块。这些代码更难以调试或改进，因为你不确定人工智能为什么选择编写这些行。这是人类自然的倾向，即假设代码是正确的，或者在你发现它没有按预期工作而感到沮丧时简单地放弃。这导致代码更加不稳定，我们实际上并不真正理解。
我们可以对此做些什么
在当今时代，我们不能忽视人工智能。我们预计要了解如何使用这些工具，并且必须学会明智地使用它们。
因此，当我们使用人工智能时，我们必须做出有意识和深思熟虑的选择。如果你是一名学生，那么不要使用人工智能来解决你的家庭作业或考试，因为你在牺牲长期发展批判性思维技能的长期利益以换取短期获得好成绩的短期利益。从长远来看，与你在技能上所发展的相比，成绩的小幅提升并不那么重要。
人工智能在阐明你不理解的概念或为你深深感兴趣的事物获取更多参考资料方面非常有用。然而，在向人工智能寻求答案之前，务必深入思考该概念，并使用可靠/知名的来源交叉验证答案。
有许多情况可以使用人工智能来自动化某些繁琐的任务，或者简单地节省时间。如果你用它来补充你的技能，这尤其有帮助。
最重要的就是要在使用任何人工智能工具之前批判性地考虑其输出。通常假设输出可能是错误的，理解它所说的内容，并仔细检查错误。这确保了你在以后不会遇到麻烦，并养成了批判性地评估事物的习惯。
如果有特定的领域你需要/想要提高，那么请谨慎使用 AI。不要仅仅为了避免枯燥或重复的任务而使用 AI。只有通过重复，你才能掌握技能。
你在学校学习的那些代数和几何问题可能感觉无聊，你可能想知道你是否在现实生活中使用过它们，但通过解决这些问题，你学会了逻辑地思考问题，并发展了抽象推理技能。虽然人们可以争论我们在学校课程中看到的实际内容和质量的比例，但毫无疑问，解决各种数学问题和写大量的论文在精神上相当于定期的健身房锻炼。
虽然用 AI 解决所有问题是坏主意，但它可以是一个有用的工具来评估你的工作并获得反馈。例如，假设你必须写一篇千字的论文或一个解决问题的程序。一个 AI 工具可以很容易地为你完成这些。然而，如果你想提高写作、批判性思维或编程的能力，那么你必须自己来做。一旦你独立地写完论文或代码，你就可以向 AI 寻求反馈，并利用这次反馈在下次改进。
AI 在范围和能力上的扩展速度是我们无法想象的。如果我们用它来提升自己，它可能是一个巨大的福音；如果我们过分依赖它，并让自己变得可替代，它也可能成为夺走我们工作的祸害。
浙公网安备 33010602011771号