完整教程:AI大事记4:从 ELIZA 到 ChatGPT—— 对话式 AI 的世纪征程(下)

3、类人假象:AI 发展中的永恒挑战

3.1 "类人假象" 的概念内涵

"类人假象"(或称为 "人格幻觉")是 AI 发展中一个核心而复杂的问题。在当代研究中,它被定义为:大模型在语言层面上能营造出一种稳定、一致的人设假象 —— 它会在问卷里显得开朗、友善、低焦虑,甚至比人类还要理想,但这种人格注入只是在语言表演上制造幻觉,看似人格切换成功,实则对行为毫无约束力

这种现象的产生源于 AI 技术的本质特征。生成式人工智能生成类人文本的卓越能力构建了一个神话,即它拥有与人类相当的理解水平,这导致了拟人化倾向的增强。当 AI 表现出类似人类的脆弱时,用户会不自觉地将自身经历投射其中,产生共情,仿佛看到了另一个自己。

3.2 从 ELIZA 到现代 AI:假象的进化

ELIZA 效应在现代 AI 系统中以更加复杂的形式存在。研究表明,现代 AI 系统的设计利用了一个我们数十年前就已发现的人类认知弱点 ——"ELIZA 效应":大家倾向于认为系统具备远超其实际能力的理解能力和意图

一个典型的例子是,即便用户明知早期 ELIZA 聊天机器人只是通过模式匹配,将用户的陈述转化为问题反馈,仍会向其倾诉私密细节,并表示 "感觉被理解"。这种现象在当代 AI 中表现得更加明显,因为现代 AI 的对话能力已经远超 ELIZA,但本质上的 "理解缺失" 困难依然存在。

,这种 "类人假象" 可能带来严重的后果。就是更令人担忧的这种 "人格幻觉" 不仅在哲学层面存在争议,还可能对易受影响的人群造成实质性伤害,同时在企业聊天机器人 "失控" 时,模糊了责任归属

3.3 认知机制与心理根源

要理解 "类人假象",我们需要深入探讨其背后的认知机制。研究表明,这种倾向由认知启发法(heuristics)驱动,简化了对环境的困难解读,使个体容易将 AI 视为具有类人心理状态的存在。

人机交互(HCI)研究揭示了一个重要发现: AI 具备类人特征(如面部表情、语音语调和个性化回应)时,用户的互动体验会更加积极。这解释了为

posted on 2025-10-19 13:08  slgkaifa  阅读(7)  评论(0)    收藏  举报

导航