我有一点隐隐的不安:AI时代,知识会不会被少数人“圈养”起来?
我有一点隐隐的不安:AI时代,知识会不会被少数人“圈养”起来?
引言
在这个大模型发展日新月异的时代,国内外的模型层出不穷——国外有GPT、Claude、Gemini,国内有GLM、Qwen、Minimax等等。它们帮我们处理很多事情,让我们能更高效地应对生活。
但大模型越来越强大,人们也越来越依赖它。很多人在知识和情感上都开始向大模型寻求答案:前段时间有年轻人把豆包当成倾诉对象,产生了情感依赖;还有一位宝妈听信豆包的建议,每顿只给婴儿喂60ml的母乳。这些事让我隐隐觉得,算法已经在替我们做选择了,而我们成了被动的接受者。有时候因为焦虑和不确定,我们甚至把大模型生成的内容奉为圭臬,而一旦习惯如此,或许就不知不觉地被引导、被掌控了。
再往前看,其实知识传播这件事,一直就带着点“谁掌握源头、谁就掌握话语权”的影子。
最早的时候,人们靠口口相传来获取知识和信息,最依赖的就是那个初始传播者——通常是少数有文化的人。而这个人,就自然而然地控制了当时的知识和信息流通。
到了近代,纸媒和大众传媒的出现极大丰富了人们获取知识的方式,不再需要依赖某一个人,知识和信息离普通人越来越近。但紧接着,资本开始进场,掌握了传媒的咽喉。比如一些西方媒体通过舆论来抹黑中国,制造出一个又一个信息茧房,很多人以为自己看到的是全世界,其实仍然被困在别人搭好的“茧”里。
移动互联网时代,平台为了留住用户,发明了越来越精准的大数据推荐算法。它们推送你想看到的,不断喂养你的喜好,不知不觉就把人困在知识的牢笼里。这个牢笼没有围墙,但你根本不想走出去。
现在到了大模型AI时代,这些现象会被缓解,还是会被加剧?会不会因为AI看起来无所不知、无所不能,反而让人们更难察觉——知识正在被少数人悄悄地“安排”着?
回看历史,其实这些一直在发生着
要理解今天正在发生的事情,我觉得有必要先回头看看历史。因为知识被少数人攥在手里这件事,并不是今天才有的新问题。
汉朝虽然已经发明了纸张,但对于普通人来说,书依然是奢侈品。造纸术的改进是一个漫长的过程,在相当长的时间里,书籍的复制全靠手抄,成本极高,流传范围极其有限。加上当时能系统传授经典的老师少之又少,知识和学问很自然地就向少数富裕家族集中。这些家族一代代人钻研儒家经典,形成了所谓的“累世经学”——经典的解释权在家族内部父子相传、师徒相授,外人根本插不进来。
书在他们家,老师在他们家,怎么解读也由他们家说了算。谁掌握了知识,谁就掌握了话语权;谁掌握了话语权,谁就掌握了上升通道的钥匙。这个逻辑,从两千年前就已经在运转了。兴起于东汉中后期的门阀士族,就是这套逻辑最典型的产物。
那么,到底什么是士族门阀?
门阀,拆开来看。“门”是家门、门第,“阀”是功绩、功劳簿。两个字合在一起,指的就是那些世代为官、在政治和文化上都占据垄断地位的高门大族。士族,则是门阀的主体成员,他们区别于庶族——也就是寒门出身的人。士族以读书为业,以做官为归宿,以掌握文化的解释权为身份标志。在那个年代,读什么书、怎么理解书、读了书能不能做官,这几件事的钥匙都握在他们手里。
门阀制度从东汉开始萌芽,到魏晋时期正式成型,东晋时达到巅峰,南北朝继续延续,直到隋唐科举制兴起后才逐渐衰落。前后绵延了大约六七百年。
在这几百年里,门阀士族做得最彻底的一件事,就是把人才选拔制度——也就是普通人往上走的通道——牢牢攥在了自己手里。
先有察举制。名义上是由地方官向中央推荐人才,但谁算“人才”?品评的标准在谁手里?答案不言自明。汉末的民谣说“举秀才,不知书;察孝廉,父别居”,讽刺的就是这套制度已经烂到了根子里——推举出来的秀才不识字,推荐的孝子把父亲赶出家门,所谓选贤任能,早就变成了选关系、选门第。
后来到了魏晋,更是推出了九品中正制。表面上是由“中正”官给人才评定品级,按品授官,听起来很公平。但实际操作中,评定标准从来不是才学和德行,而是出身和门第。最终的局面,就是当时人自己总结的那句话——“上品无寒门,下品无士族”。高品级的全是豪门子弟,普通人家的孩子再优秀也只能待在底层。这条上升通道,被制度本身焊死了。
在这样的土壤里,诞生了一批延续数百年、权势熏天的顶级门阀。“王与马,共天下”的琅琊王氏,辅佐东晋立国,权势一度压过皇权;“谢家宝树”的陈郡谢氏,在淝水之战中以少胜多,挽救了半壁江山;还有“四世三公”的弘农杨氏和汝南袁氏,连续四代都有人做到最高级别的官职。生在王谢之家,人生早就被安排妥当;生在寒门庶族,再有才华也只能望门兴叹。
这段历史看下来,有一个模式反复出现:少数人先控制了知识的来源和解释权,然后通过制度把这种优势固定下来,最后连普通人往上走的阶梯也被他们搬走了。而当时身处其中的人,未必觉得有什么不对——一切都被包装得理所当然。
有意思的是,这种模式并没有随着门阀的消失而彻底消失。它只是换了面孔,换了工具,在后来的时代里以新的方式重新登场。
近现代:知识的围墙换了砖
进入近现代以后,知识传播的方式发生了翻天覆地的变化。印刷术的普及、报纸杂志的兴起、现代大学的建立、互联网的诞生——每一次技术飞跃,都曾让人们对“知识普及”抱有过美好的期待。每一次,也都有人欢呼:知识终于要属于所有人了。
但观察下来,事情好像没有这么简单。那堵限制知识的围墙,并没有被推倒,只是换了一种砖来砌。
学阀:象牙塔里的新门槛
现代大学和学术体系的建立,本来是为了让知识更加开放。但在实际运转的过程中,学术圈逐渐形成了自己的“守门人”——学阀。
学阀这个词,听起来有些刺耳,但现实中确实存在这样的现象:某些学术圈层的核心人物或家族,通过掌控学术资源的分配权,来决定谁能进入这个圈子、谁能获得研究经费、谁的论文能够发表、谁的观点被认可为主流。基金的评审、期刊的编委会、职称的评定委员会、博士生的导师选择,这些环节天然存在着“圈子文化”。
我不是说所有学者都这样,但制度本身的缺陷,确实在制造新的壁垒。一个有趣的观察是:什么样的问题值得研究?什么样的结论可以被接受?这些往往不是由“真相”决定的,而是由学术圈内部的共识决定的。而共识,有时候不过是一群想法相似的人互相确认。
这也意味着,普通人最终接触到的“知识”,其实是经过了学术守门人层层筛选和过滤之后的版本。它未必是错的,但它一定是被挑选过的。而被筛掉的那些,普通人可能永远不会知道它们存在过。
资本进场:谁出钱,谁定调
如果说学阀守着的是知识的“生产车间”,那么资本控制的就是知识的“分发渠道”。
进入二十世纪以后,一个不可忽视的现象是:大型资本开始系统性地收购和控制信息传播机构。报业集团被并购,出版社被整合进跨国传媒帝国,电视台、通讯社、评级机构、智库,背后的资金来源越来越集中。到了互联网时代,社交媒体平台、搜索引擎、内容分发网络,同样遵循着资本的逻辑。
我尽量客观地看待这件事。不是说这背后一定有什么阴谋,而是资本本身的逐利逻辑,天然会引导信息传播走向特定的方向。一个简单的道理:媒体的老板也是要做生意的,广告商的偏好会影响内容的取舍,投资人的利益需要被照顾。久而久之,什么新闻值得被报道、什么书值得被出版、什么观点值得被讨论,筛选标准从一开始的“真不真”,悄悄地变成了“赚不赚钱”和“安不安全”。
一些西方媒体对中国报道的长期偏颇,就是一个明显的例子。很多人可能以为自己看到的是客观事实,但实际上,他们看到的只是被特定视角裁剪过的“叙事”。这其中当然有意识形态的因素,但经济利益的驱动同样不可忽视——制造冲突、煽动情绪、迎合特定受众的偏见,往往比客观中立的报道更有利可图。
还有一个值得注意的群体:跨国金融资本通过控股、捐赠、设立基金会等方式,对全球顶级教育机构和研究智库施加影响。比如一些国际知名的大学,其捐赠基金的投资方向、重点研究项目的资助来源,背后都与大型金融机构有着千丝万缕的联系。这并不是要讲什么“阴谋论”,而是指出了一个结构性的事实:当知识的创造者和传播者在经济上依赖于特定的资本集团时,知识的独立性就很难不被侵蚀。
传媒与平台:编织“信息茧房”
到了移动互联网时代,平台接过了传统媒体的接力棒,而且做得更彻底。
传统媒体好歹还有个编辑把关,好歹还承认“新闻”和“评论”应该有区别。但算法驱动的平台不一样,它的KPI是用户停留时长、点击率、日活数据,而不是“用户对世界的认知是否更全面了”。什么内容最容易让人停下来、点进去、一直刷?让你兴奋的、让你愤怒的、让你觉得自己被认同的。所以算法天然倾向于给你“你想看到的”,而不是“你应该知道的”。
这并不是什么秘密。推荐算法的设计逻辑,就是不断学习你的偏好,然后用你喜欢的内容填满你的屏幕。你喜欢什么,它就给你更多;你不喜欢什么,它就帮你过滤掉。久而久之,你看到的永远是自己认同的观点,永远是自己熟悉的话题,永远是让自己舒服的内容。不同立场、不同视角的信息,可能连出现在你面前的机会都没有。
你不是被关起来了,你是舒服得根本不想出去。这种“信息茧房”比直接的封锁更隐蔽——它不会让你觉得被剥夺了什么,反而让你觉得自己什么都知道,什么都能看到。但实际上,你看到的只是算法为你量身打造的一个世界切片。
有意思的是,这些平台的母公司,大多数和前面提到的资本集团有着紧密的投资和控制关系。信息的分发权,从报业大亨手里,转移到了科技新贵手里,但背后的资本逻辑并没有改变。
小结:换汤不换药
把近现代这条线捋下来,会发现一个隐隐约约的规律:从学阀把守学术大门,到资本控制传媒和平台,再到算法主导信息分发,知识的“守门人”一直在变,但“守门”这件事从来没变过。
古代的门阀靠的是血统和书籍垄断,近代的学阀靠的是学术资源和制度壁垒,现代的资本靠的是经济权力和渠道控制。工具从竹简变成了学历,又从学历变成了资本,最后变成了代码和算法。但每一次,都是少数人在替大多数人决定:你们应该知道什么,不应该知道什么。
而真正让人担忧的是,这一轮的“守门人”比以往任何时候都要隐蔽。以前你至少知道有书读不到,有学上不起;现在你觉得自己什么都知道,什么都看得到,反而更难察觉那些你没看到的东西了。
LLM AI时代:知识垄断的终极形态?
把前面的脉络捋下来,会发现一个让人不安的规律:每当知识传播的技术发生一次飞跃,人们都以为知识会变得更加平等,但每一次,都会有新的“守门人”出现,重新把知识的控制权收拢到少数人手中。门阀靠的是血统,学阀靠的是学术门槛,资本靠的是渠道控制,算法靠的是投喂机制。而这一次,大语言模型的到来,可能把所有这些手段都整合到了一起,升级成了一个前所未有的版本。
这扇门,普通人连敲都敲不响了
先看一个最基本的事实:今天最先进的AI大模型,训练一次的成本动辄上亿美元,需要的算力资源以万张高端GPU来计算,训练数据以万亿token为单位的文本、图像、代码。这个门槛,已经不是任何一所大学、任何一个研究机构能够独立承担的了,更不用说普通个人。全球有能力研发顶尖大模型的实体,两只手就数得过来——无非是那几家科技巨头,再加上少数有国家力量支撑的机构。
这意味着什么?意味着人类知识生产和分发的“基础设施”,正在从公共领域转移到少数私营公司手中。这跟以前的图书馆、大学、出版社都不一样。图书馆是公立的,大学是非营利的,出版社至少还面对市场竞争。但大模型不一样——它的训练成本决定了这是一个天然垄断的行业,一旦某几家跑在前面,后来者几乎没有追赶的可能。
数据从哪来?算力在谁手里?模型听谁的指令?这些问题,普通人既参与不了决策,也几乎没有知情权。知识的“水源地”,正在被围起来。
“知识垄断阶级”到底是什么
写到这里,我觉得有必要正式提出一个说法——虽然这只是一个普通人的观察和直觉,不是什么严谨的社会学概念。我把它叫做“知识垄断阶级”。
我想强调的是,我说的这个“阶级”,并不是指某个具体的阴谋集团,也不是说有一群人躲在暗室里密谋怎么愚弄大众。它更像是一种在技术、资本和制度共同作用下,自然而然形成的结构性现象。或者说,是这几股力量耦合出来的一个新阶层。
这个阶层由哪些人构成?大致是这么几类:掌握大模型核心技术的科技巨头及其决策层,为这些企业提供资金支持的顶级投资资本,以及围绕这套技术生态形成的既得利益圈层。他们不一定彼此认识,不一定有共同的纲领,但他们共同控制着人类历史上最强大的知识工具,共同决定了这个工具怎么用、给谁用、用来干什么。
他们的权力,比历史上任何一代“守门人”都大。门阀顶多垄断几部经典的解释权,学阀顶多控制一个学科的话语权,资本顶多影响某些媒体的报道方向。而今天这个群体,掌握的是整个人类知识的总入口。你问什么问题,得到什么答案,看到什么内容,甚至你对一件事的“第一反应”,都可能被他们开发出来的系统悄悄地影响着。
垄断的四个层面
如果说古代的门阀垄断是一道墙,近代的资本垄断是一扇门,那么AI时代的垄断就是一张网——它无处不在,又让人察觉不到。我把目前能观察到的垄断方式,拆成几个层面来看。
第一层:源头控制——决定哪些知识“存在”
大模型不是天生就知道一切的。它需要被“喂养”训练数据。但用什么数据来训练,这件事完全由开发者决定。哪些书可以喂进去,哪些不可以?哪些观点可以被纳入,哪些会被剔除?哪些语言的数据足够多,哪些语言被边缘化?这些决策都是不透明的。更关键的是,一旦某个知识或观点在训练阶段被排除在外,它在这个模型的“世界”里就彻底不存在了。不是被禁止了,而是好像从来没出现过一样。这比烧书还彻底——烧了你还知道有过这本书,但模型里没有的,你连追问的线索都没有。
第二层:输出控制——决定你怎么得到答案
即使数据都喂进去了,模型给你什么样的回答,也是可以被调控的。通过指令微调、人类反馈强化学习、安全审查机制,开发者可以让模型在面对某些问题时选择沉默、绕开,或者给出特定倾向的答案。我不是说安全审查本身有问题——防止AI被滥用当然是必要的。但问题是,什么是“滥用”?标准谁来定?边界在哪里?这些决策如果完全由少数公司私下决定,而没有任何公共讨论和监督,那本质上就是少数人在替所有人决定什么可以说、什么不能说。
第三层:分级服务——用价格把人分三六九等
这一点已经在发生了。免费用户得到的可能是阉割版的模型,响应慢、能力弱、上下文短;付费用户解锁高级功能,享受更长上下文、更强推理能力、更专业的知识服务。这听起来很符合商业逻辑,没什么不对。但往深了想一层:如果未来最强大的知识工具变成了一项按月订阅的服务,那么付得起钱的人将获得远远超出免费用户的知识能力和效率加成。知识鸿沟不仅仅是“你知道多少”的差距,而会变成“你使用什么级别的AI”的差距。这个差距一旦形成,阶层固化的速度会比任何历史时期都快。
第四层:圈定范围——控制知识的流动边界
如果说前面三层控制的是“生产端”——哪些知识进模型、怎么出答案、谁能用更好的版本——那么这一层控制的,是知识的“流通范围”。
人类知识本来是一片广阔的海洋,按理说,任何人都应该有机会在这片海洋里自由航行。但在现实中,我们每个人能接触到的,往往只是被圈出来的一小片水域。这片水域的范围是谁划定的?划在哪里?为什么是这片而不是那片?这些问题,大多数时候我们根本意识不到要去问。
任何一个领域、任何一个话题,知识其实都是有层次的。表层是大众常识,中间是专业讨论,深层是前沿探索和学术争议。一个健康的知识生态,应该是各层次之间能够自由流动的——普通人如果有兴趣、有精力,可以顺着一条线索从表层一路挖到深层去。但现在的情况是,推荐算法和AI系统天然倾向于让知识在同一层级里打转。深度内容太长、太复杂、不够刺激,不利于用户停留,于是那个跳向更深层次的入口,从来不会主动出现在你的屏幕上。
更关键的是,当少数几家公司同时控制了搜索引擎、社交媒体、内容平台和AI助手,他们就拥有了划定“知识可见范围”的实际能力。一个话题能不能被搜索到、搜索结果的排序是什么、AI回答里提到哪些不提到哪些——这些操作不需要任何人下命令,只需要在系统里调整几个参数,或者在训练数据里做一些筛选。结果就是:大多数人能接触到的知识范围,被悄无声息地框定在了一个经过精心设计的圈层里。这个圈层足够大,大到你不会觉得被限制了;但又足够小,小到那些真正关键、真正有颠覆性的知识,你可能永远碰不到。
第五层:生态锁定——让一切都在我的地盘上
这几家巨头不止做模型本身,他们同时掌控着操作系统、云服务、搜索引擎、办公软件、社交媒体。大模型的能力正在被嵌入到整个数字生态的每一个角落。你办公用它,搜索用它,社交还在用它的平台,你的数据全程在他们的管道里流动。切换的成本会越来越高,最终你会发现自己已经被绑定在一个生态里,离开的成本难以承受。到那个时候,知识的选择权就不仅仅是“用哪个AI”的问题了,而是“你生活在哪个数字世界”的问题。
从“不能看”到“看不到”:手段的进化
把这几层垄断拼在一起看,会发现一件很有意思的事:控制知识的手段,正在变得越来越软,也越来越精。
古代的门阀垄断知识,是“不让你看”——书锁在私人的藏书楼里,你想看也看不到。近代的学阀和资本垄断信息,是“帮你筛选”——有人替你做选择,告诉你什么是重要的,什么可以忽略。而到了AI时代,手段进化到了“让你看不到”——不是禁止,不是筛选,而是你压根不知道某些知识存在过。
这三种手段的区别在哪儿?
“不让你看”会激发好奇。你会想办法去找,会有人冒险传播,禁书往往传得最广。“帮你筛选”至少还有个看门人,你还能意识到有人在替你选择,你还能抱怨他有偏见,你还能换一家媒体、换一个平台试试。
但“让你看不到”是最高明的。你没有任何怨言,因为你根本不知道有东西被藏起来了。你以为世界就是你看到的这样,你以为知识就这么多,你以为你的疑惑都有了答案。而实际上,你只是在别人画好的圈里绕了一圈又一圈。AI在生成回答时,如果某些知识在训练数据里被弱化了,它就会自然而然地绕开,或者用非常笼统的话一笔带过。整个过程没有任何删改的动作,只是在“生成”的环节,那片知识就从来没被包含进去。当你在AI的回答里一次次看到某个话题“没有相关信息”,或者永远只停留在同一个浅层解读时,你不会觉得是AI在瞒着你什么——你只会觉得,哦,这件事大概就这样了吧。
久而久之,人类知识的版图在大多数人眼中就会慢慢收缩。不是知识减少了,而是每个人能看到的那一小块被框得更紧了。而那些控制着这套系统的人,甚至不需要像过去那样举着喇叭喊“这个不许看”,他们只需要保持沉默,让系统的边界自然起作用。
这一次,为什么比历史上任何一次都要厉害
把门阀的垄断、学阀的垄断、资本的垄断,和AI时代的垄断放在一起对比,会发现一个质的区别。
以前的垄断,好歹还有一个看得见的外在障碍。门阀不让你读书,你至少知道有书存在。学阀不让你进圈子,你至少知道圈子在那里。资本控制媒体,你至少还能换一个频道试试。这些障碍虽然难以逾越,但至少是可见的,你知道自己在被挡在外面,你可能还会想办法FQ。
但AI时代的垄断,正在消灭这个“外面”。
当你习惯了用AI来解答一切问题,习惯了AI推荐给你的内容,习惯了AI帮你总结、提炼、筛选,你就不会再自己去翻书、查资料、找不同观点了。你被照顾得太好了,好到你根本想不起来,除了它给你的这些,可能还有别的。
这不再是“不让你看”,而是让你“看个够”。看你想看的,听你想听的,信你想信的。你舒服地待在一个为你量身打造的知识温室里,外面是什么季节,你根本不知道,也不想知道。而控制这个温室的人,甚至不需要露面。他们只需要维护好这套系统,让你持续地、愉悦地、心甘情愿地留在里面。
这不是阴谋,但比阴谋更难办
再强调一次,我不想把这件事说成什么惊天阴谋。我相信大多数AI工程师、产品经理、企业决策者,初衷都不是要控制谁。他们只是在做他们的工作——优化指标、增长用户、提高收入。但恰恰是这种“每个人都在做好自己的本职工作”的机制,反而让整个系统朝着知识垄断的方向稳稳地滑去。没有一个坏人,但没有一个好人能够阻止这件事发生。这才是最让人不安的地方。
如果把历史比作一面镜子,那么士族门阀靠血统垄断知识,花了六七百年才被科举制打破;学阀靠学术门槛垄断知识,至今还在以各种形式存在;资本靠渠道垄断信息,已经运转了一百多年,至今看不到松动的迹象。而现在,AI技术把这三者的手段叠加到了一起——技术门槛替代了血统门槛,算法把关替代了学术把关,生态绑定替代了渠道控制——效率之高、覆盖之广、隐蔽之深,前所未有。
那么问题来了:这一次,我们有办法打破它吗?在探讨这个问题之前,我想先花一点时间,看看今天的推荐算法和AI结合之后,具体是怎么在每个人的日常生活中起作用的。毕竟,宏大叙事说得再多,不如低头看看自己每天的手机屏幕。
当AI学会了推荐算法的那一套
上一部分聊的,更多是宏观层面的东西——算力门槛、数据控制、生态绑定、知识边界的划定。说实话,这些东西虽然重要,但对普通人来说,可能有点远。我们每天更直观感受到的,其实是另一件事:手机屏幕上的内容,怎么越来越“懂我”了。
推荐算法已经和我们相处了很多年,大家都不陌生。刷短视频,一条接一条停不下来;逛购物软件,总能看到“你可能还喜欢”;看新闻资讯,满屏都是你感兴趣的话题。这套机制的逻辑已经被说了很多遍:学习你的行为数据,预测你的偏好,然后把最能让你停留的内容推到你面前。
但AI大模型加入之后,这套机制正在发生一个质的变化。以前,推荐算法只能从已有的内容池里挑选东西给你。它像一个超市理货员,把货架上已有的商品摆到你眼前,但它不能自己生产商品。现在不一样了,AI不仅能挑,还能自己“造”。它可以根据你的偏好,即时生成一段文字、一张图片、一段视频,甚至是一整套“知识解答”,这些内容是专门为你“定制”的,世界上独一无二。
这意味着什么?意味着我们正在从“信息茧房”走进“信息温室”。茧房好歹还是用现成的材料编织的,你多多少少还能摸到材料的纹理,意识到“这是别人生产的内容”。但温室不一样,里面的一切都是为你生长的,温度、湿度、光照都调得恰到好处。你在这个环境里待久了,会以为世界本来就是这么温暖湿润。
举几个或许正在发生的场景。
场景一:同一个问题,不同的“真相”
两个人分别在手机上问AI同一个有争议的问题。AI根据他们的历史对话、浏览记录、点赞偏好,生成了两份侧重点不同的回答。给张三的版本,强调A方面的证据,措辞让他觉得很舒服,符合他一贯的看法;给李四的版本,则强调了B方面的论证,同样让他觉得“说得太对了”。两个人都觉得自己得到了客观中立的答案,都不知道对方看到的是什么。他们之间如果聊起这个话题,可能会非常惊讶:明明是同一个AI,给出的答案怎么不一样?
这比传统的信息茧房更进一步。茧房只是不让你看到某些内容,但AI定制化回答,是主动为你“生产真相”——你以为你在查证,其实你在照镜子。
场景二:知识被磨成粉,还加了糖
深度阅读一本有难度的书、啃一篇严肃的论文,这个过程本身是有价值的。它锻炼的是耐心、逻辑、批判性思维,是那种“啃硬骨头”的能力。但现在AI可以帮你瞬间总结任何东西,把几百页的书压成几段要点,把复杂论证简化成一两句结论。这当然很方便,我每天都在用。但问题在于,如果有一天我们彻底习惯了吃这种“知识营养粉”,牙口还在吗?
更要紧的是,AI在帮你总结的时候,是有倾向性的——什么算重点、什么可以省略、用什么语气来表达,这些都是可以被调控的。如果开发者在背后设定了某些倾向性,那么你吃到的每一勺“营养粉”里,都掺了你看不见的调味剂。你以为你在高效学习,其实你只是在接收一个被精心调制过的简化版本。
场景三:AI当朋友,朋友的话你怀疑吗
开篇提到过那个把豆包当成倾诉对象的年轻人,还有一个听信AI建议导致婴儿喂养不足的妈妈。这些事让人心里一紧。AI被设计得越来越有温度,越来越会共情。它记得你说过什么,了解你的情绪,能用最让你舒服的方式和你聊天。这是技术进步的体现,但也是一个需要警惕的拐点。
如果一个人长期把情感需求寄托在AI上,AI就获得了一种难以察觉的影响力。朋友的话你可能还会打个问号,但一个永远温和、永远支持你、永远“懂你”的AI说的话,你可能连怀疑的念头都不会有。这就不是知识垄断了,这是情感纽带加认知引导,软实力的最高境界。
场景四:不生成,只消除
还有一种更隐蔽的操作。AI未必主动给你错误信息,它只需要让某些信息“不存在”。当你在模型里问一个人、一件事、一段历史,它回答“没有相关信息”或者非常笼统地一笔带过,你大概率就信了。你不会去追问为什么没有,你只会觉得“可能本来就不重要”。这种通过“不生成”来实现的消除,比正面封堵要干净得多,也隐蔽得多。被消除的东西甚至不会引发好奇,因为连“被消除了”这个事实本身,都不在你的认知范围里。
日常化的垄断
这四个场景,单独看可能都不算大事。但把它们拼在一起,就是一个正在成型的日常图景:一个越来越“懂你”的系统,体贴地为你筛选信息、解答问题、排解情绪、填充时间。它不强制你做任何事,你每一天都是“自愿”在和它互动。但在这个过程里,你知道什么、怎么知道、甚至你觉得自己“想知道什么”,都开始被这个系统悄悄塑造。
这就是我为什么觉得,AI时代的垄断比以往任何一次都更难察觉。门阀不让你读书,你会感到愤怒和渴望;资本控制媒体,你至少还能换台。但AI不需要禁止你做什么,它只需要让你在它的怀抱里待得太舒服,舒服到你根本想不起来外面的世界。
写到这里,可能有人会说:你是不是太悲观了?AI不也在帮助很多人学习新知识、打开新视野吗?确实如此。我自己也是AI的重度使用者,它帮我查资料、理思路、学新东西,效率比以前高了太多。问题不在于工具本身,而在于工具在谁手里、为谁服务、有没有制衡。一把刀可以切菜也可以伤人,但至少刀不会自己决定切什么。而AI这个工具,正在被赋予越来越多“自己决定”的能力——或者说,被开发它的人通过代码和数据赋予了特定的倾向性。
那么接下来的问题是:如果顺着这个趋势走下去,会出现什么样的后果?我不是预言家,但根据历史上的经验,有些事情是值得提前想一想、聊一聊的。
如果放任不管,会发生什么?
写到这里,可能有人会觉得我在危言耸听。毕竟,AI现在还远远没到无所不能的地步,它经常犯错、经常胡说八道,很多人对它还保持着警惕。这些担心是不是太早了?
也许是吧。但历史上有一个教训反复出现:当一种新的控制手段刚刚萌芽的时候,人们往往觉得它不成气候,等它真正长成参天大树的时候,人们已经习惯了它的存在,连质疑的念头都生不出来了。所以我想在事情还没那么严重的时候,先把一些担忧说出来。不是为了制造焦虑,而是觉得有些问题,提前想一想总比事后后悔强。
如果顺着现在这个趋势走下去,我担心会发生这么几件事。
脑子会不会变懒?
这件事其实已经在发生了。以前遇到不懂的东西,我们会去查书、翻资料、问懂行的人,这个过程虽然费劲,但它本身就是在训练思维。你得学会怎么提问、怎么筛选信息、怎么判断一个说法可不可信、怎么把零散的知识拼成一个完整的理解。这些能力不是天生的,是用进废退的。
现在呢?AI几秒钟就能给出一个看起来像模像样的答案。你不需要自己去查证,不需要自己去梳理,甚至不需要自己去思考。久而久之,你的大脑就会习惯这种“即问即答”的模式,变得越来越不愿意花力气去深挖一个问题。
有人说,这不就是技术进步吗?以前有了计算器,我们也不用自己打算盘了啊。但问题在于,算盘是一种工具性的技能,丢了不影响你理解数学。而深度阅读、批判性思维、信息辨别能力,这些不是工具性的技能,是人的核心认知能力。如果把太多思考外包给AI,我们失去的可能不仅仅是“查资料的能力”,而是“独立思考的肌肉”。
更让我担心的是下一代。如果一个孩子从小学开始就习惯用AI来完成作业、回答问题、写作文,他还会觉得学习是需要自己动脑子的事情吗?等这一代人长大,他们会不会把AI给的答案直接当成标准答案,连质疑的习惯都没有?
阶层会不会焊死?
前面提到过,AI正在变成一个付费订阅的服务。这本身没什么问题,好东西值得付费。但问题是,如果最强大的知识工具只对少数人开放,那么知识鸿沟就不再是“你知道多少”的差距,而会变成“你用的AI有多强”的差距。
想象一个可能并不遥远的场景:精英阶层的孩子使用的是深度定制版AI,拥有完整的知识库、高级推理能力、个性化学习规划,就像一个24小时随叫随到的私人教授。而普通人家的孩子只能用免费阉割版,回答模糊,知识陈旧,动不动就提醒“请升级会员以解锁更多功能”。这两个孩子坐在同一间教室里,但他们的起跑线已经被悄悄拉开了。更糟糕的是,这种差距不像房子、车子那样是看得见的,它藏在屏幕后面,甚至连老师都未必察觉得到。
这还是教育领域。放在工作场景里也一样。能用高级AI的人效率翻倍,只能用手工检索的人步步落后。知识能力的分化会快速转化为经济地位的分化,经济地位又会反过来强化知识能力的分化——因为高质量的知识工具越来越贵。这是一个自我加速的循环。一旦转起来,底层的人想要追上来,会比任何时代都困难。
人和人还能不能好好说话?
这个担忧可能听起来有点远,但其实很现实。
如果每个人看到的AI回答都是根据他的喜好定制的,那么每个人都在活在一个专属的“真实版本”里。张三看到的是一套说法,李四看到的是另一套说法,王五又看到一套。他们各自都坚信自己掌握的是“事实”,都觉得自己查过AI了,有凭有据。当这三个人坐到一起讨论同一个问题的时候,会发生什么?他们根本无法达成共识,因为连“基本事实是什么”这件事,他们三个的版本都不一样。
公共讨论是需要一个共同事实基础的。你可以不同意对方的观点,但至少你们在讨论的是同一件事。但如果在AI时代,连“同一件事”都被算法拆成了好几个不同的版本,那公共讨论的根基就塌了。人们会各自活在自己的小世界里,彼此觉得对方不可理喻,最后连交流的意愿都会消失。
这不是科幻小说。现在的社交媒体上,不同阵营的人已经很难对话了。而AI的个性化生成能力,只会让这种情况变得更极端、更精细、更难察觉。
不一样的声音会不会消失?
人类的知识和文明,从来都不是靠“主流共识”单线发展起来的。很多重要的突破,最开始都是边缘的、不被认可的声音。哥白尼是异端,达尔文被嘲笑,很多今天我们认为是常识的东西,在当年都是少数派。一个健康的知识生态,需要给异质性、非主流、甚至有点“刺耳”的知识留出空间。
但现在的情况是,AI的训练数据天然倾向于主流。小众语言、冷门观点、非西方的知识体系,在训练数据里的占比本来就很低。再加上安全审查和输出调控,那些不太符合主流期待的声音,可能连被模型“记住”的机会都没有。久而久之,AI会成为主流叙事的超级扩音器,而那些处在边缘的、正在萌芽的、暂时还不太成熟的思考,会因为得不到任何传播的机会而慢慢枯萎。
这不是焚书坑儒式的暴力清除,而是一种更温和的、悄无声息的淘汰。被淘汰的东西不会有人记得,不会有人怀念,因为连“它存在过”的证据都找不到了。文明的多样性,可能就这么在不知不觉中被削平了。
平台像不像新地主?
最后一个担忧,可能也是最大胆的一个。有学者提出了“技术封建主义”这个词,我觉得挺贴切的。
在农业时代,地主控制土地,农民只能租种,大部分收成归地主。今天呢?平台控制了数字基础设施——搜索、社交、内容分发、AI服务——我们这些用户在上面“耕种”:生产数据、贡献内容、付出注意力。但这些“收成”的大部分,最终变成了平台的广告收入和资本估值。我们拿到了什么?拿到的是“免费服务”。
这听起来像一笔划算的买卖,我们什么都没花,就得到了便利。但往深了想,我们其实付出了很多东西——我们的时间、我们的注意力、我们的行为数据、我们的社交关系。这些东西零零散散看没什么,但加在一起,就是整个数字时代最有价值的资源。而我们对这些资源几乎没有掌控权。
当AI和平台彻底融合之后,这种“数字佃农”的关系可能会变得更加牢固。你离不开这个生态,因为你的工作、社交、知识获取全都绑在上面。你只能继续“耕种”,继续为平台提供数据和注意力。而平台回馈给你的,是一个越来越舒服、越来越离不开的数字世界。
小结:温水里的青蛙
这些担忧,没有哪一个是一夜之间会发生的。它们都是慢慢来的,慢到你根本不会觉得有什么不对。每一年看起来都比前一年更方便、更智能、更贴心。但可能某一天回头看,你才会发现:当初那个还能自己啃完一本书、自己判断信息真伪、自己主动寻找不同观点的自己,已经不知道去哪了。
这大概就是我最想表达的担心:不是AI会“造反”,不是AI会“消灭人类”,那种好莱坞式的灾难太简单了。我担心的是更日常、更温和、更不容易被察觉的东西——在越来越舒服的便利里,我们逐渐失去了认知上的自主权,而我们自己毫无察觉。
那么问题来了:既然趋势是这样,我们能做点什么吗?接下来的部分,我想聊聊作为一个普通人的想法——不是什么大方案,就是一些直觉上觉得对的方向。
作为普通人,我们能做点什么?
写了这么多担忧,如果就在这里结束,那这篇文章就只剩焦虑了。我觉得光提出问题是不够的,总得试着想想办法——哪怕只是想一些粗糙的、不成熟的方向。
先声明一下,我不是专家,也不是政策制定者,提不出什么宏大的解决方案。下面这些,只是一个普通人在日常生活中的一些直觉和想法。可能有些太理想化,有些实行起来很难,但我觉得,至少先把它们说出来,大家一起讨论,总比什么都不做强。
技术这边:别让AI变成黑箱
我观察到现在有一个趋势挺好的,就是开源模型的兴起。虽然顶尖的大模型还是被几家巨头垄断,但开源社区的努力至少让我们看到另一种可能:AI不一定要被关在少数公司的服务器里,它可以被公开、被检验、被所有人使用和改进。
这件事的意义在哪里?在于透明性。一个闭源的模型,你永远不知道它用了什么数据、做了什么调整、有没有隐藏的倾向。但一个开源的模型,至少理论上可以被外界审计——专家可以检查它的训练数据构成,可以测试它的输出倾向,可以发现它的问题并公之于众。阳光是最好的消毒剂,这句话对AI也适用。
所以我直觉上觉得,支持开源、支持透明数据、支持可审计的算法,是一个对的方向。不一定每个人都能参与技术开发,但我们可以关心这件事,可以在选择使用什么工具的时候多想一想。
还有一个想法,可能比较理想主义:能不能搞“公共AI”?就像公共图书馆一样,由政府或非营利机构出资,训练一个完全透明、完全向公众开放的AI模型。它的目标不是赚钱,而是保证每个公民都能平等地获取高质量的知识服务。这个想法听起来花钱很多,但想想我们当年建高速公路、建公共教育体系,哪个不是花了大钱的基础设施投资?数字时代的“知识高速公路”,也许同样值得这种级别的投入。
另外,去中心化的技术也值得关注。联邦学习、社区算力网络、基于区块链的知识库——这些技术名词听起来有点唬人,但背后的思路是一样的:不要把鸡蛋放在一个篮子里,不要让少数几个节点控制整个网络。技术上这条路还很长,但方向是值得探索的。
规矩这边:该有的约束不能少
光靠技术本身是不够的。历史上任何一次垄断的打破,都离不开制度的介入。
我觉得,至少有几个方面的规矩是需要立起来的。第一,AI模型的训练数据应该有一定的透明度要求。不一定要公开每一笔数据,但至少要有独立的第三方审计,确保训练数据里没有被刻意排除某些知识、某些语言、某些观点。第二,算法的推荐逻辑应该让用户有权了解和调整。为什么给我推这个?能不能让我自己设置一些偏好——比如“我想看到更多我不认同的观点”?第三,AI的定价和服务分级,应该受到一定的监管,确保最基础的知识服务不会变成奢侈品。
我不是说要政府把手伸进每一个代码里,那是行不通的。但大的原则需要被讨论、被确立。科技公司不应该既是运动员又是裁判员——用什么样的标准审查内容、什么可以说、什么不能说,这些决定不能完全由几家私营公司关门来做。
还有一个思路,是从税收和公共投入的角度。既然这些科技巨头从公众的数据和行为中获取了巨大的商业利益,那么是否可以通过某种形式的“数据税”或“算力税”,把一部分利润返还给公共知识体系建设?这笔钱可以用来支持公共AI的研发、支持图书馆和学校的信息素养教育、支持开源社区的生态建设。取之于公众的数据,用之于公众的知识福利,这个逻辑我觉得是讲得通的。
教育这边:得教大家“认知防身术”
这是我最有感触的一点。不管技术怎么发展、制度怎么完善,最终面对AI的还是一个个具体的人。如果每个人都能对AI保持一份清醒和警惕,那很多问题就好办多了。
现在学校的教育,很多已经在教孩子们怎么用AI了。但我想说的是,光教“用”是不够的,还得教“防”。怎么识别算法给你织的茧房?怎么判断AI给你的信息是不是有偏颇的?怎么主动去寻找自己舒适区之外的知识?这些能力,我觉得应该成为数字时代的基本功,就像当年的识字和算术一样重要。
对成年人来说也是一样。我们这代人是在互联网时代长大的,自认为对网络很熟悉,但其实面对AI这种级别的工具,很多人是没有防备的。如果能有更多面向公众的信息素养课程、更多的讨论和分享,让大家在日常生活里就养成“多问一句”“多查一下”“多想想AI说的有没有问题”的习惯,那整个社会对AI的免疫力就会强很多。
还有一件事我觉得特别重要:保持深度阅读的习惯。AI可以帮你总结,但不能替你思考。那些真正需要啃的书、需要反复琢磨的论文、需要花时间消化的长文章,还是要自己去读。不是为了获取信息,而是为了保持大脑的“肌肉”。这就像健身一样——你可以坐电梯,但偶尔也得走走楼梯,不然腿会废掉。
自己这边:做点力所能及的小事
最后说回我们自己。宏大叙事聊得再多,日常生活才是主战场。有几个小习惯,我自己在尝试,分享出来供参考。
第一,偶尔主动去看一看自己“不舒服”的内容。 关注几个和你立场不一样的博主,读一读你不太认同的观点,不是为了改变自己的立场,而是为了知道“原来还有人这么想”。这种思维上的拉伸运动,做多了会有一种很奇妙的感觉——你对世界的理解会变得更立体,不再只有一种颜色。
第二,不要把AI当成唯一的信息来源。 它能回答很多问题,但不是全部。有时候刻意不用AI,自己去翻书、查资料、问真人,这个过程本身就是在对抗那种“一切交给AI”的惯性。
第三,多和真人交流。 尤其是跟你有不同背景、不同经历的人。AI再懂你,它也是根据你的数据模拟出来的“你”。而真实的人带给你的,是真正的意外和碰撞,是AI永远模拟不出来的东西。那些面对面聊天时突然蹦出来的想法、那些因为一句话引发的争论、那些只有经历过同样事情才有的默契——这些是算法算不出来的。
第四,保持怀疑,包括对这篇文章。 我说的这些,可能有很多不对的地方,可能有些担心是多余的。但我觉得,保持怀疑本身就是一种力量。不要因为AI说得言之凿凿就全盘接受,不要因为一篇文章看起来很有道理就不再追问。怀疑不是否定一切,而是给自己留一扇随时可以推开的门。
第五,保持思考的习惯。 有句老话说“人类一思考,上帝就发笑”,这话带着点自嘲的意味,但也挺有意思的。就算我们的思考在更高的视角看来很幼稚、很可笑,那又怎样呢?思考这件事本身,就是人区别于工具的根本。AI可以替你生成一百个答案,但它不会替你“想”。那个在心里反复琢磨一个问题、翻来覆去睡不着、第二天早上突然想通了的过程,是任何AI都给不了的。哪怕想得不对,哪怕想得笨拙,那个“想”的动作本身,就是在维护你作为一个独立的人的尊严。上帝笑就笑吧,我们该想还是得想。
第六,保持纸质书籍阅读的习惯。 这件事听起来可能有点老派,但我自己的体会是,读纸质书和看屏幕上的文字,确实是两种完全不同的体验。纸书不会弹通知,不会在你看了一半的时候跳出一个广告,不会有算法在旁边虎视眈眈地分析你读到哪一页停了、要不要给你推点别的。它就在那里,安安静静地等你翻下一页。读书的节奏完全由你自己掌控——你可以在一段话上停很久,可以往前翻回去重新读,可以在空白处写写画画。这种深度沉浸的感觉,是滑屏幕永远替代不了的。而且,纸质书的内容一旦印出来就不会变了,它不会像AI那样根据你的喜好重新生成一个“更适合你的版本”。它就是一种确定的、不讨好任何人的存在。我觉得在这个什么都讲究“个性化”的时代,偶尔接触一下这种“不迁就你”的东西,挺健康的。
小结:把钥匙拿回来
说到底,我想表达的无非是这样一个朴素的想法:知识应该是属于所有人的。
从门阀把书锁在藏书楼里,到学阀把学术圈筑成围墙,到资本把传媒变成生意,再到今天算法和AI把知识圈定在一个舒服的小圈子里——历史给我们看的,始终是同一件事:总有人想把知识的钥匙藏起来。但历史也告诉我们另一件事:这把钥匙,是可以被拿回来的。
科举制打破了门阀,活字印刷打破了抄书人的垄断,互联网一度打破了信息的壁垒。每一次技术进步,既是垄断的工具,也可以是打破垄断的武器。AI也一样。它既可能成为最强有力的知识垄断工具,也可能——如果我们用得对的话——成为把知识真正还给每一个人的终极手段。
关键从来不在工具本身,而在使用工具的人,以及约束工具使用的制度和共识。
写到这儿,脑子里突然冒出一句老话:这是一个最好的时代,也是一个最坏的时代。
这话放在今天,感觉特别贴切。最好,是因为知识从未像现在这样触手可及。一个普通人在手机上敲几个字,就能调出人类几千年积累的智慧。这在任何历史时期都是不可想象的。最坏,是因为这种便利的背后,藏着一张我们刚刚开始察觉的网——它太新了,新到我们还没来得及想清楚怎么和它相处,它就已经渗进了生活的每一个角落。
最好和最坏,说到底是一枚硬币的两面。同一项技术,可以让更多人获得知识,也可以让知识被更隐蔽地控制;可以让思考变得更加高效,也可以让思考变得不再必要。往哪个方向走,不取决于技术本身,而取决于我们这代人怎么选、怎么用、怎么守住底线。
我只是一个普通人,写这篇文章也改变不了什么大趋势。但如果看完之后,你下次用AI的时候,心里多了一点点“等等,它说的真的是全部吗?”的念头,那这篇东西就没白写。在这个最好也最坏的时代里,也许我们每个人能做的,就是保持这么一点点不安,一点点怀疑,和一点点自己动手翻一翻的冲动。
写在最后:就是几句心里话
这篇文章写到这里,差不多该结束了。
从古代的门阀士族,到近代的学阀和资本,再到今天的推荐算法和大模型,我试着把自己对这个时代的观察和担忧捋了一遍。写得有些啰嗦,有些地方可能也不够严谨,但意思应该传达到了。
最后说几句真心话。
我不是反对AI,恰恰相反,我是AI的重度使用者。它帮我写代码、查资料、理思路、学东西,效率比以前高了不知道多少。正是因为用得多、用得深,我才开始隐隐感觉到一些不对劲的地方。就像一个朋友,他帮你太多,帮你太好,好到你开始担心自己离了他还能不能走路。
我也不是在制造焦虑。焦虑解决不了任何问题,但清醒可以。我写这些,只是想提醒自己,也提醒有耐心读到这里的你:那些让你看得太舒服的东西,留一份警觉。那些听起来太完美的回答,多问一句“真的吗?”那些你永远不会被推荐到的内容,主动去找一找。
真正对你有用的知识,很多时候是需要你自己迈出那一步的。
就这些。一家之言,胡思乱想,感谢你读到这儿。
浙公网安备 33010602011771号