【思维论01】如何让自己像打王者荣耀一样发了疯、石乐志的学习?

该文章转载自:https://www.cnblogs.com/y1ran/p/12155728.html,有点意思

这是我思维导论的第1期,灵感来自另一位博主。视频做完后会接着更新算法系列专栏~


 

我们玩王者荣耀,究竟是为了什么

对于非职业玩家来说,打王者荣耀,是为了什么?除去消遣时间这个普遍因素,是为了推掉对方水晶?还是拿到5杀?抑或只是为了和朋友一起,享受在游戏中畅快地倾泻技能的感觉?

这些都不是本质原因,单次的获胜,或者5杀,并不能促使我们不断打开下一局游戏。本质上,我们对游戏的快感,都是大脑对游戏反馈机制的一种奖励,它由我们的多巴胺所决定。

人们常以为多巴胺等同于快感,但事实并非如此。多巴胺(dopamine)只是脑垂体腺中的前体物质,它不是快感本身,而是对快感的预期,或者说,对快感的追求。当你获胜,或者拿到击杀,你的肾上腺素、催产素以及内啡肽分泌增多,你会感到愉悦、兴奋,当你被击杀、水晶被推,你会感到沮丧、愤怒。但对于大脑神经来说,这些情绪只是暂时的体验,突触上的电信号一触即走,不带走半点云彩。而多巴胺所构成的信号机制,才是决定你会不会接着玩下去,并且以后还会打开游戏的关键。

换句话说,多巴胺赋予你沉迷游戏的欲望。在多巴胺的信号机制中,它并不会让你感到“我玩王者荣耀很爽”,而是让你觉得“这把我能翻”、“下把一定赢”“再赢一把排位我就升段位了”。

也正由于多巴胺是直接作用于大脑的奖励回路,使得一个人即使对某件事感到厌恶,也会在多巴胺的作用下去做这件事。于是,一次又一次地,我们打开手机或电脑,点开了游戏,进入了排位,周而复始。

这,就是我们玩王者荣耀的根本原因。


 反馈回路

反馈回路是一种“信号-动作-反馈”机制,可以简单描述为一个五元组系统

· 环境 – 你的交互环境,比如游戏

· 状态 – 你所处的状态,比如击杀、被击杀、以及获得胜利

· 动作 – 打开游戏,操作游戏角色,或者关掉游戏

· 更新 – 提高或降低你做出某个动作的概率。概率-可以理解为大脑信号的强弱

· 奖励 – 获胜的愉悦,也就是快感预期

并且满足以下4个规则:

  1. 当你进入游戏,你会以不同的概率,在每一个时间点上,做出不同的动作

  2. 你的动作决定了下一刻你所处的状态,每个状态都对应一个奖励,也即大脑所获得的反馈

  3. 每一步动作,都不只影响下一步的反馈,也可能影响更远的状态和反馈

  4. 反馈可以为正,也可以为负

举个例子,作为一个刚玩MOBA类游戏的玩家,你只知道要推掉敌方水晶。当你进入游戏(环境),你孤身进入敌方防御塔范围(动作),被击杀(状态),你的大脑感觉失望(奖励)。于是,当你从泉水复活(环境),你孤身进塔的动作概率被降低(更新),你选择跟随兵线一起进入(动作),推掉了防御塔(状态转移),并在数十个类似动作后,最终胜利(更远状态),你获得了满足(奖励)。

根据奖励结果,大脑判断第二种路径更好,因此下一次循环,你选择跟随兵线的概率会继续增加,并随之做出更多正确操作,最终加强这个正向反馈回路的效果。这,也是职业选手得以脱颖而出的原因——他们的反馈机制更为迅速,且响应更快。


 强化学习

这个反馈回路,就是构成人工智能中强化学习理论的基础机制。强化(reinforcement),是指在不断尝试中,个体所学习到的反馈回路在不断更新,并最终优化到可能目标的过程。

它和监督式机器学习一样,是构成人工智能的基石。

监督式机器学习,就好比你做历年真题,它由往年题目(旧数据)和答案(标签)构成,通过做题,你获得了从题目和答案中学习到的解题方法,并将这种方法应用到下一次考试中去。本质上,它学习出的是问题和答案之间的关系,这种关系就是模型。机器学习,只是把我们在过去学习中所做了十几年的事情,复制到了计算机上。

而强化学习,学到的是反馈回路。反馈 (reward),即用来判断这个行为是好是坏。一个优秀的强化学习系统,甚至不需要旧有的数据,就可以直接进行学习。

强化学习的反馈有延时,即有可能走了很多步以后,才知道以前的某一步的选择是好还是坏,而监督式机器学习只学习方法,不考虑时间。这样的思考方式其实并不与现实相似,因为我们所做的每个选择,所处的每个环境,都与过去的许多行为有关,它们极其复杂,没有一个固定、线性的模式可被学习,但通过强化学习,可以尽量逼近可能存在的完美模型。

从生物学的角度讲,强化学习更符合人类的进化方式,从古代的尼安德特人就已经开始:不符合正反馈回路的行为或族群,注定被“环境”所“更新”,也意味着淘汰。人类之所以进化成人类,是因为除了总结旧有知识并发现规律(机器学习)外,还会不断尝试和探索(强化学习)。

 

现如今,最完善的强化学习系统,就是谷歌的AlphaGo。每日与自己对弈数十万局,根据对弈结果,强化棋盘落子的正反馈回路。如果说,监督式机器学习是一种方法迁移,那强化学习则是方法探索。在某种意义上,强化学习更接近想象中的人工智能。

现在,让我们回到问题中来。

学习,究竟是为了什么?

不打游戏,是为了更好的学习。更好的学习,是为了更好的生活。那,什么是更好的生活?可以痛快地玩游戏,算不算更好的生活?我们从小被教导要好好学习,却从来没有真正思考过为什么要好好学习。如果连成因、机制都不了解,看再多的思维教学、学习导论,也没有办法让自己真正地执行“好好学习”这件事。

让我们思考一个问题:

“我们真的厌恶学习吗?”

其实,用强化学习的角度看,学习和玩王者,本质上没有区别。

学习是一个枯燥的过程,你要背单词、背公式,要写作、还要练习。玩游戏也是如此:你要记忆每个英雄的技能、走位技巧、出装顺序,也要通过很多次的对局来练习、提高技能。

区别在哪里?在学习系统中,它们都是同一种东西,即“动作”,动作无所谓枯燥和有趣,关键看它所处的“状态”和预期的“奖励”。

人类厌恶枯燥的东西,所以当学习变得索然无味,我们就会讨厌学习,这是天性。我们在学习时,并不能获得和做爱一样的快感,否则的话,没有人会讨厌学习。但是,有的人却能坚持学习并乐在其中,为什么?答案是反馈机制。

当学习的“动作”带给人的长期收益为正,就会获得我们所说的快感预期,也即前文提到的多巴胺。如果不靠多巴胺,只靠意志力去坚持学习,会怎么样呢?就像不断绷紧一根弦,强行违背身体的感觉,到最后早晚会断掉。

我们绝大多数人,没有移山填海的毅力,因此这样的学习方式,是不科学的。大脑发出指令的动机其实和海洋馆的海豹一样,是为了眼前那一条小鱼干,顶一次球,给一条鱼,再顶一次,再给一次。也就是说,只有不断收到正向的反馈,才会自然而然地保持前进的动力。

本质上,这只是把“学习”动作的反馈回路,搬到了游戏上来。搞清楚这点,我们就可以思考,如何让自己像打王者荣耀一样的学习


 反馈强化

先让我们回到游戏本身。游戏带给玩家的反馈是否足够,是决定一个游戏是否有趣的基础。而游戏厂商在做的事情,就是将反馈回路,竭尽所能的加强和加快,也即提高动作的收益,比如推掉水晶,你获得的不只是胜利,游戏分数也会提升。或者增加不确定性,让玩家耗费更多次的尝试,来确定反馈回路,比如部分皮肤的随机性。

简单来说,常见的游戏,都是基于以下三种强化模式,来对游戏结果的反馈机制进行加强:

  • 一种是“固定比率强化”(Fixed Ratio),比如“打败10个哥布林一定可以升1级”,“连胜10场一定可以升段”

  • 一种是“固定时距强化”(Fixed Interval),比如“《皇室战争》里的白银宝箱3小时后一定可以解锁”

  • 还有一种“不固定比率强化”(Variable Ratio),也就是“《阴阳师》每抽一次卡,有1%的几率抽到SSR”

这三种方法,将强化学习中的不确定性奖励,固化成为确定性收益,比如分数、卡牌、等级。

分别为游戏厂商带来了留存率,在线人数,和净收入。


 我们该怎么做?

学霸和学渣的区别,就在于对快感的预期不同。预期不同,形成的反馈也就不同。成为学霸,需要不断强化自己的反馈回路。最基本的,从以下三点做起

1. 缩短反馈周期

反馈周期太长,意味着半衰期长。半衰期是什么,下期文章我会讲。这里只需要知道,反馈周期太长是大多数人无法坚持的主要障碍。举个例子,有的人高中时成绩很好,为何到大学时成绩就一落千丈?有人说,是因为高考之后人松懈了,就容易变笨。很可惜,这个说法或许有道理,却并没有研究结论支撑。真正的原因,其实是反馈周期变长了。

在高中时,一个月会有3-4次测试,你努力学习一个周,就能看到努力的效果,班级名次很容易进步。接着,同学吃惊,家长老师表扬,你觉得特别很开心,打了鸡血一样继续学习,这种感觉可能会持续几天,还没等它消退,下一次考试又来了。不出意外,你会接着获得下一次正反馈。在这样的反馈回路中,“动作”带来的“奖励”被极大加速,整个系统变得完全正向。

上了大学以后,认真学习一个学期,才能有一个好的GPA,这个反馈周期变长了几倍,而且也很少有人因为GPA受到表扬,因此,大多数人坚持不来。取而代之的,很多人习惯考试前1个周开始执行“学习”动作,因为只需要1个周就可以获得相当可观“奖励”,比如及格。所以,想办法减少你的反馈周期,比如,将大目标分解为小目标,会更容易获得成就感。

2. 增加反馈强化

我们提到过三种反馈强化模式,那么把“游戏”替换成“学习”,我们要做的是什么呢?可以是考试累计进步10名就请自己吃烧烤,也可以是隔壁班的小爱刮目相看的“SSR”,又或是再看3小时书就去打王者荣耀。

对应到游戏厂商的三种收益上来,就是提高学习留存率,延长学习时间,增加学习收益。

3. 调整反馈难度

斯坦福大学行为科学研究人员曾发表过一篇论文,大意是玩家在高难度游戏获胜的那一刻,大脑多巴胺回路会异常激活。也就是说,适当的高难度游戏,能够最大化地激活反馈回路。这也是各大竞技类游戏排位赛机制的由来,通过匹配不同难度的对手,即不会让你一直输下去,也不会让你永远赢。它们塑造一种“升段”“掉段”的奖励机制,让你的反馈回路一直处于半激活状态。

在学习中,如何设置难度,需要根据个人情况制定,比如,下一次考试提高10分,和成为班级第一,就是两种不同的难度。难度可以递进,既不要太简单,也不能太难。

一旦大脑形成了正反馈回路机制,那么尝过一次甜头,食髓知味,你的动力将会更加充足,久而久之,甚至会享受学习这件事情本身,像打王者一样石乐志一般的学习,最终爱上学习。这,就是学霸的诞生规则。

关于反馈机制,其实还有很多东西可以讲,具体的学习方法也远不止这些,有一种叫做“心流”的东西,是增强学习能力的利器。但是因为时间关系,我不想把文章写的太长。更多的学习方法和强化学习知识,欢迎关注我的下一期文章。

文章之后会制作成视频发在B站,也谢谢大家的阅读~

posted @ 2020-01-06 15:20  但行好事-莫问前程  阅读(108)  评论(0编辑  收藏