2022-05-信息论-吴军

前情提要

反正最近一段时间我对世界充满了怀疑的，昨天看了一上午的边缘计算的论文，下午构思了3篇专利，整个人快傻了，突然那种没有边界的探索和未知感，让我感到很无力，但是一般的科普读物又不能解答自己的相关疑惑；过去的两年里我很沉迷于听书，《中华上下五千年》，《春秋》《战国》《鬼谷子》《吕不韦传》《秦始皇》《汉书》《后汉书》《三国演义》《资治通鉴》《明朝那些事》《清史稿》《周易》《中国近代史》《胡雪岩传》，还有其他历史相关的语音书籍我听了很多，但是我又开始思考其他相关自然和社会的一些问题了，历史学没有办法告诉你这些事情的，因为了解了很多历史性的事件，虽然不能把每个人物和事件记得很清楚，但是心态确实收到了影响；所以现在我开始学习下围棋，围棋中的一些策略，我直呼神之一手，我没有太强的好胜心，但是围棋中可以看懂很多好玩的事情；

因为要写论文，所以感觉就算研究生学习生涯里要每周做汇报总结，但是也是没有办法的得到一个很好的创新思维的，万事万物都是有着千丝万缕的关系的，马克思主义哲学也是如此，但是这种学问太过于意识形态化了，至少在中国是这样的，所以要学一些没有政治符号的理论才有意思，当然声明一下，我还是很爱国的，只不过是我一生放荡不羁爱自由，所以我就想到了“五论”，信息论，系统论，控制论，博弈论，方法论；但见了鬼了，信息论我居然之前学习过的，并且学了大半，但是没有什么印象，要做笔记呀！信息论和博弈论我应该都学习过，博弈论是浙江大学蒋文华老师的博弈论基础，信息论就是吴军老师的课程喽，为了加深印象所以信息论再过一遍并且持之以恒，但是博弈论不再学习基础了，选择一门博弈论的进阶课程进行学习，所有的学习都是在潜移默化的影响，只是我们会遗忘，只是一眼便能回望过往烟云；

课程概要

2022-05-03 周二杭州阳光明媚

小记：穿着睡衣在学习，我感觉我挺适合科研工作，但是没钱呀！一切都是因为热爱吧

0 信息论发刊词：https://youtu.be/SgcU9nl9oAM

课程概括：这个世界唯一不变的就是变化，所以应对这些变化的信息论是我们每个人的人生必修课，认识不确定性的世界更好的达成目标；

信息论01讲 | 影响世界的三比特信息：https://youtu.be/MQZnftslmXw

课后感悟01：时间发生的概率越大，所需编码的比特就会越小；

课后感悟02：
a. 信息很重要，甚至比钱更重要，他可以四两拨千斤，信息作用的大小和信息量有关；
b. 信息量和不确定性有关，众所周知的事情，就没有什么信息量可言的；
c. 对一个位置系统（黑盒子）所做出的的估计和真实情况的偏离，就是信息的损失，偏离越多损失越大；

信息论02讲 | 解开世界之谜的三篇诺贝尔论文：https://youtu.be/7_I3CMo4LLU

探索宇宙诞生的方法：
一是寻找 3K 背景辐射，二是以空间换时间：

课后感悟：
第一信息和能量一样都是宇宙本身固有的特性；
第二在一个领域贡献的大小，不在于你提供多少的材料，二是在于你提供多少的信息量；

内心OS：一篇好的论文，一方面需要信息量高，另一方面需要在信息传播上效率高；
信息论总结：控制生命活动的信息并不被我们主观控制，但是我们可以发现他们；

2022-05-04 周三杭州天清气明

信息论03讲 | 大数据思维的科学基础：https://youtu.be/RzoIXxbZa3U

大数据思维的科学依据：利用大数据量消除不确定性的影响，利用大数据发现背后未被发现的未知规律，这是背后涉及互信息的理论；

课后感悟：信息论在经管领域的应用远比在计算机领域的应用更加的广泛和充分；

2022-05-07 周六杭州阴转晴

信息论04讲 | 信息的量化度量，世界有稳赚不赔的生意吗？：https://youtu.be/IrRGG2tZUfQ

课后感悟：做简单的事，说重要的话，传达有效的信息量，无用的心灵鸡汤骗骗小孩子还行，都是成年人不要太认真了。

2022-05-29 周日杭州雨声芭蕉

信息论05讲：https://youtu.be/OYdlFNzkVCg

数字诞生过程编码：

文字诞生过程编码：

课后总结：

课后感悟：人类进化过程就是对于语言文字的编码过程，古代的时候掌握编码信息的人便具备处于精英阶级的可能性，所以这就是特权垄断，现代社会的内卷也是一样的道理，通过掌控尽可能多的信息从而获得社会上源源不断的特权利益，农民因为掌握不了这些信息编码，所以他们必然就是被这个时代奴役和驱使，所以一个人处于什么位置不重要，关键要有信息整合的能力和转化力；

信息论06讲 | 有效编码 10个手指能表示多少个数字？：https://youtu.be/wYrP56X7zZA

课后感悟01：编码原则，需要注意有效性和易辨识，否则就违背了编码的基本原则，高效的编码是提升效率的关键因素，编码是一种纯科学的问题，可是编码实验如果带有伦理来看的时候，就有点尖锐了；

课后感悟02：今天的信息编码真的是很牛逼的，64 个药品中有一瓶毒药，通过几只小白鼠可以实现寻找到毒药的目的，这种方式我之前应该看过讲解，但是当时云里雾里，没有达到那么水平，所以迷迷糊糊的，但是今天听了以后，豁然开朗了，最直接的想法，64 只小鼠，64只毒药，每人一瓶，最后会有一个小鼠死亡，但是这样观察的实验样品就会很多，违背了有效编码的逻辑，但是这样也是最人道和公平的，可是为了公平造成了集体的风险和损失又是极不明智的选择；但这是信息论啦，所以通过信息论 log 64 =6 , 就可以得出6只小鼠就可以得到最后的验证结果，我们只要想办法让每只老鼠吃的药物各不相同(总量)，这样就可以通过对比分析有效的得出那一瓶是毒药；但是这样风险也会很大，因为最好的情况是所有小鼠全部存活，最坏的情况是5只小鼠需要殒命；

2022-05-31 杭州周二阴雨连绵

信息论07讲 | 最短编码如何利用哈夫曼编码原理投资： https://youtu.be/TS73h930zcM