摘要: 信息 数据的信息属性是与任务相关的. 对于分类任务, 标签值$y$包含的信息量为: $$ info(y) = ln p(y) $$ 其中, $p(y)$为$y$出现的概率. $p(y)$越小, $y$包含的信息量越大. 这是符合直觉的. 熵 熵定义为信息的期望值. 一个可以分为$m$类的数据集$S$ 阅读全文
posted @ 2016-12-06 23:54 宁静是一种习惯 阅读(1130) 评论(0) 推荐(0)
摘要: $n$维行列式的值: $$ |A| = \sum_{c_1, \dots, c_n} ( 1)^r(s) a_{1,c_1}\dots a_{n, c_n} $$ 其中: $s = {c_1, \dots, c_n}$为$(1, \dots, n)$的一个全排列. $r(s)$为$s$的逆序数. 现 阅读全文
posted @ 2016-12-06 10:38 宁静是一种习惯 阅读(797) 评论(0) 推荐(0)
摘要: 同济版线性代数教材里, 行列式为第一章. 真心不好. 虽然放在第一章也有一定理由: 行列式的概念可以不依赖于教材其他章节的任何概念而独立存在, 并且被其他很多概念所依赖, 比如秩等. 把它放在第一章可以保持概念体系的完整性. 可是, 作为学习教材, 理论体系的完整性固然重要, 但却应让位于可读性, 阅读全文
posted @ 2016-12-06 00:45 宁静是一种习惯 阅读(241) 评论(0) 推荐(0)