摘要: 最大熵模型与逻辑回归类似,是对数线性分类模型。在损失函数优化过程中,使用和支持向量机类似的凸优化技术。对熵的使用,会想起决策树ID3和C4.5。 1. 最大熵模型的定义 将最大熵原理应用到分类得到最大熵模型。 用最大熵模型选择一个最好的分类模型。训练集,其中x为n维特征向量,y为类别输出。 训练集总 阅读全文
posted @ 2019-04-22 20:16 做梦当财神 阅读(831) 评论(0) 推荐(0)
摘要: 欧几里得空间,希尔伯特空间都属于函数空间(函数空间的元素都是由函数组成)。 函数空间的定义得从距离、范数、内积、完备性说起。 1. 距离 距离包括各个点之间的距离,向量之间的距离,曲线之间的距离,函数之间的距离等。 距离用于衡量同一空间不同元素之间的差异,下面是关于距离的属性: 元素之间的距离大于等 阅读全文
posted @ 2019-04-22 15:35 做梦当财神 阅读(3830) 评论(0) 推荐(0)