机器学习第一章-总结

1、表中若只包含编号为1，4的两个样例，试给出相应的版本空间。

编号	色泽	根蒂	敲声	好瓜
1	青绿	蜷缩	浊响	是
2	乌黑	蜷缩	浊响	是
3	青绿	硬挺	清脆	否
4	乌黑	稍蜷	沉闷	否

定义：假设空间指的是问题所有假设组成的空间，我们可以把学习过程看作是在假设空间中搜索的过程，搜索目标是寻找与训练集“匹配”的假设。

假设数据集有n种属性，第i个属性可能的取值有t_i∏i(ti+1)∏i(ti+1)∏i(ti+1)∏i(ti+1)

编号	色泽	根蒂	敲声	好瓜
1	青绿	蜷缩	浊响	是
2	乌黑	稍蜷	沉闷	否

数据集有3个属性，每个属性2种取值，一共3*3*3+1=28

1.色泽=青绿根蒂=蜷缩敲声=浊响
2.色泽=青绿根蒂=蜷缩敲声=沉闷
3.色泽=青绿根蒂=稍蜷敲声=浊响
4.色泽=青绿根蒂=稍蜷敲声=沉闷
5.色泽=乌黑根蒂=蜷缩敲声=浊响
6.色泽=乌黑根蒂=蜷缩敲声=沉闷
7.色泽=乌黑根蒂=稍蜷敲声=浊响
8.色泽=乌黑根蒂=稍蜷敲声=沉闷
9.色泽=青绿根蒂=蜷缩敲声=*
10.色泽=青绿根蒂=稍蜷敲声=*
11.色泽=乌黑根蒂=蜷缩敲声=*
12.色泽=乌黑根蒂=稍蜷敲声=*
13.色泽=青绿根蒂=* 敲声=浊响
14.色泽=青绿根蒂=* 敲声=沉闷
15.色泽=乌黑根蒂=* 敲声=浊响
16.色泽=乌黑根蒂=* 敲声=沉闷
17.色泽=* 根蒂=蜷缩敲声=浊响
18.色泽=* 根蒂=蜷缩敲声=沉闷
19.色泽=* 根蒂=稍蜷敲声=浊响
20.色泽=* 根蒂=稍蜷敲声=沉闷
21.色泽=青绿根蒂=* 敲声=*
22.色泽=乌黑根蒂=* 敲声=*
23.色泽=* 根蒂=蜷缩敲声=*
24.色泽=* 根蒂=稍蜷敲声=*
25.色泽=* 根蒂=* 敲声=浊响
26.色泽=* 根蒂=* 敲声=沉闷
27.色泽=* 根蒂=* 敲声=*

28.空集Ø 编号1的数据可以删除

1.色泽=青绿根蒂=蜷缩敲声=浊响
9.色泽=青绿根蒂=蜷缩敲声=*
13.色泽=青绿根蒂=* 敲声=浊响
17.色泽=* 根蒂=蜷缩敲声=浊响
21.色泽=青绿根蒂=* 敲声=*
23.色泽=* 根蒂=蜷缩敲声=*
25.色泽=* 根蒂=* 敲声=浊响

一般情况下版本空间是正例的泛化，但由于数据集中只有1个正例，所以在版本空间中依然包含了这个样本的假设(假设1)。

2、与使用单个合取式来进行假设表示相比，使用“析合范式”将使得假设空间具有更强的表示能力。若使用最多包含k个合取式的析合范式来表达1.1的西瓜分类问题的假设空间，试估算有多少种可能的假设。

表包含4个样例，3种属性，假设空间中有

如果考虑沉余的情况
在这里忽略空集，一个原因是并不是太明白空集是否应该加入析合式，另外就算需要加入，求出了前面48种假设的组合，可以很容易求出加入空集后的组合数(每种可能都可以加上空集，再加上1种空集单独的情况)。
48种假设中：
具体假设：

使用栈来实现非递归，如果当前假设还有没被析合式所包含的具体假设，则认为可以入栈，并当前栈大小的长度计数加
如果当前扫描已经到了最后一个假设，或者所有具体假设已经被全部包含，则退栈。
循环结束条件：当最后一个假设作为第一个压入栈的元素时，认为已经遍历结束。

由于一共有

判断析合式是否包含了全部的具体假设：hypos_cur=
判断该假设是否已经被析合范式包含:用hypo_const与hypos_cur做与运算(结果用hypo_tmp表示)，如果为
当某个假设加入析合范式后(入栈)用hypos_cur与hypo_tmp做异或运算，来更改析合式所包含的具体假设。
出栈时再次用hypos_cur与hypo_tmp做异或，回到加入该假设前的情况。
因为是指数级遍历的算法，所以很慢。

#include <vector>
#include <stack>
using namespace std;

//按泛化程度排序，保证排在后面的假设不会不会包含前面的任何一个假设
static const char list[] = {
    0,0,0,
    0,0,1,0,0,2,0,0,3,0,1,0,0,2,0,0,3,0,1,0,0,2,0,0,
    0,1,1,0,1,2,0,1,3,0,2,1,0,2,2,0,2,3,0,3,1,0,3,2,0,3,3,
    1,0,1,1,0,2,1,0,3,2,0,1,2,0,2,2,0,3,
    1,1,0,1,2,0,1,3,0,2,1,0,2,2,0,2,3,0,
    1,1,1,1,1,2,1,1,3,1,2,1,1,2,2,1,2,3,1,3,1,1,3,2,1,3,3,
    2,1,1,2,1,2,2,1,3,2,2,1,2,2,2,2,2,3,2,3,1,2,3,2,2,3,3
};

//用来派生的抽象类
class hypos {
public:
    virtual int insert(int cur) = 0;
};

//单个的假设类
/*
hypo_const  假设对应的具体假设集合
*/
class hypo :public hypos {
public:
    hypo(int a, int b, int c) {
        hypo_const = 0;
        vector<char>  p[3];
        if (a == 0) {
            p[0].push_back(1);
            p[0].push_back(2);
        }
        else
            p[0].push_back(a);
        if (b == 0) {
            p[1].push_back(1);
            p[1].push_back(2);
            p[1].push_back(3);
        }
        else
            p[1].push_back(b);
        if (c == 0) {
            p[2].push_back(1);
            p[2].push_back(2);
            p[2].push_back(3);
        }
        else
            p[2].push_back(c);
        for (unsigned int i = 0;i < p[0].size();i++)
            for (unsigned int j = 0;j < p[1].size();j++)
                for (unsigned int k = 0;k < p[2].size();k++)
                    hypo_const |= (1 << (p[0][i] * 9 + p[1][j] * 3 + p[2][k] - 13));
    }

    //判断是否要加入到析合式 如果还有具体假设没被包含，则加入
    int insert(int cur) {
        return (hypo_const & cur);
    };

private:
    int hypo_const;
};

//用于压入栈的派生类 用来实现非递归
/*
hypo_tmp    记录这个假设入栈时，带入了哪些具体假设，出栈时要还原
ptr         记录入栈时的位置
*/
class hypo_ss :public hypos {
public:
    hypo_ss(int _ptr,int tmp){
        hypo_tmp = tmp;
        ptr = _ptr;
    }
    int insert(int cur) {
        return 0;
    };
    int hypo_tmp;
    int ptr;
};

//用来循环遍历的类
/*
sum     各个长度的析合式各有多少种可能
ss      用来实现非递归的栈
hypos_cur   当前没被包含的具体假设 初始值为0X3FFFF
hyposs  48个假设集合
*/
class Traversal :public hypos {
public:
    Traversal() {
        hypos_cur = 0x3ffff;
        for(int i=0;i<48;i++)
            hyposs.push_back(hypo(list[3*i], list[3*i+1], list[3*i+2]));
    }

    //循环顺序遍历的主体
    //cur  初试的位置 设为0
    int insert(int cur) {
        //当前指向的位置
        int ptr = cur;
        while (1) {
            //退出条件 当最后一个假设作为第一个入栈的元素 表示遍历完成
            if (ptr > 47 && !ss.size()) break;
            //回退条件  扫描到最后或者所有具体假设都被包含 
            if (hypos_cur == 0 || ptr>47) {
                hypo_ss hypo_tmp = ss.top();
                hypos_cur ^= hypo_tmp.hypo_tmp;
                ptr = hypo_tmp.ptr + 1;
                ss.pop();
                continue;
            }

            //入栈条件  如果该假设还有未被包含的具体假设 则入栈，并当前栈大小的计数加1
            if (int tmp =hyposs[ptr].insert(hypos_cur)) {
                hypos_cur ^= tmp;
                ss.push(hypo_ss(ptr, tmp));
                if (sum.size() < ss.size())
                    sum.push_back(0);
                sum[ss.size() - 1]++;
            }
            ptr++;
        }
        return 1;
    };
    //输出各个长度的可能数
    void print() {
        for (unsigned int i = 0;i < sum.size();i++)
            printf("length %d : %d\n", i + 1, sum[i]);
    }
private:
    vector<int> sum;
    stack<hypo_ss> ss;
    int hypos_cur;
    vector<hypo> hyposs;
};

int main()
{
    Traversal traversal;
    traversal.insert(0);
    traversal.print();
    system("pause");
    return 0;
}

/*
最终输出:
length 1 : 48
length 2 : 931
length 3 : 10332
length 4 : 72358
length 5 : 342057
length 6 : 1141603
length 7 : 2773332
length 8 : 4971915
length 9 : 6543060
length 10 : 6175660
length 11 : 4003914
length 12 : 1676233
length 13 : 422676
length 14 : 61884
length 15 : 5346
length 16 : 435
length 17 : 27
length 18 : 1
*/

3、若数据包含噪声，则假设空间中可能不存在与所有训练样本都一致的假设。在此情形下，试设计一种归纳偏好用于假设选择

通常认为两个数据的属性越相近，则更倾向于将他们分为同一类。若相同属性出现了两种不同的分类，则认为它属于与他最临近几个数据的属性。也可以考虑同时去掉所有具有相同属性而不同分类的数据，留下的数据就是没误差的数据，但是可能会丢失部分信息。

4、在论述“没有免费的午餐”定理时，默认使用了“分类错误率”作为性能度量来对分类器进行评估。若换用其他性能度量

试述机器学习在互联网搜索的哪些环节起什么作用

最常见的，消息推送，比如某东经常说某些商品我可能会感兴趣，然而并没有。
网站相关度排行，通过点击量，网页内容进行综合分析。
图片搜索，现在大部分还是通过标签来搜索，不过基于像素的搜索也总会有的吧。

posted @ 2017-05-22 16:16 Sirius丶武灬阅读(996) 评论(0) 收藏举报

刷新页面返回顶部

机器学习 第一章-总结

公告

机器学习第一章-总结