感知机算法学习

感知机算法学习

1.1 感知机模型

1.2 感知机学习策略

1.3 感知机学习算法

1.4 感知机作业例题

　　首先说明作业是李航编写的统计学习算法P40页，例2.1，题目就不再介绍了，直接附上代码实现内容，ide用的jupyter。

　　

# !/usr/bin/python
# -*- coding: utf-8 -*-
"""
@File    :   Perceptron.ipynb
@Time    :   2021/09/01 11:08:14
@Author  :   Comp1ex
@Version :   1.0
@Contact :   None
@License :   (C)Copyright 2021-Forever
@Desc    :   None
"""

import numpy as np
class PerceptionMethod(object):  # 定义 感知机学习 类
    '''
    __init__为类中的构造函数
    self为传入的对象实例，就好像java中的对象实例一样
    '''
    
    def __init__(self, X, Y, eta):  # 类中参数是 X,Y（X,Y)均为numpy数组,eta,eta是学习率
        if X.shape[0] != Y.shape[0]:  # 要求X,Y中的数目一样，即一个x对应一个y,否则返回错误
            raise ValueError('Error,X and Y must be same when axis=0 ')
        else:  # 给实例传参
            self.X = X
            self.Y = Y
            self.eta = eta

    def ini_Per(self):  # 感知机的原始形式
        weight = np.zeros(self.X.shape[1])  # 初始化weight,b
        b = 0
        number = 0  # 记录训练次数
        mistake = True  # mistake是变量用来说明分类是否有错误
        while mistake is True:  # 当有错时
            mistake = False  # 开始下一轮纠错前需要将mistake变为False，用来判断这一轮是否有错误
            for index in range(self.X.shape[0]):  # 循环开始
                if self.Y[index] * (weight @ self.X[index] + b) <= 0:  # 错误判断条件，@为python中的矩阵乘法运算符,当两者都是向量时为点积运算
                    weight += self.eta * self.Y[index] * self.X[index]  # 进行更新weight，b，这里求出来的weight是一个向量
                    b += self.eta * self.Y[index]
                    number += 1
                    print(weight, b)
                    mistake = True  # 此轮检查出错误，表明mistake为true，进行下列一轮
                    break  # 找出第一个错误后调出循环
        return weight, b  # 返回值

 

X = np.array([[3, 3], [4, 3], [1, 1]])
Y = np.array([1, 1, -1])
PER = PerceptionMethod(X, Y, 1)
print(PER.ini_Per())

输出结果

[3. 3.] 1
[2. 2.] 0
[1. 1.] -1
[0. 0.] -2
[3. 3.] -1
[2. 2.] -2
[1. 1.] -3
(array([1., 1.]), -3)