每日总结20

请写出一般线性回归（最小二乘法线性回归）的伪代码

 

我的答案：
// 输入: 数据集 X (特征) 和 y (目标值)

// 输出: 回归模型参数 θ

 

函数 LinearRegression(X, y):

    // 1. 初始化参数

    m = 数量(X)  // 样本数量

    n = 特征数量(X)  // 特征数量

    θ = [0, 0, ..., 0]  // 初始化参数 θ，长度为 n + 1

 

    // 2. 添加偏置项（截距）

    X_b = 添加偏置项(X)  // 在 X 的第一列添加常数 1

 

    // 3. 计算参数 θ 的最优值

    θ = 逆(X_b^T * X_b) * X_b^T * y

 

    // 4. 返回模型参数

    返回 θ

 

 

// 预测函数

函数 Predict(X, θ):

    // 1. 添加偏置项

    X_b = 添加偏置项(X)

 

    // 2. 计算预测值

    y_pred = X_b * θ

 

    // 3. 返回预测值

    返回 y_pred

 

 

// 主程序

数据集 X, y = 读取数据集()

 

// 训练线性回归模型

θ = LinearRegression(X, y)

 

// 进行预测

X_new = 新数据集()  // 新输入数据

y_pred = Predict(X_new, θ)

 

// 输出预测结果

打印(y_pred)

 

3. (简答题)
请写出对数几率线性回归算法的伪代码。

（可手写拍照提交，纸上写明学号姓名）

我的答案：
// 输入: 数据集 X (特征) 和 y (标签)

// 输出: 回归模型参数 θ

 

函数 LogisticRegression(X, y, learning_rate, iterations):

    // 1. 初始化参数

    m = 数量(X)  // 样本数量

    n = 特征数量(X)  // 特征数量

    θ = [0, 0, ..., 0]  // 初始化参数 θ，长度为 n + 1

 

    // 2. 添加偏置项（截距）

    X_b = 添加偏置项(X)  // 在 X 的第一列添加常数 1

 

    // 3. 梯度下降

    对于 i 从 1 到 iterations:

        // a. 计算预测值（使用 sigmoid 函数）

        z = X_b * θ

        y_pred = Sigmoid(z)

 

        // b. 计算梯度

        gradients = (1/m) * X_b^T * (y_pred - y)

 

        // c. 更新参数

        θ = θ - learning_rate * gradients

 

    // 4. 返回模型参数

    返回 θ

 

 

// Sigmoid 函数定义

函数 Sigmoid(z):

    返回 1 / (1 + exp(-z))

 

 

// 预测函数

函数 Predict(X, θ):

    // 1. 添加偏置项

    X_b = 添加偏置项(X)

 

    // 2. 计算预测值

    z = X_b * θ

    y_pred_prob = Sigmoid(z)

 

    // 3. 将概率转换为类别标签

    y_pred = [1 如果 prob >= 0.5 否则 0 对于 prob 在 y_pred_prob 中]

 

    // 4. 返回预测类别

    返回 y_pred

 

 

// 主程序

数据集 X, y = 读取数据集()

学习率 = 0.01

迭代次数 = 1000

 

// 训练逻辑回归模型

θ = LogisticRegression(X, y, 学习率, 迭代次数)

 

// 进行预测

X_new = 新数据集()  // 新输入数据

y_pred = Predict(X_new, θ)

 

// 输出预测结果

打印(y_pred)