回归与分类问题总结

1. 线性回归问题

最小二乘法，梯度下降法，神经网络法均能应用于线性回归问题。在实践中，对于标准的线性回归问题，人们通常首选最小二乘法，因为它能直接给出精确解且速度快；对于大数据集，梯度下降法是更好的选择。