深入剖析SVM核心机制:铰链损失函数的原理与代码实现
铰链损失(Hinge Loss)是支持向量机(Support Vector Machine, SVM)中最为核心的损失函数之一。该损失函数不仅在SVM中发挥着关键作用,也被广泛应用于其他机器学习模型的训练过程中。从数学角度来看,铰链损失函数提供了一种优雅的方式来量化分类器的预测性能。
数学表达式
铰链损失函数的标准数学形式为:
L(y, f(x)) = max(0, 1 - y·f(x))
其中:
- y ∈ {-1, 1}:表示真实标签
- f(x):表示模型的预测输出
- y·f(x):表示预测值与真实标签的乘积
https://avoid.overfit.cn/post/61d9c9ea96f8475f80694d42092c9d02