损失函数

平方损失函数十分常见，比如用在最小二乘法中。它在数学上通常比其他损失函数更容易进行处理，这是因为它具有方差的性质，以及对称性：高于目标值的误差产生的损失与低于目标值同样大小的误差产生的损失相等。假设目标值为t，那么平方损失函数为

${\displaystyle \lambda (x)=C(t-x)^{2}\;}$

其中C为某个常数，它的值与决定无关，并且可以通过设为1来略去。

在统计学与决策论中，一个常见的损失函数是0-1损失函数

${\displaystyle L({\hat {y}},y)=I({\hat {y}}\neq y),\,}$

其中${\displaystyle I}$是指示函数。