回归模型评价指标
回归模型的性能的评价指标主要有:RMSE(平方根误差)、MAE(平均绝对误差)、MSE(平均平方误差)、R2_score。回归模型是机器学习中很重要的一类模型,不同于常见的分类模型,回归模型的性能评价指标跟分类模型也相差很大
先看看计算公式:
1、MSE(平均平方误差、均方误差)
均方误差是线性回归中最常见的损失函数,MSE可以评价数据的变化程度,MSE的值越小,说明预测模型描述实验数据有更好的精确度。
2、RMSE(均方根误差、标准误差)
标准误差是均方误差的算术平方根,开方后,误差的结果与数据是一个级别的。标准误差对测量中的离群点反映非常敏感。标准误差可以反映出测量的精密度。
3、MAE(平均绝对误差)
平均绝对误差能更好的反映预测值误差的实际情况。
4、R2_score
如果结果是1,说明我们的预测模型无错误
分子分母同除以m,分子就变成了均方误差,分子为方差。
R2介于0和1之间,越接近于1,回归拟合效果越好,一般认为超过0.8的模型拟合优度比较高。
拓展阅读
平均绝对误差(MAE, Mean Absolute Error)
这个指标是对绝对误差损失的预期值.
MAE(y,y^)=1n∑i=1n|yi−y^i|
平均绝对百分比误差(MAPE, Mean Absolute Percentage Error)
这个指标是对相对误差损失的预期值.所谓相对误差,就是绝对误差和真值的百分比.
MAPE(y,y^)=1n∑i=1n‖yi−y^i‖‖yi‖
均方误差(MSE, Mean Squared Error)
该指标对应于平方(二次)误差的期望.
MSE(y,y^)=1n∑i=1n‖yi−y^i‖22
均方误差根或均方根误差(RMSE, Root Mean Squared Error)
该指标对应于平方(二次)误差的期望.
RMSE(y,y^)=1n∑i=1n‖yi−y^i‖22
均方误差对数(MSLE, Mean Squared Log Error)
该指标对应平方对数(二次)差的预期.
MSLE(y,y^)=1n∑i=0n(log(1+yi)−log(1+y^i))2
中位绝对误差(MedAE, Median Absolute Error)
通过取目标和预测之间的所有绝对差值的中值来计算损失.
MedAE(y,y^)=median(∣y1−y^1∣,…,∣yn−y^n∣)
R Squared(r2 score)
R Squared又叫可决系数(coefficient of determination)也叫拟合优度,反映的是自变量x对因变量y的变动的解释的程度.越接近于1,说明模型拟合得越好.
R2(y,y^)=1−∑i=0n(yi−y^i)2∑i=0n(yi−y¯)2=ESSTSS=1−RSSTSS
其中,
TSS(Total Sum of Squares)=∑i=0n(yi−y¯)2
表示的是y的变动的程度,正比于方差.
RSS(Residual Sum of Squares)=∑i=0n(yi−y^i)2
表示的是模型和真实值的残差.
ESS(Explained Sum of Squares)=∑i=0n(y^i−y¯)2
表示的是模型对y的变动的预测.