MLA-C01 Udemy Companion

可打印速查表

模型指标与错误成本

先决定哪类错误更贵,再选指标和阈值。

二分类混淆矩阵

实际正类实际负类
预测正类TPFP:误报
预测负类FN:漏报TN
指标公式优先场景
Accuracy(TP + TN) / All类别平衡、错误成本接近
PrecisionTP / (TP + FP)误报昂贵
Recall / TPRTP / (TP + FN)漏报昂贵
Specificity / TNRTN / (TN + FP)正确排除负类重要
F12PR / (P + R)需要平衡 precision/recall
ROC-AUC跨阈值 TPR 对 FPR一般排序能力
PR-AUC跨阈值 Precision 对 Recall正类极少

回归

指标性质陷阱
MAE线性惩罚,原单位对大误差不如 RMSE 敏感
MSE平方惩罚单位为目标平方
RMSE平方惩罚,原单位被极端误差显著影响
相对均值基线解释方差可为负,不代表绝对误差小
MAPE百分比尺度目标为零/接近零时不稳定

快速决策

先把业务损失映射到 FP、FN 或回归大误差。
选择与损失一致的主指标,不用 accuracy 掩盖不平衡。
在验证集上选择阈值,保持独立测试集做最终估计。
生产中同时监控模型指标、数据分布和业务结果。

记忆:误报贵看 Precision,漏报贵看 Recall,两者兼顾看 F1,极不平衡看 PR-AUC,大回归误差特别贵看 RMSE。