Python中Scikit-learn如何计算样本权重_设置class_weight平衡损失

class_weight="balanced"按公式n_samples/(n_classes×n_samples_in_class)计算权重，如1000样本、3类别、分布[800,150,50]时权重≈[0.417,2.222,6.667]，分母含类别数以均衡各类总惩罚量。

class_weight="balanced"到底怎么算的

它不是简单地让每个类的权重等于总样本数除以该类样本数，而是按 total_samples / (n_classes * n_samples_in_class) 算的。比如 1000 个样本、3 个类别、各类别数量分别是 [800, 150, 50]，那权重就是：[1000/(3*800), 1000/(3*150), 1000/(3*50)] ≈ [0.417, 2.222, 6.667]。注意分母里有 n_classes 这一项——很多人误以为是 total_samples / n_samples_in_class，结果自己手算对不上。

手动传入class_weight字典时的常见错误

最容易出错的是键类型不匹配：如果你的 y 是 int 类型（比如 [0, 1, 2]），字典就得用 {0: 1.0, 1: 5.0, 2: 10.0}；如果 y 是 str（比如 ["cat", "dog", "bird"]），那字典必须写成 {"cat": 1.0, "dog": 5.0, "bird": 10.0}。传错类型会直接报 ValueError: Class label not found。

其他要点：

• 字典只需覆盖训练集中实际出现的类别，没出现的类不用写
• 权重值可以是任意正浮点数，不强制归一化
• 如果用了 sample_weight 参数，class_weight 会先作用于损失函数，再和 sample_weight 相乘

LogisticRegression和SVC对class_weight的支持差异

LogisticRegression 默认支持 class_weight，且在 solver="liblinear" 或 "saga" 下表现稳定；但 SVC 虽然也接受该参数，实际生效的是对 hinge 损失的调整，且在 kernel="rbf" 时效果常不如预期——尤其当类别极度不平衡时，它可能仍倾向于多数类，这时得配合 decision_function_shape="ovr" 和调小 C 来缓解。

关键区别：

Python 3.14.3

微软官方的 Python 扩展，是 VS Code 安装量最高的扩展（209M+）。集成 IntelliSense（通过 Pylance）、调试（通过 Python Debugger）、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。

• RandomForestClassifier 内部不通过损失加权，而是用 class_weight 影响分割时的基尼不纯度计算方式
• XGBClassifier 不认 class_weight，得改用 scale_pos_weight（仅限二分类）或手动构造 sample_weight
• class_weight 对 SGDClassifier 有效，但需确保 loss 支持加权（如 "log_loss" 或 "hinge"）

验证class_weight是否真正起效的方法

不能只看训练集上的准确率——多数类占比高时，全猜多数类也能达到 90%+ 准确率。应该看 classification_report(y_true, y_pred) 中每个类的 f1-score，尤其是少数类；更稳妥的是在验证集上画 confusion_matrix，确认召回率（recall）是否提升。

快速验证步骤：

• 训练两个模型：一个带 class_weight="balanced"，一个不带
• 用同一验证集预测，分别调用 clf.predict_proba(X_val)
• 对比少数类的平均预测概率：加权后应明显高于未加权版本（例如从 0.15 升到 0.35）
• 检查 clf.classes_ 和 clf.n_features_in_ 是否正常，避免因数据预处理 bug 导致权重被静默忽略

真正容易被忽略的是：class_weight 只影响训练时的损失计算，不改变预测逻辑本身；如果特征本身无法区分少数类，再高的权重也救不回 recall —— 它不是魔法，只是让模型“更愿意”学少数类的模式。