汉语宝典

模型融合加权投票

按各模型权重计算加权投票或加权平均的集成输出概率,适用于集成学习、模型融合与预测精度提升方案评估。

🤖 Ensemble Weighted Voting

Combine several models by weighted voting or weighted averaging to get an ensemble probability, and see how each model weight shifts the result.

📐 计算公式 / 原理
加权平均概率 = Σpᵢwᵢ / Σwᵢ;硬投票 = Σ[pᵢ ≥ 0.5] ≥ 2 判正类;集成置信度 = |加权概率 − 0.5| × 2
软投票用权重平均概率,能利用模型输出的置信度信息,通常优于硬投票的多数决。权重可按各模型验证集表现分配;若子模型同质性太强(同一架构不同种子),集成增益会非常有限。

📐 计算公式与说明

P_ensemble = Σ(wᵢ·pᵢ) / Σwᵢ

权重可基于模型验证性能分配。

📚 深度解析:模型融合加权投票

💡 常见使用场景

  • 加权投票:对各类别累加各模型输出概率×权重,取最大者为预测。
  • 加权平均直接对各模型输出概率做加权和,权重常按单模型验证准确率设定。
  • 融合能降低方差、提升稳健性,前提是基模型具备多样性(误差不相关)。
两模型加权融合
模型A对类别1概率0.7(权重0.6),模型B 0.4(权重0.4) → 融合=0.7×0.6+0.4×0.4=0.58,仍判为类别1。若B权重更高(0.7)则=0.7×0.3+0.4×0.7=0.49 翻转为类别0。

❓ 常见问题(FAQ)

融合一定比单模型好吗?
不一定。若基模型高度相关(同源训练),融合增益很小甚至过拟合;只有误差多样、互补的模型融合才稳定提升。
权重怎么定?
常用各模型在验证集的准确率或 AUC 作权重,也可用网格搜索/线性规划优化组合系数,避免随意设定。