知识概率化在集合蒸馏中的应用:提升目标检测器的准确性和不确定性量化
知识概率化在集成蒸馏中的应用研究 学术背景:研究的意义与问题的提出 近年来,深度神经网络(Deep Neural Networks, DNN)因其卓越的预测能力,在自动驾驶、医疗诊断、气候预测等安全关键领域得到了广泛应用。然而,这些领域对模型的需求不止于高预测精度,更要求模型能够提供可靠的不确定性量化(Uncertainty Quantification)。尤其是在诸如自动驾驶车辆面对雪天等复杂环境时,模型的过高自信可能导致不安全的决策;因此,增强不确定性量化已成为深度学习应用的重要课题之一。 深度集成学习(Deep Ensemble)因其在提升预测精度和不确定性量化能力方面的显著效果,成为近年来的重要研究方向。然而,集成模型由于需要大规模的计算与存储资源,在实际应用中,尤其是资源有限的环境...