本文主要是介绍Featured Based知识蒸馏及代码(3): Focal and Global Knowledge (FGD),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
文章目录
- 1. 摘要
- 2. Focal and Global 蒸馏的原理
- 2.1 常规的feature based蒸馏算法
- 2.2 Focal Distillation
- 2.3 Global Distillation
- 2.4 total loss
- 3. 实验
- 完整代码
论文: htt
这篇关于Featured Based知识蒸馏及代码(3): Focal and Global Knowledge (FGD)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!