本文主要是介绍『大模型笔记』量化 vs 剪枝 vs 蒸馏:为推理优化神经网络!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
量化 vs 剪枝 vs 蒸馏:为推理优化神经网络! |
文章目录
- 一. 量化 vs 剪枝 vs 蒸馏:为推理优化神经网络!
- 1.1. 量化(Quantization)
- 1.2. 剪枝(purning)
- 1.3. 知识蒸馏(Knowledge Distillation,也称为模型蒸馏)
- 1.4. 工程优化(Engineering Optimizations)
- 1.5. 总结
- 二. 参考文献
一. 量化 vs 剪枝 vs 蒸馏:为推理优化神经网络!
- 大家好。今天的视频中,我
这篇关于『大模型笔记』量化 vs 剪枝 vs 蒸馏:为推理优化神经网络!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!