本文主要是介绍【李宏毅2021机器学习深度学习】2-1 Phoneme Classification【hw2】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
文章目录
- 写在前面
- 标准
- 提示:
- 实验记录:
- 1. Sample code
- 2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
- 3. (overfitting)make model simpler(直接去掉第三层全连接层)
- 4. batch_size直接改为512
- 5. lr = 0.001(默认参数)
- 6. 修改model->256, batch_size修改为1024
- 7. 网络从1024->256
- 8. 512->128
写在前面
早期的调参记录无任何经验,直接参考最新的
strong baseline参考
标准
提示:
实验记录:
1. Sample code
2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
早停策略【hw1】不错,这里没加
3. (overfitting)make model simpler(直接去掉第三层全连接层)
4. batch_size直接改为512
5. lr = 0.001(默认参数)
6. 修改model->256, batch_size修改为1024
7. 网络从1024->256
8. 512->128
这篇关于【李宏毅2021机器学习深度学习】2-1 Phoneme Classification【hw2】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!