模型调参策略

deep-learning

模型调试

1. 探索，清洗数据

• 观察数据样本是否平衡
• 数据质量

2. 探索模型

通常对模型在验证集上的性能进行进一步的分析，将模型在训练集和验证集都进行结果的验证和可视化，直观的分析模型是否存在较大偏差以及结果的正确性。

3. 监控训练，验证误差

在训练，验证都存在问题时， 首先确认自己的代码是否正确。 其次，根据训练和验证误差进一步追踪模型的拟合状态。根据此时的拟合状态来适当的调整超参数。

4. 梯度检验

这往往适合自己设计一个新操作的情况，此时你需要自己设计求导机制。