• 计算机图形学与计算几何经典必备书单整理,下载链接可参考:https://www.stubbornhuang.com/1256/

  • 问题反馈可发送邮件到stubbornhuang@qq.com

  • 本站由于前段时间遭受到大量临时和国外邮箱注册,所以对可注册的邮箱类型进行了限制!

  • 感谢大家访问本站,希望本站的内容可以帮助到大家!

  • 本站会放置Google广告用于维持域名以及网站服务器费用。

  • 如果觉得本站的内容有帮助,可以考虑打赏博主哦!

  • 欢迎大家交换友链,可在https://www.stubbornhuang.com/申请友情链接进行友链交换申请!

  • 在本站开通年度VIP,无限制下载本站资源和阅读本站文章

  • 工资「喂饱肚子」,副业「养活灵魂」!

从模型训练的train loss和test loss分析模型训练存在的问题

深度学习 发布于2024-03-26 阅读 1,861次 0次评论 0次点赞 本文共427个字,阅读需要2分钟。

在模型训练时,我们可以观察到两个明显的指标就是train losstest loss,我们可以通过两者差异分析模型所遇到的问题,一般存在以下的情况:

  • train loss 不断下降,test loss 不断下降,说明网络仍在学习;
  • train loss 不断下降,test loss 趋于不变,说明网络过拟合;
  • train loss 趋于不变,test loss 不断下降,说明用于模型训练的数据集有问题;
  • train loss 趋于不变,test loss 趋于不变,说明网络学习遇到瓶颈,需要减少学习率或者批量数目
  • train loss 不断上升,test loss 不断上升,说明模型结构设计有问题,无法正确处理当前任务,或者训练的超参数设置有问题,或者数据集有问题

一般来说,最好的结果就是train loss和test loss下降到一个比较小的值就不再下降,且train loss和test loss相差不是很大,这个时候说明网络在当前数据集上训练到了一个好的状态,不过主要是看模型在测试集上的测试结果。

欢迎扫码关注我的微信公众号,及时获取文章更新

微信公众号二维码

本文作者:StubbornHuang

版权声明:本文为站长原创文章,如果转载请注明原文链接!

原文标题:从模型训练的train loss和test loss分析模型训练存在的问题

原文链接:https://www.stubbornhuang.com/3021/

发布于:2024年03月26日 14:29:01

修改于:2024年03月26日 14:29:01

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

文章末尾
上一篇
Transformer原理
Transformer
下一篇
Python - 基于loguru封装实际项目可用的日志输出类
Python
当前分类随机文章推荐

发表评论

您必须 [ 登录 ] 才能发表留言!

关注我们的公众号

微信公众号