24小时热门版块排行榜    

CyRhmU.jpeg
南方科技大学公共卫生及应急管理学院2026级博士研究生招生报考通知(长期有效)
查看: 1138  |  回复: 11
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响,偏向于最后训练的样本。谁做过这方面研究,可否简单描述一下原因和这个影响有多大?为何经过多次的迭代,还会倾向于后输入的样本? 谢谢
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧,我做的和神经网络差不多,搞机器学习的。

我们的样本输入训练机器之后,顺序一般都是随机抽取,cross-validation,这样下来,样本顺序对最后的结果几乎没影响的,不知道你做的什么模型,为什么会这样?

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取,那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了,还有这个讲义,也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法,没有分析。
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 12 个回答

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧,我做的和神经网络差不多,搞机器学习的。

我们的样本输入训练机器之后,顺序一般都是随机抽取,cross-validation,这样下来,样本顺序对最后的结果几乎没影响的,不知道你做的什么模型,为什么会这样?
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了![/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复(可上传附件)
信息提示
请填处理意见