24小时热门版块排行榜    

CyRhmU.jpeg
查看: 1144  |  回复: 11
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响,偏向于最后训练的样本。谁做过这方面研究,可否简单描述一下原因和这个影响有多大?为何经过多次的迭代,还会倾向于后输入的样本? 谢谢
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献?在训练算法比较差但发展较快的年代(例如90年代),有些效率较低算法是有这样的特性。
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老,但还是用的最多的。很多新算法也是在此基础上修修补补,本质没变

怪不得。这个太老了,在教科书里讲讲原理还可以,实际上现已基本不用了。
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵,我也做了些改进,什么动量因子啦,归一化了,还有这个顺序的问题。
现在都用啥,径向基?递归?还是周同学的“many better than all”?
呵呵,先弄个简单点的用用。太复杂的,弄不出来啊。

会了基本原理后,就用现成的工具吧,像matlab的NN工具箱。
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
普通表情 高级回复(可上传附件)
信息提示
请填处理意见