应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » 其他 » 【讨论】神经网络中训练样本顺序的影响
121/2返回列表12下一页
查看: 1181  |  回复: 11
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响，偏向于最后训练的样本。谁做过这方面研究，可否简单描述一下原因和这个影响有多大？为何经过多次的迭代，还会倾向于后输入的样本？ 谢谢
回复此楼

» 猜你喜欢
1楼 2009-11-23 18:44:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
赞一下(12人) 回复此楼
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。
赞一下(12人) 回复此楼
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
赞一下 回复此楼
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？
赞一下(11人) 回复此楼
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了！[/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。
赞一下(11人) 回复此楼
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取，那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了，还有这个讲义，也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法，没有分析。
赞一下(10人) 回复此楼
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 20:04:

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。

就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变
赞一下 回复此楼
7楼2009-11-23 20:13:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 21:19:

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。

呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。
赞一下 回复此楼
9楼2009-11-23 21:28:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。

会了基本原理后，就用现成的工具吧，像matlab的NN工具箱。
赞一下(10人) 回复此楼
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
121/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
信息提示
关闭
请填处理意见
关闭