应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » 其他 » 【讨论】神经网络中训练样本顺序的影响
121/2返回列表12下一页
查看: 1406  |  回复: 11
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响，偏向于最后训练的样本。谁做过这方面研究，可否简单描述一下原因和这个影响有多大？为何经过多次的迭代，还会倾向于后输入的样本？ 谢谢
回复此楼

» 猜你喜欢
1楼 2009-11-23 18:44:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
赞一下(12人) 回复此楼
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。
赞一下(12人) 回复此楼
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
赞一下 回复此楼
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？
赞一下(11人) 回复此楼
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了！[/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。
赞一下(11人) 回复此楼
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取，那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了，还有这个讲义，也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法，没有分析。
赞一下(10人) 回复此楼
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 20:04:

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。

就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变
赞一下 回复此楼
7楼2009-11-23 20:13:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 21:19:

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。

呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。
赞一下 回复此楼
9楼2009-11-23 21:28:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。

会了基本原理后，就用现成的工具吧，像matlab的NN工具箱。
赞一下(10人) 回复此楼
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
121/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] filecode +3 documentary 2026-08-10 3/150 2026-08-10 16:46 by 且听虎啸
[基金申请] 我的国基提前知道中了，可是同事的操作让我实在接受不了，怎么会有这样的人 +7 家与远方 2026-08-10 10/500 2026-08-10 16:31 by vivianleos
[基金申请] 静等基金结果 +5 gjjjzhong 2026-08-10 13/650 2026-08-10 16:22 by naalan7001
[基金申请] 国自然结果 +4 Vierhys 2026-08-10 8/400 2026-08-10 15:06 by Vierhys
[基金申请] FileCode能看出啥？ +4 要乐观耀哥 2026-08-10 8/400 2026-08-10 15:02 by 天神眷顾
[基金申请] 好奇怪的filecode +4 布布和一二 2026-08-08 5/250 2026-08-10 14:20 by 冰心玉壶晴
[基金申请] 据悉今年马上要出结果了 +7 瞬息宇宙 2026-08-10 8/400 2026-08-10 12:42 by Vivilian
[基金申请] 关于代码变化问题，想知道的进来 +16 且听虎啸 2026-08-07 23/1150 2026-08-10 12:35 by majunge000
[基金申请] 这样的filecode谁见过 +11 布布和一二 2026-08-08 22/1100 2026-08-10 11:10 by wmfsnow
[基金申请] 面上项目filecode邪修 +5 西山十月 2026-08-09 7/350 2026-08-10 07:32 by 仁砚薪传
[基金申请] filecode与中标关系的预测 +5 布布和一二 2026-08-07 5/250 2026-08-09 16:15 by 袁向阳007
[基金申请] 关于filecode +4 布布和一二 2026-08-07 7/350 2026-08-07 22:55 by zhanghaozhu
[基金申请] 固定端突然变了，今天 +6 archvillain 2026-08-06 10/500 2026-08-07 16:03 by 医学老男孩
[基金申请] filecode变化情况 +6 布布和一二 2026-08-07 22/1100 2026-08-07 14:45 by 且听虎啸
[基金申请] 大家散了吧，后缀研究没有意义，别浪费时间了，过好目前的每一天，不要焦虑 +5 Tide man 2026-08-06 7/350 2026-08-07 13:11 by 医学老男孩
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
[基金申请] filecode +8 布布和一二 2026-08-06 11/550 2026-08-06 20:41 by tangpu318
[基金申请] 求各位大神看下 100+6 hpkpkpkp 2026-08-05 33/1650 2026-08-06 14:49 by zhiyanjiang
[基金申请] 影响面上的因素 +8 布布和一二 2026-08-05 11/550 2026-08-06 10:41 by 宝贝虫子
[基金申请] 纯娱乐，不喜欢勿喷 +7 Tide man 2026-08-04 10/500 2026-08-04 15:10 by loufangrui
信息提示
关闭
请填处理意见
关闭