应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

Znn3bq.jpeg
小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » 其他 » 【讨论】神经网络中训练样本顺序的影响
121/2返回列表12下一页
查看: 1304  |  回复: 11
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响，偏向于最后训练的样本。谁做过这方面研究，可否简单描述一下原因和这个影响有多大？为何经过多次的迭代，还会倾向于后输入的样本？ 谢谢
回复此楼

» 猜你喜欢
1楼 2009-11-23 18:44:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
赞一下(12人) 回复此楼
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。
赞一下(12人) 回复此楼
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
赞一下 回复此楼
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？
赞一下(11人) 回复此楼
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了！[/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。
赞一下(11人) 回复此楼
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取，那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了，还有这个讲义，也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法，没有分析。
赞一下(10人) 回复此楼
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 20:04:

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。

就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变
赞一下 回复此楼
7楼2009-11-23 20:13:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 21:19:

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。

呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。
赞一下 回复此楼
9楼2009-11-23 21:28:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。

会了基本原理后，就用现成的工具吧，像matlab的NN工具箱。
赞一下(10人) 回复此楼
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
121/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 我在等一个没有答案的答案 +3 Love_MH 2026-05-17 3/150 2026-05-18 02:22 by 竹林孤影
[基金申请] 面上本子正文33页，违规吗？会被低分嘛？ +5 1234567wang 2026-05-17 6/300 2026-05-17 21:18 by maxjing
[找工作] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +5 l7k6xnh0yc 2026-05-14 5/250 2026-05-17 19:39 by Equinoxhua
[考研] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +4 xx7gd5zq4e 2026-05-15 6/300 2026-05-17 19:36 by Equinoxhua
[考研] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +6 cjf4bx70cj 2026-05-14 7/350 2026-05-17 18:49 by Equinoxhua
[教师之家] 上海大学实验技术岗位非升即走 +7 嘻嘻哈哈乐呵呵 2026-05-15 7/350 2026-05-17 16:58 by songwz
[考博] 光量子物理方向 博士招生 1人（2026.09） +3 sandyworld 2026-05-15 4/200 2026-05-17 14:38 by sandyworld
[基金申请] 这年头没有找到涵评专家，还有中面上的可能吗 +13 dd921ww 2026-05-12 16/800 2026-05-17 12:38 by 于轩
[考博] 26/27博士推荐 +3 1木头人13949 2026-05-13 3/150 2026-05-17 09:41 by YuY66
[考研] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +4 v9tggjlwd0 2026-05-15 4/200 2026-05-17 08:11 by 11n4dfd8yn
[考博] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +3 7hlccowb3h 2026-05-15 4/200 2026-05-17 07:46 by 11n4dfd8yn
[考研] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +4 l7k6xnh0yc 2026-05-14 8/400 2026-05-17 07:26 by 11n4dfd8yn
[考博] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +6 l7k6xnh0yc 2026-05-14 6/300 2026-05-17 07:11 by 11n4dfd8yn
[硕博家园] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +5 cjf4bx70cj 2026-05-14 7/350 2026-05-17 06:55 by 11n4dfd8yn
[考研] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +3 k37jurhrau 2026-05-16 3/150 2026-05-17 01:25 by ue3ir18jc3
[基金申请] 精华III:  评审感受-评审感受-评审感受 +16 ferrarichen 2026-05-11 20/1000 2026-05-17 01:10 by 南开小綦
[硕博家园] 售SCI一区T0P文章，我:8.O.5.5.1.O.5.4,科目齐全,可+急 +4 x0mp7owy2b 2026-05-15 4/200 2026-05-16 17:45 by j6b2pdz07o
[有机交流] 求有机合成大神指点三硫酸乙烯酯（CAS：2793408-99-6）的合成路线 30+3 Leekmid 2026-05-13 10/500 2026-05-16 16:37 by czyzsu
[考博] 26应届毕业生考博求助 +3 wo一定上岸 2026-05-13 3/150 2026-05-14 21:47 by 明海天涯
[考博] 材料类只有一篇综述能申博么 +4 乐逍遥谷 2026-05-13 4/200 2026-05-14 12:05 by zhyzzh
信息提示
关闭
请填处理意见
关闭