24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1248  |  回复: 11
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响,偏向于最后训练的样本。谁做过这方面研究,可否简单描述一下原因和这个影响有多大?为何经过多次的迭代,还会倾向于后输入的样本? 谢谢
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老,但还是用的最多的。很多新算法也是在此基础上修修补补,本质没变

怪不得。这个太老了,在教科书里讲讲原理还可以,实际上现已基本不用了。
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧,我做的和神经网络差不多,搞机器学习的。

我们的样本输入训练机器之后,顺序一般都是随机抽取,cross-validation,这样下来,样本顺序对最后的结果几乎没影响的,不知道你做的什么模型,为什么会这样?
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了![/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献?在训练算法比较差但发展较快的年代(例如90年代),有些效率较低算法是有这样的特性。
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧,我做的和神经网络差不多,搞机器学习的。

我们的样本输入训练机器之后,顺序一般都是随机抽取,cross-validation,这样下来,样本顺序对最后的结果几乎没影响的,不知道你做的什么模型,为什么会这样?

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取,那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了,还有这个讲义,也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法,没有分析。
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-11-23 20:04:

老文献、还是新文献?在训练算法比较差但发展较快的年代(例如90年代),有些效率较低算法是有这样的特性。

就是最普通的BP算法。是比较老,但还是用的最多的。很多新算法也是在此基础上修修补补,本质没变
7楼2009-11-23 20:13:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-11-23 21:19:

怪不得。这个太老了,在教科书里讲讲原理还可以,实际上现已基本不用了。

呵呵,我也做了些改进,什么动量因子啦,归一化了,还有这个顺序的问题。
现在都用啥,径向基?递归?还是周同学的“many better than all”?
呵呵,先弄个简单点的用用。太复杂的,弄不出来啊。
9楼2009-11-23 21:28:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵,我也做了些改进,什么动量因子啦,归一化了,还有这个顺序的问题。
现在都用啥,径向基?递归?还是周同学的“many better than all”?
呵呵,先弄个简单点的用用。太复杂的,弄不出来啊。

会了基本原理后,就用现成的工具吧,像matlab的NN工具箱。
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 271分求调剂学校 +10 zph158488! 2026-04-02 10/500 2026-04-03 14:31 by 1753564080
[考研] 326分求调剂 +3 于是乎呢 2026-04-01 5/250 2026-04-03 14:23 by 于是乎呢
[考研] 085600,材料与化工321分求调剂 +12 大馋小子 2026-03-28 12/600 2026-04-03 14:16 by 百灵童888
[考研] 315求调剂 +6 顺理成张 2026-04-03 8/400 2026-04-03 14:04 by 百灵童888
[考研] 282求调剂 +5 呼吸都是减肥 2026-03-31 5/250 2026-04-03 12:03 by 1753564080
[考研] 建环,能源,土木老师路过看一看!!! +5 嘿嘿uu 2026-04-01 5/250 2026-04-03 11:47 by znian
[考研] 071000生物学调剂 +8 知昭蔓 2026-04-02 8/400 2026-04-03 10:36 by macy2011
[考研] 一志愿深大085601材料工程专业(专硕)300分可以调剂去哪 +8 10160315 2026-04-02 8/400 2026-04-03 09:36 by hypershenger
[考研] 260求调剂 +6 朱芷琳 2026-04-02 6/300 2026-04-02 20:27 by 6781022
[考研] 413求调剂 +3 柯某某 2026-03-31 3/150 2026-04-02 16:59 by zzsw+
[考博] 材料工程专业硕士申博 +3 麟正宇 2026-03-30 3/150 2026-04-02 15:04 by greychen00
[考研] 270求调剂 +8 小杰pp 2026-03-31 10/500 2026-04-02 12:57 by yulian1987
[考研] 266分,一志愿电气工程,本科材料,求材料专业调剂 +10 哇呼哼呼哼 2026-04-01 11/550 2026-04-02 11:31 by lnilvy
[考研] 385分 生物学(071000)求调剂 +6 qf626 2026-04-01 6/300 2026-04-02 10:39 by guoweigw
[考研] 285求调剂 +11 AZMK 2026-04-01 11/550 2026-04-01 22:40 by peike
[考研] 279求调剂 +7 莫xiao 2026-04-01 7/350 2026-04-01 22:05 by 客尔美德
[考研] 303分 0807学硕求调剂 +3 TYC3632 2026-04-01 3/150 2026-04-01 19:24 by lwk2004
[考研] 353求调剂 +4 拉钩不许变 2026-04-01 4/200 2026-04-01 18:10 by 记事本2026
[硕博家园] 博一被送出联培感觉不适应怎么办 +3 全村的狗 2026-03-31 3/150 2026-04-01 10:44 by 328838485
[考研] 085600 286分 材料求调剂 +11 麻辣鱿鱼 2026-03-27 12/600 2026-03-30 19:33 by Wang200018
信息提示
请填处理意见