应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » 其他 » 【讨论】神经网络中训练样本顺序的影响
121/2返回列表12下一页
查看: 1364  |  回复: 11
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】神经网络中训练样本顺序的影响

如题。理论上讲样本顺序是对网络有影响，偏向于最后训练的样本。谁做过这方面研究，可否简单描述一下原因和这个影响有多大？为何经过多次的迭代，还会倾向于后输入的样本？ 谢谢
回复此楼

» 猜你喜欢
1楼 2009-11-23 18:44:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:51
从来没觉得是这样的。可能与你模拟的对象特性有关。
赞一下(12人) 回复此楼
2楼2009-11-23 19:12:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与 12-5 07:52
引用回帖:
Originally posted by 728728 at 2009-11-23 20:13:


就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。
赞一下(12人) 回复此楼
8楼2009-11-23 21:19:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 19:12:
从来没觉得是这样的。可能与你模拟的对象特性有关。

我也觉得不应该。但是很多文献上提到这个影响。
赞一下 回复此楼
3楼2009-11-23 19:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
nono2009(金币+2,VIP+0):Thanks for the comments. 11-23 20:12
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？
赞一下(11人) 回复此楼
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了！[/img][/url][/center]
4楼2009-11-23 19:50:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by 728728 at 2009-11-23 19:33:


我也觉得不应该。但是很多文献上提到这个影响。

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。
赞一下(11人) 回复此楼
5楼2009-11-23 20:04:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
★ ★
kuhailangyu(金币+2,VIP+0):谢谢参与 12-4 21:28
引用回帖:
Originally posted by woshilsh at 2009-11-23 19:50:
没有吧，我做的和神经网络差不多，搞机器学习的。

我们的样本输入训练机器之后，顺序一般都是随机抽取，cross-validation,这样下来，样本顺序对最后的结果几乎没影响的，不知道你做的什么模型，为什么会这样？

做旋转机械性能预测。
你是每次迭代之前都进行了随机抽取，那体现不出这个影响。这个影响应该是在训练样本顺序固定的情况下出现的。
《BP算法各种改进算法的研究及应用》里面提到了，还有这个讲义，也提到了。
http://ir.hit.edu.cn/phpwebsite/ ... &JAS_File_id=69
但是都只是说有这个影响和解决方法，没有分析。
赞一下(10人) 回复此楼
6楼2009-11-23 20:11:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 20:04:

老文献、还是新文献？在训练算法比较差但发展较快的年代（例如90年代），有些效率较低算法是有这样的特性。

就是最普通的BP算法。是比较老，但还是用的最多的。很多新算法也是在此基础上修修补补，本质没变
赞一下 回复此楼
7楼2009-11-23 20:13:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-11-23 21:19:

怪不得。这个太老了，在教科书里讲讲原理还可以，实际上现已基本不用了。

呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。
赞一下 回复此楼
9楼2009-11-23 21:28:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
kuhailangyu(金币+1,VIP+0):辛苦了 12-4 21:29
引用回帖:
Originally posted by 728728 at 2009-11-23 21:28:


呵呵，我也做了些改进，什么动量因子啦，归一化了，还有这个顺序的问题。
现在都用啥，径向基？递归？还是周同学的“many better than all”？
呵呵，先弄个简单点的用用。太复杂的，弄不出来啊。

会了基本原理后，就用现成的工具吧，像matlab的NN工具箱。
赞一下(10人) 回复此楼
10楼2009-11-23 21:39:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
121/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 dheqf6rz6n 2026-06-26 6/300 2026-06-27 22:46 by jjz01vuwzk
[基金申请] 时间戳又变了 +3 Vivilian 2026-06-27 3/150 2026-06-27 22:13 by 芋圆香飘飘
[硕博家园] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 dheqf6rz6n 2026-06-27 4/200 2026-06-27 20:27 by p8adfxx4ht
[论文投稿] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 dheqf6rz6n 2026-06-27 4/200 2026-06-27 20:26 by p8adfxx4ht
[博后之家] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 dheqf6rz6n 2026-06-27 3/150 2026-06-27 20:26 by p8adfxx4ht
[考研] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 7s8du2bt8y 2026-06-26 7/350 2026-06-27 18:48 by ztgu5ulw9z
[考博] 27年博士招生信息 +5 rvnc 2026-06-26 8/400 2026-06-27 18:32 by rvnc
[基金申请] 无聊看看filecode +7 流流伤 2026-06-23 10/500 2026-06-27 16:19 by 北京中袖冉老师
[基金申请] 无聊看看时间戳打发时间 +8 虎鹤双形 2026-06-23 8/400 2026-06-27 15:53 by miaochunhui
[公派出国] 售T0P一区SCI文章，我:8O5.51.O.54,科目齐全,可＋急 +3 7s8du2bt8y 2026-06-26 4/200 2026-06-27 12:47 by 9g0rmhtq5w
[论文投稿] 求推荐期刊，重谢 +4 girlbaby 2026-06-23 4/200 2026-06-26 16:52 by 不打工牛马
[硕博家园] 有机能跨方向申博吗 +3 可可西里的林小� 2026-06-25 3/150 2026-06-26 11:59 by 林芳木
[有机交流] 求助！！ 5+3 我啥都没看见 2026-06-24 4/200 2026-06-26 09:35 by 951037019
[论文投稿] 职称论文投稿 170+4 guoj5292 2026-06-22 12/600 2026-06-25 22:27 by Yanyanoo
[有机交流] 反应求助 10+3 slz_1986 2026-06-24 6/300 2026-06-25 21:38 by nBu锂
[论文投稿] 基于自然哲学类比的风化壳型稀土矿 +4 太一新韵 2026-06-22 16/800 2026-06-25 18:53 by 太一新韵
[文学芳草园] 看《给阿ma的情书》有感 +6 myrtle 2026-06-21 10/500 2026-06-25 17:54 by myrtle
[基金申请] 2026年WR青拔进展 +5 chs564851482 2026-06-24 7/350 2026-06-24 18:15 by chs564851482
[基金申请] 国自然申请五篇代表作大比拼，感觉这个是最重要的 +7 naalan7001 2026-06-22 12/600 2026-06-24 14:02 by naalan7001
[基金申请] 评委有多少概率知道其他专家手中有哪些人的本子？ +6 huitong441 2026-06-22 6/300 2026-06-23 15:45 by 新城子曾
信息提示
关闭
请填处理意见
关闭