| 查看: 1311 | 回复: 14 | ||||
| 当前主题已经存档。 | ||||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | ||||
[交流]
【讨论】遗传算法优化神经网络误差问题？
|
||||
|
遗传算法优化神经网络误差 的 误差 与 神经网络的误差 很接近（甚至有的比神经网络的误差大 ） 这是什么原因？ 请高手指点？ |
回复此楼» 猜你喜欢
咱们一起用铁证分析2026国家社科基金中标与否
已经有18人回复
-
大家玩filecode，现在的申请与受理打不开了
已经有6人回复
-
欢迎发来filecode的Mz6后的代码验证其规律
已经有47人回复
-
各位道友，我要去昆明玩几天，回来见。
已经有6人回复
-
奇怪，两个人的filecode固定段从头到尾一模一样
已经有11人回复
-
哪位老哥知道今年的国自然具体哪一天放榜？
已经有4人回复
-
有时候，自然基金真的不能太认真 （我的申报经验）
已经有8人回复
-
应该是93bebmhtak前后十一个字符比较关键
已经有37人回复
-
好奇怪的filecode
已经有7人回复
-
filecode
已经有9人回复
728728
木虫 (正式写手)
- 应助: 4 (幼儿园)
- 金币: 4940.1
- 散金: 239
- 帖子: 519
- 在线: 397.7小时
- 虫号: 92818
- 注册: 2005-09-11
- 性别: GG
- 专业: 可再生与替代能源利用中的
★ ★ ★ ★ ★
yujunhui(金币+2,VIP+0): 11-5 16:22
wuguocheng(金币+3,VIP+0): 有道理 11-5 16:25
yujunhui(金币+2,VIP+0): 11-5 16:22
wuguocheng(金币+3,VIP+0): 有道理 11-5 16:25
|
那就跟我理解的是一样的。原因就是优化导致过学习。 降低泛化误差是神经网络研究的重点。楼上的nono给出了设计网络的基本原则，但在优化过程中1，3条是适用的，2，4条是不适用的。 2、优化结构的时候，网格结构是自变量，要满足物理问题、训练样本数目和网络结构的相容性，即网络要有一定的复杂度（隐含层数和隐含节点数）去反映物理问题，而又要在训练样本数目一定的情况下保持最简原则，这一矛盾构成了优化问题的约束条件。而关键是缺乏有效的检验准则。现在普遍采用的权宜的办法是交叉验证，你可以试试。 4、趋势线是否与你的physics一致，取决于你训练样本点的分布情况。这只是泛化误差中低频部分。而你的问题是过学习，训练点虽然是精确的，但在训练点周围变化剧烈，导致泛化误差增大。当然，也可能趋势线不一致，这时要改进你的训练样本的分布。 虽然用过神经网络和遗传算法，但不是这个专业，研究的不深，个人观点，供大家参考讨论。 |
7楼2009-11-05 16:18:56
nono2009
超级版主 (文学泰斗)
No gains, no pains.
-
专家经验: +21105 - 仿真EPI: 1
- 应助: 28684 (院士)
- 贵宾: 513.911
- 金币: 2555230
- 散金: 27828
- 红花: 2148
- 沙发: 66666
- 帖子: 1602255
- 在线: 65200.9小时
- 虫号: 827383
- 注册: 2009-08-13
- 性别: GG
- 专业: 工程热物理与能源利用
- 管辖: 科研家筹备委员会
★ ★ ★
yujunhui(金币+2,VIP+0):有道理，谢谢你 ！ 11-4 14:36
kuhailangyu(金币+1,VIP+0):nono辛苦了，呵呵 11-4 18:56
yujunhui(金币+2,VIP+0):有道理，谢谢你 ！ 11-4 14:36
kuhailangyu(金币+1,VIP+0):nono辛苦了，呵呵 11-4 18:56
|
遗传算法优化神经网络只是在概率上有更大可能获得全局最优，这种获得全局最优的概率与初始种群数、交叉变异操作、遗传代数等等都有关系。所以，从另一方面讲，在概率上，遗传算法也可能得不到全局最优解、或得到的是近似最优解。 如果神经网络结构比较简单的话，我的经验是matlab NN toolbox的某些算法给出的训练误差可能更好。在取随机初值的情况下，反复多run上N次，获得全局最优的概率也是不小的。 |
2楼2009-11-04 12:18:20
3楼2009-11-04 22:52:22
728728
木虫 (正式写手)
- 应助: 4 (幼儿园)
- 金币: 4940.1
- 散金: 239
- 帖子: 519
- 在线: 397.7小时
- 虫号: 92818
- 注册: 2005-09-11
- 性别: GG
- 专业: 可再生与替代能源利用中的
4楼2009-11-05 03:05:26
