24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 604  |  回复: 16
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本,一个多输入多输出神经网络和对若干个多输入单输出神经网络,哪个误差小一些?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
补充一点,采用MISO的话,可以对不同的输出采取不同的transfer functions。从而进一步优化神经网络。偶最近刚发了篇相关的论文。
9楼2009-12-11 17:41:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。

有理论的参考资料吗?我做的结论跟你不太一样,现在不确定是否能算例有关。
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 16:50:
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的ca ...

嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。
5楼2009-12-11 17:35:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

引用回帖:
Originally posted by 728728 at 2009-12-11 17:35:


嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。

是啊,偶是指样本集一样的情况下。欢迎继续交流
6楼2009-12-11 17:37:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

呃,“影响”都打成“因素”了。。。-_-!
7楼2009-12-11 17:38:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 17:37:

是啊,偶是指样本集一样的情况下。欢迎继续交流

呃,nono你弄反了。我的意思是样本集一样的情况下,trade-off的结果不一定变差。。。
8楼2009-12-11 17:39:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

引用回帖:
Originally posted by 728728 at 2009-12-11 17:39:


呃,nono你弄反了。我的意思是样本集一样的情况下,trade-off的结果不一定变差。。。

关键是考虑偶上面的第二段话
引用回帖:
如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。

10楼2009-12-11 17:42:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 271分求调剂学校 +3 zph158488! 2026-04-02 3/150 2026-04-03 00:01 by wwytracy
[考研] 070300化学求调剂 +8 起个名咋这么难 2026-03-27 9/450 2026-04-02 20:42 by dongzh2009
[考研] 316求调剂 +12 舟自梗 2026-04-01 16/800 2026-04-02 17:33 by zzsw+
[考研] 一志愿北京科技大学085601材料工程英一数二初试总分335求调剂 +8 双马尾痞老板2 2026-04-02 9/450 2026-04-02 14:45 by 5896
[考研] 化学308分调剂 +14 你好明天你好 2026-03-30 15/750 2026-04-02 13:39 by 嘻嘻笑22
[考研] 材料专业求调剂 +10 月月鸟木 2026-04-01 10/500 2026-04-02 12:57 by wxiongid
[考研] 求调剂推荐 +3 南山南@ 2026-04-01 3/150 2026-04-02 12:09 by xiaoranmu
[考研] 一志愿北交大材料工程总分358 +3 cs0106 2026-04-02 5/250 2026-04-02 11:37 by olim
[考研] 材料考研调剂 +9 Gs大王 2026-04-02 9/450 2026-04-02 10:24 by olim
[考研] 291求调剂 +20 Y-cap 2026-03-29 25/1250 2026-04-01 23:49 by 欣喜777
[考研] 310分求调剂 +4 成功上岸wang 2026-04-01 4/200 2026-04-01 20:35 by liu823948201
[考研] 0856,材料与化工321分求调剂 +13 大馋小子 2026-03-27 14/700 2026-04-01 15:58 by yanflower7133
[硕博家园] 考研调剂 +5 骆驼男人 2026-04-01 5/250 2026-04-01 14:28 by syjjj0321
[考研] 考研材料工程351分调剂 +5 整个好的 2026-03-31 5/250 2026-04-01 09:36 by topgun2009
[考研] 333求调剂 +4 阿科逸 2026-03-31 4/200 2026-04-01 09:11 by jp9609
[考研] 求调剂:一志愿:南京大学 专业:0705 总分320 ,本科985,四六级已过 +3 lfy760306 2026-03-31 3/150 2026-04-01 01:57 by Creta
[考研] 289求调剂 +3 Acesczlo 2026-03-29 4/200 2026-03-31 14:48 by 热情沙漠
[考研] 085701求调剂初试286分 +5 secret0328 2026-03-28 5/250 2026-03-30 12:54 by fangnagu
[考研] 305求调剂 +8 RuiFairyrui 2026-03-28 8/400 2026-03-29 08:22 by fmesaito
[考研] 352分 化工与材料 +5 海纳百川Ly 2026-03-27 5/250 2026-03-28 03:39 by fmesaito
信息提示
请填处理意见