24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 606  |  回复: 16
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本,一个多输入多输出神经网络和对若干个多输入单输出神经网络,哪个误差小一些?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
补充一点,采用MISO的话,可以对不同的输出采取不同的transfer functions。从而进一步优化神经网络。偶最近刚发了篇相关的论文。
9楼2009-12-11 17:41:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。

有理论的参考资料吗?我做的结论跟你不太一样,现在不确定是否能算例有关。
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 16:50:
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的ca ...

嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。
5楼2009-12-11 17:35:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

引用回帖:
Originally posted by 728728 at 2009-12-11 17:35:


嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。

是啊,偶是指样本集一样的情况下。欢迎继续交流
6楼2009-12-11 17:37:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

呃,“影响”都打成“因素”了。。。-_-!
7楼2009-12-11 17:38:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 17:37:

是啊,偶是指样本集一样的情况下。欢迎继续交流

呃,nono你弄反了。我的意思是样本集一样的情况下,trade-off的结果不一定变差。。。
8楼2009-12-11 17:39:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

引用回帖:
Originally posted by 728728 at 2009-12-11 17:39:


呃,nono你弄反了。我的意思是样本集一样的情况下,trade-off的结果不一定变差。。。

关键是考虑偶上面的第二段话
引用回帖:
如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。

10楼2009-12-11 17:42:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 285求调剂 +4 AZMK 2026-04-02 5/250 2026-04-03 01:06 by 啵啵啵0119
[考研] 296材料专硕求调剂 +17 202451007219 2026-04-02 18/900 2026-04-02 23:14 by 马儿快快地跑
[考研] 材料与化工306分找调剂 +17 沧海轻舟e 2026-04-02 18/900 2026-04-02 23:08 by 马儿快快地跑
[考研] 309求调剂 +11 呆菇不是戴夫 2026-04-02 11/550 2026-04-02 22:48 by 科研小专家
[考研] 求调剂 +11 张zz111 2026-03-27 12/600 2026-04-02 22:47 by JourneyLucky
[基金申请] 请问共同通讯和共同一作的认可度问题 10+4 psa1234 2026-04-01 9/450 2026-04-02 22:03 by god_tian
[考研] 312求调剂 +3 赊月色 2026-04-02 4/200 2026-04-02 21:50 by macy2011
[考研] 085900土木水利336分求调剂 +4 Zhangjiangj 2026-03-31 6/300 2026-04-02 11:40 by 1753564080
[考研] 372求调剂 +3 jj涌77 2026-04-02 3/150 2026-04-02 09:57 by olim
[考研] 材料调剂 +11 一样YWY 2026-03-31 11/550 2026-04-01 22:25 by zhouyuwinner
[考研] 建环,能源,土木老师路过看一看!!! +4 嘿嘿uu 2026-04-01 4/200 2026-04-01 20:42 by 无懈可击111
[考研] 英一数二生物信息学287分,本科生物科学,求调剂 +3 碧水xyz 2026-03-29 4/200 2026-04-01 15:35 by plum
[考研] 考研材料工程351分调剂 +5 整个好的 2026-03-31 5/250 2026-04-01 09:36 by topgun2009
[考研] 一志愿中海洋材料357 +4 麦恩莉. 2026-03-30 4/200 2026-03-31 14:35 by 记事本2026
[考研] 本科211安全工程,初试290分,求调剂 +3 2719846834 2026-03-28 3/150 2026-03-31 13:52 by 热情沙漠
[考研] 南京大学化学调剂 +11 景随风 2026-03-29 16/800 2026-03-31 10:14 by herarysara
[考研] 11408总分309,一志愿东南大学求调剂,不挑专业 +5 天赋带到THU 2026-03-29 6/300 2026-03-30 20:49 by dick_runner
[考研] 一志愿华中师范化学332分求调剂 +3 Lyy930824@ 2026-03-29 3/150 2026-03-30 20:15 by DHUSHUAI
[考研] 材料专硕 085600求调剂 +7 BBQ233 2026-03-30 7/350 2026-03-30 17:44 by oooqiao
[考研] 求调剂 +7 争取九点睡 2026-03-28 8/400 2026-03-28 21:07 by 争取九点睡
信息提示
请填处理意见