24小时热门版块排行榜    

查看: 752  |  回复: 16
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本,一个多输入多输出神经网络和对若干个多输入单输出神经网络,哪个误差小一些?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 17 个回答

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。

有理论的参考资料吗?我做的结论跟你不太一样,现在不确定是否能算例有关。
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 16:50:
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的ca ...

嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。
5楼2009-12-11 17:35:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 基金中了 +15 laoda193707 2026-08-06 15/750 2026-08-11 00:11 by jiafei2190
[基金申请] filecode +8 documentary 2026-08-10 8/400 2026-08-10 19:20 by loufangrui
[基金申请] 确定了,国自然21号放榜 +6 布布和一二 2026-08-10 7/350 2026-08-10 19:15 by 2000zf36392
[基金申请] 综述论文作为代表作会不会影响评审专家的印象分? +10 yufeiwaner 2026-08-09 11/550 2026-08-10 18:47 by yufeiwaner
[基金申请] 我的国基提前知道中了,可是同事的操作让我实在接受不了,怎么会有这样的人 +8 家与远方 2026-08-10 11/550 2026-08-10 17:09 by 六两废铜
[基金申请] 应该是93bebmhtak前后十一个字符比较关键 +14 Lanmanbaby 2026-08-09 22/1100 2026-08-10 14:57 by wwncly
[基金申请] 奇怪,两个人的filecode固定段从头到尾一模一样 +4 布布和一二 2026-08-10 4/200 2026-08-10 14:50 by 医学老男孩
[基金申请] 8月时间戳变的,举个手。玩一下,释放压力 +11 archvillain 2026-08-04 13/650 2026-08-10 14:41 by seekfind
[基金申请] 好奇怪的filecode +4 布布和一二 2026-08-08 5/250 2026-08-10 14:20 by 冰心玉壶晴
[基金申请] 据悉今年马上要出结果了 +7 瞬息宇宙 2026-08-10 8/400 2026-08-10 12:42 by Vivilian
[基金申请] fileCode有新解读? +10 Tide man 2026-08-08 18/900 2026-08-09 12:55 by 仁砚薪传
[基金申请] 关于filecode,很负责任的告诉大家 +6 爱看书的可乐 2026-08-08 7/350 2026-08-08 22:13 by a_niu
[基金申请] 关于豆爷回答的JTJC与%2F数量 +5 yang182083 2026-08-06 7/350 2026-08-08 18:29 by zhanghaozhu
[基金申请] 国基金的申报应该改成非等额制,评价高的钱多评价低的钱少,但是增加资助率 +7 a089 2026-08-07 7/350 2026-08-08 18:05 by gltch
[基金申请] 化学口download_prp&fileCode的固定段好像这几天一直没变,有变的大神么? +3 Tide man 2026-08-07 4/200 2026-08-07 22:39 by Tide man
[基金申请] filecode变化情况 +6 布布和一二 2026-08-07 22/1100 2026-08-07 14:45 by 且听虎啸
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
[基金申请] filecode +8 布布和一二 2026-08-06 11/550 2026-08-06 20:41 by tangpu318
[基金申请] 好消息?这个有何含义??? +8 Tide man 2026-08-05 10/500 2026-08-05 16:14 by xmuxiaoyu
[基金申请] 有没有H口的?有收到消息的吗? +3 超级海虾 2026-08-04 3/150 2026-08-04 17:26 by 学教育滴
信息提示
请填处理意见