24小时热门版块排行榜    

查看: 783  |  回复: 16
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本,一个多输入多输出神经网络和对若干个多输入单输出神经网络,哪个误差小一些?
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 17 个回答

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。

有理论的参考资料吗?我做的结论跟你不太一样,现在不确定是否能算例有关。
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 16:50:
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的ca ...

嗯,有一定的道理,不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话,trade-off的结果不一定变差。不过你的想法不错,可以用组合的方法,效果应该好些。我试试。
5楼2009-12-11 17:35:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 投票:  有多少人是今天查系统知道结果的? +17 爱看书的可乐 2026-08-26 19/950 2026-08-31 11:51 by xiangy672
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 国社科又开始会评了,不知道这次命运如何 +6 雨打竹帘 2026-08-30 10/500 2026-08-31 09:29 by huixian257
[基金申请] 中青基了要发朋友圈吗? +6 349506619 2026-08-28 6/300 2026-08-31 08:43 by kingkocxr
[基金申请] 面上意见出来了 +10 黄鸟于飞Chao 2026-08-29 19/950 2026-08-31 08:01 by blueearth171
[基金申请] 有没有仍没收到信息的 +7 德尚中行 2026-08-27 8/400 2026-08-30 20:52 by purplejack
[基金申请] 2026年叶企孙基金 +4 bud_bud 2026-08-27 7/350 2026-08-29 07:23 by foolishmani
[基金申请] 为什么资助数各大高校都创新高,自己申请怎么就这么难 +12 Kittylucky 2026-08-27 13/650 2026-08-29 00:04 by superceng
[基金申请] 基金系统什么内容也没有 30+4 winsaint 2026-08-27 9/450 2026-08-28 11:06 by maolC
[基金申请] 怎么查啊 +6 huang1991js 2026-08-26 6/300 2026-08-28 08:42 by winsaint
[基金申请] 哪位高人中了,把查询到的截图贴出来让我看看,让我长长见识 +5 yuleib84 2026-08-26 6/300 2026-08-28 00:02 by yudaoqian88
[基金申请] 面上合作单位盖章 +5 ssyjh 2026-08-27 5/250 2026-08-27 20:50 by gdfollow
[基金申请] 基金未中,这种答复是模板吗? +5 zhaosm1982 2026-08-27 6/300 2026-08-27 16:00 by lfy8008
[基金申请] 2026年8月25日国自然放榜前突然收到列入评审专家邮件,有关系吗? +25 木水思豆 2026-08-25 28/1400 2026-08-26 14:53 by draco1987
[基金申请] 国合里面能看到了 +7 一怀馨秋 2026-08-26 7/350 2026-08-26 11:23 by zhaosm1982
[基金申请] 国际合作可查了,中了面上 (EPI+1)(金币+50) +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 今天务委会开完了,明天出结果吗 +19 angus9576 2026-08-25 23/1150 2026-08-26 10:03 by zp519
[基金申请] 国合现在查不到了吗? +10 chengyan1220 2026-08-24 20/1000 2026-08-26 08:57 by peasantsprig
[基金申请] 某些机构,以效率低为荣,以效率低作为存在感 +9 yuleib84 2026-08-25 10/500 2026-08-25 17:14 by alexon
信息提示
请填处理意见