24小时热门版块排行榜    

查看: 807  |  回复: 16
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本,一个多输入多输出神经网络和对若干个多输入单输出神经网络,哪个误差小一些?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★
小木虫(金币+0.5):给个红包,谢谢回帖交流
补充一点,采用MISO的话,可以对不同的输出采取不同的transfer functions。从而进一步优化神经网络。偶最近刚发了篇相关的论文。
9楼2009-12-11 17:41:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 17 个回答

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★
小木虫(金币+0.5):给个红包,谢谢回帖交流
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)

引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里,只要训练的好,结果差不多。

但从理论上讲,将一个MIMO网络改成M个MISO网络分别训练,误差应该更小、训练效率也更高。

有理论的参考资料吗?我做的结论跟你不太一样,现在不确定是否能算例有关。
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★
小木虫(金币+0.5):给个红包,谢谢回帖交流
其实很简单,当输出只有一个的时候,所有的连接权都被用于学习该输出,最flexible。当输出多于一个时,至少输入层与隐层之间的连接权是所有输出共享的,中间必然有trade-off,导致最后误差的上升。

如果你的case学出来结果相反,那只能表明你的MISO网络还可以更好。我们这么来讲,你学好的MIMO网络,可以被简单分解为M个MISO网络,保持那些相关的连接权不变。那么,这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值,进一步训练之,就完全可能获得更优的结果。
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[博后之家] 【长期招聘】复旦大学 AI 制药实验室 博士后招聘 +3 第三种态度 2026-10-28 9/450 2026-11-02 13:06 by Grace_PepLib
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 YXM1FDCSE8Bn 2026-10-31 7/350 2026-11-02 12:46 by n0P4fnsXKbBK
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 YXM1FDCSE8Bn 2026-10-31 8/400 2026-11-02 12:31 by n0P4fnsXKbBK
[考博] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-02 12:25 by n0P4fnsXKbBK
[基金申请] 各位基础老师们,看完中央《从严治党》的决定后,对学术界更加有信心了吧 +3 iaeyuan 2026-11-01 3/150 2026-11-02 07:49 by kudofaye
[公派出国] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 xvJS1BYDxvBS 2026-10-31 8/400 2026-11-02 06:07 by xzcv0Tehd8lQ
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 xvJS1BYDxvBS 2026-10-31 5/250 2026-11-02 06:07 by xzcv0Tehd8lQ
[考研] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 xvJS1BYDxvBS 2026-10-31 13/650 2026-11-02 06:03 by xzcv0Tehd8lQ
[论文投稿] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +4 xvJS1BYDxvBS 2026-10-31 10/500 2026-11-02 06:00 by xzcv0Tehd8lQ
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +5 xvJS1BYDxvBS 2026-10-31 11/550 2026-11-02 06:00 by xzcv0Tehd8lQ
[公派出国] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +6 1uaZt2kAZj2S 2026-10-31 9/450 2026-11-02 03:00 by xzcv0Tehd8lQ
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +6 X5bHxOULxFqb 2026-10-30 16/800 2026-11-02 02:34 by xzcv0Tehd8lQ
[博后之家] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 5/250 2026-11-01 22:24 by xzcv0Tehd8lQ
[考博] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-30 13/650 2026-11-01 16:48 by BCdvBAEpt3zm
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +5 X5bHxOULxFqb 2026-10-30 22/1100 2026-11-01 16:35 by BCdvBAEpt3zm
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 xvJS1BYDxvBS 2026-10-31 5/250 2026-11-01 12:51 by BCdvBAEpt3zm
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 12:38 by BCdvBAEpt3zm
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 1uaZt2kAZj2S 2026-10-30 17/850 2026-11-01 12:24 by BCdvBAEpt3zm
[考研] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-30 16/800 2026-11-01 12:14 by BCdvBAEpt3zm
[论文投稿] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 03:59 by YXM1FDCSE8Bn
信息提示
请填处理意见