应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » 其他 » 【讨论】多输出神经网络的问题
171/2返回列表12下一页
查看: 775  |  回复: 16
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

728728

木虫 (正式写手)

[交流] 【讨论】多输出神经网络的问题

相同的样本，一个多输入多输出神经网络和对若干个多输入单输出神经网络，哪个误差小一些？
回复此楼

» 猜你喜欢
1楼 2009-12-10 23:17:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
补充一点，采用MISO的话，可以对不同的输出采取不同的transfer functions。从而进一步优化神经网络。偶最近刚发了篇相关的论文。
赞一下(2人) 回复此楼
9楼2009-12-11 17:41:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
偶做过。在偶的case里，只要训练的好，结果差不多。

但从理论上讲，将一个MIMO网络改成M个MISO网络分别训练，误差应该更小、训练效率也更高。
赞一下(1人) 回复此楼
2楼2009-12-11 09:33:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-12-11 09:33:
偶做过。在偶的case里，只要训练的好，结果差不多。

但从理论上讲，将一个MIMO网络改成M个MISO网络分别训练，误差应该更小、训练效率也更高。

有理论的参考资料吗？我做的结论跟你不太一样，现在不确定是否能算例有关。
赞一下 回复此楼
3楼2009-12-11 16:10:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
其实很简单，当输出只有一个的时候，所有的连接权都被用于学习该输出，最flexible。当输出多于一个时，至少输入层与隐层之间的连接权是所有输出共享的，中间必然有trade-off，导致最后误差的上升。

如果你的case学出来结果相反，那只能表明你的MISO网络还可以更好。我们这么来讲，你学好的MIMO网络，可以被简单分解为M个MISO网络，保持那些相关的连接权不变。那么，这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值，进一步训练之，就完全可能获得更优的结果。
赞一下(1人) 回复此楼
4楼2009-12-11 16:50:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-12-11 16:50:
其实很简单，当输出只有一个的时候，所有的连接权都被用于学习该输出，最flexible。当输出多于一个时，至少输入层与隐层之间的连接权是所有输出共享的，中间必然有trade-off，导致最后误差的上升。

如果你的ca ...

嗯，有一定的道理，不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话，trade-off的结果不一定变差。不过你的想法不错，可以用组合的方法，效果应该好些。我试试。
赞一下 回复此楼
5楼2009-12-11 17:35:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
引用回帖:
Originally posted by 728728 at 2009-12-11 17:35:


嗯，有一定的道理，不过我觉得不完全对。你说的情况是在没有考虑样本的因素情况下发生的。如果考虑样本的因素的话，trade-off的结果不一定变差。不过你的想法不错，可以用组合的方法，效果应该好些。我试试。

是啊，偶是指样本集一样的情况下。欢迎继续交流
赞一下 回复此楼
6楼2009-12-11 17:37:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
呃，“影响”都打成“因素”了。。。-_-!
赞一下 回复此楼
7楼2009-12-11 17:38:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

728728

木虫 (正式写手)
引用回帖:
Originally posted by nono2009 at 2009-12-11 17:37:

是啊，偶是指样本集一样的情况下。欢迎继续交流

呃，nono你弄反了。我的意思是样本集一样的情况下，trade-off的结果不一定变差。。。
赞一下 回复此楼
8楼2009-12-11 17:39:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主
引用回帖:
Originally posted by 728728 at 2009-12-11 17:39:


呃，nono你弄反了。我的意思是样本集一样的情况下，trade-off的结果不一定变差。。。

关键是考虑偶上面的第二段话
引用回帖:
如果你的case学出来结果相反，那只能表明你的MISO网络还可以更好。我们这么来讲，你学好的MIMO网络，可以被简单分解为M个MISO网络，保持那些相关的连接权不变。那么，这时候你的MISO网络应该给出与MIMO完全一样的结果。以此MISO网络的连接权为初始值，进一步训练之，就完全可能获得更优的结果。
赞一下 回复此楼
10楼2009-12-11 17:42:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 728728 的主题更新
171/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 G6APbkg8SA6w 2026-08-29 5/250 2026-08-31 02:00 by hZiFeudZyoGR
[找工作] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +6 gy1nBQXYQJqL 2026-08-29 9/450 2026-08-31 01:16 by hZiFeudZyoGR
[公派出国] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +5 gy1nBQXYQJqL 2026-08-29 6/300 2026-08-31 01:07 by hZiFeudZyoGR
[基金申请] 投票:  有多少人是今天查系统知道结果的？ +17 爱看书的可乐 2026-08-26 19/950 2026-08-30 22:24 by xiangy672
[硕博家园] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +3 4FFAWE8HcgUD 2026-08-29 4/200 2026-08-30 20:30 by hZiFeudZyoGR
[硕博家园] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 4FFAWE8HcgUD 2026-08-29 3/150 2026-08-30 20:10 by hZiFeudZyoGR
[论文投稿] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 jCd0dEvKHShX 2026-08-29 4/200 2026-08-30 19:57 by hZiFeudZyoGR
[考研] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 jCd0dEvKHShX 2026-08-29 5/250 2026-08-30 19:37 by hZiFeudZyoGR
[硕博家园] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +5 gy1nBQXYQJqL 2026-08-29 6/300 2026-08-30 18:17 by hZiFeudZyoGR
[考研] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +4 gy1nBQXYQJqL 2026-08-29 6/300 2026-08-30 17:47 by hZiFeudZyoGR
[基金申请] 面上意见出来了 +9 黄鸟于飞Chao 2026-08-29 18/900 2026-08-30 16:47 by 黄鸟于飞Chao
[找工作] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +6 ASdOkHsho7FD 2026-08-28 9/450 2026-08-30 11:19 by l0VvVHGBGRLv
[基金申请] 我就是申请一个面上项目而已，这评审意见是按照杰青的条件评的吧？ +6 gouxfjh 2026-08-28 11/550 2026-08-30 07:57 by gouxfjh
[基金申请] 中青基了要发朋友圈吗？ +4 349506619 2026-08-28 4/200 2026-08-29 22:41 by alongwaytogo
[基金申请] 国自然面上复盘~欢迎讨论 (金币+15) +15 晴天加油 2026-08-26 16/800 2026-08-29 18:28 by symmetry
[基金申请] 哪位高人中了，把查询到的截图贴出来让我看看，让我长长见识 +5 yuleib84 2026-08-26 6/300 2026-08-28 00:02 by yudaoqian88
[基金申请] 2026年8月25日国自然放榜前突然收到列入评审专家邮件，有关系吗？ +25 木水思豆 2026-08-25 28/1400 2026-08-26 14:53 by draco1987
[基金申请] 国合里面能看到了 +7 一怀馨秋 2026-08-26 7/350 2026-08-26 11:23 by zhaosm1982
[基金申请] 项目信息和经费信息在系统里都可以看到了 +6 wittyboy 2026-08-26 14/700 2026-08-26 10:55 by wittyboy
[基金申请] 某些机构，以效率低为荣，以效率低作为存在感 +9 yuleib84 2026-08-25 10/500 2026-08-25 17:14 by alexon
信息提示
关闭
请填处理意见
关闭