24小时热门版块排行榜    

查看: 3424  |  回复: 2

hajion

木虫 (小有名气)

[求助] 请问范数的梯度和稀疏性之间有什么关系?

具体见附件中的幻灯截图,里面介绍了1维情况下的L1范数为什么比L2范数更能导致稀疏,里面提到了梯度,但不知道梯度怎么和稀疏有关系,烦请高人解答,谢谢!
请问范数的梯度和稀疏性之间有什么关系?
1.png
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

star2883

木虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
hajion: 金币+3, ★有帮助, 先谢谢你的回复,能不能具体说明下最小二乘法求解存在的可变性? 2013-11-25 11:43:18
从求导的角度应该可以理解,ppt上已经写的和画的很清楚。左边的2α(上面蓝色函数求导后的梯度方向)是可变的,而右边-1或1是常数,所以过去用最小二乘法来求解存在可变性(即不稳定性),现在用L1范数就可以避免这个问题。不知道这么讲对不对,本人愚见。
2楼2013-11-25 10:53:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nestor0618

银虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★
hajion: 金币+7, ★★★★★最佳答案, 原来如此,明白了,非常感谢,金币送给你:) 2013-11-26 15:27:58
因为在求解优化问题时,我们的目标一般是让能量方程梯度等于零或者十分接近零。用2范数,只要值很小其梯度就会接近于零,所以可能有很多很小的值存在不满足稀疏性,而1范数只要不是零就是1,那么最后的解肯定是只保留很少的非零值于是就稀疏了。
3楼2013-11-26 14:14:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hajion 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 uKOSCocCb6Fm 2026-11-12 10/500 2026-11-16 22:49 by Equinoxhua
[硕博家园] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +5 SX5mJmPWDfOO 2026-11-13 5/250 2026-11-16 13:40 by LrcgbaWjazY5
[考博] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 XJXMuRjD7cK7 2026-11-13 4/200 2026-11-16 13:29 by LrcgbaWjazY5
[公派出国] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 uKOSCocCb6Fm 2026-11-13 4/200 2026-11-16 10:44 by K7HMGGdOpylw
[公派出国] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 SX5mJmPWDfOO 2026-11-13 3/150 2026-11-15 08:29 by xSrQNSSjcgoX
[硕博家园] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +4 XJXMuRjD7cK7 2026-11-13 4/200 2026-11-15 06:50 by xSrQNSSjcgoX
[考博] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 03:32 by xSrQNSSjcgoX
[考研] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 uKOSCocCb6Fm 2026-11-12 5/250 2026-11-15 03:21 by xSrQNSSjcgoX
[论文投稿] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 03:10 by xSrQNSSjcgoX
[硕博家园] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 uKOSCocCb6Fm 2026-11-12 6/300 2026-11-15 02:59 by xSrQNSSjcgoX
[考研] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 G2rhSvqvhNzl 2026-11-10 7/350 2026-11-14 21:58 by Equinoxhua
[考博] 27博士申请(市政/环境) +3 ladf 2026-11-12 3/150 2026-11-13 08:19 by Equinoxhua
[论文投稿] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:51 by ECLTXnJnRSXf
[公派出国] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:51 by ECLTXnJnRSXf
[硕博家园] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:28 by ECLTXnJnRSXf
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +5 czAiolzR0IJC 2026-11-10 7/350 2026-11-12 11:09 by HajghKOMynmz
[考博] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 C6CRn66RYYXS 2026-11-10 6/300 2026-11-12 10:27 by HajghKOMynmz
[教师之家] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 3/150 2026-11-12 08:26 by HajghKOMynmz
[考研] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 cdqGD6ftHmbl 2026-11-11 3/150 2026-11-12 07:53 by HajghKOMynmz
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +5 czAiolzR0IJC 2026-11-10 5/250 2026-11-12 06:25 by 9fOTqj074tIg
信息提示
请填处理意见