24小时热门版块排行榜    

查看: 3399  |  回复: 2

hajion

木虫 (小有名气)

[求助] 请问范数的梯度和稀疏性之间有什么关系?

具体见附件中的幻灯截图,里面介绍了1维情况下的L1范数为什么比L2范数更能导致稀疏,里面提到了梯度,但不知道梯度怎么和稀疏有关系,烦请高人解答,谢谢!
请问范数的梯度和稀疏性之间有什么关系?
1.png
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

star2883

木虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
hajion: 金币+3, 有帮助, 先谢谢你的回复,能不能具体说明下最小二乘法求解存在的可变性? 2013-11-25 11:43:18
从求导的角度应该可以理解,ppt上已经写的和画的很清楚。左边的2α(上面蓝色函数求导后的梯度方向)是可变的,而右边-1或1是常数,所以过去用最小二乘法来求解存在可变性(即不稳定性),现在用L1范数就可以避免这个问题。不知道这么讲对不对,本人愚见。
2楼2013-11-25 10:53:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nestor0618

银虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★
hajion: 金币+7, ★★★★★最佳答案, 原来如此,明白了,非常感谢,金币送给你:) 2013-11-26 15:27:58
因为在求解优化问题时,我们的目标一般是让能量方程梯度等于零或者十分接近零。用2范数,只要值很小其梯度就会接近于零,所以可能有很多很小的值存在不满足稀疏性,而1范数只要不是零就是1,那么最后的解肯定是只保留很少的非零值于是就稀疏了。
3楼2013-11-26 14:14:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hajion 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[文学芳草园] 梦想 +5 myrtle 2026-08-26 8/400 2026-09-02 02:42 by Leogzhya
[基金申请] 投票:  有多少人是今天查系统知道结果的? +17 爱看书的可乐 2026-08-26 19/950 2026-09-02 00:19 by xiangy672
[基金申请] 面上合作单位盖章 +6 ssyjh 2026-08-27 9/450 2026-09-01 20:01 by huagongfeihu
[基金申请] 为什么国自然不能直接公布 +5 bjdxyxy 2026-08-26 5/250 2026-09-01 17:54 by 小伟大博士
[基金申请] 为什么资助数各大高校都创新高,自己申请怎么就这么难 +13 Kittylucky 2026-08-27 14/700 2026-09-01 11:06 by feng6531
[论文投稿] 小白求助 投论文要求的highlights应该如何写 5+3 l1963982152 2026-08-29 4/200 2026-09-01 09:04 by 北京莱茵编辑
[基金申请] 国社科又开始会评了,不知道这次命运如何 +7 雨打竹帘 2026-08-30 11/550 2026-08-31 23:16 by hittle2008
[基金申请] 能否申诉? +7 echo8914667 2026-08-30 8/400 2026-08-31 17:00 by yihongxu
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 基金不中,共勉 +12 eulota 2026-08-26 12/600 2026-08-31 08:42 by ZJTJZ
[基金申请] 2026年叶企孙基金 +4 bud_bud 2026-08-27 7/350 2026-08-29 07:23 by foolishmani
[基金申请] 系统查不到 +11 董八千 2026-08-26 11/550 2026-08-28 18:06 by Leogzhya
[基金申请] 看板上这么多中的,有点像50人群里49个人都是骗子的那种感觉…… +5 a089 2026-08-26 6/300 2026-08-27 14:05 by jonewore
[基金申请] 为什么 国际(地区)合作与交流项目 没有放榜? 10+3 majunge000 2026-08-26 11/550 2026-08-27 08:42 by 北京莱茵编辑
[基金申请] 我不理解! +15 Edward_pc 2026-08-26 23/1150 2026-08-26 20:34 by zzuzxg
[基金申请] 国际合作可查了,中了面上 (EPI+1)(金币+50) +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 项目信息和经费信息在系统里都可以看到了 +6 wittyboy 2026-08-26 14/700 2026-08-26 10:55 by wittyboy
[基金申请] 国合可查了 +3 paperzjh 2026-08-26 3/150 2026-08-26 10:41 by LemmonTr
[基金申请] 牛来!米来!面来! +8 beefly 2026-08-26 8/400 2026-08-26 08:37 by xuzhipiao
信息提示
请填处理意见