24小时热门版块排行榜    

查看: 3400  |  回复: 2

hajion

木虫 (小有名气)

[求助] 请问范数的梯度和稀疏性之间有什么关系?

具体见附件中的幻灯截图,里面介绍了1维情况下的L1范数为什么比L2范数更能导致稀疏,里面提到了梯度,但不知道梯度怎么和稀疏有关系,烦请高人解答,谢谢!
请问范数的梯度和稀疏性之间有什么关系?
1.png
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

star2883

木虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
hajion: 金币+3, 有帮助, 先谢谢你的回复,能不能具体说明下最小二乘法求解存在的可变性? 2013-11-25 11:43:18
从求导的角度应该可以理解,ppt上已经写的和画的很清楚。左边的2α(上面蓝色函数求导后的梯度方向)是可变的,而右边-1或1是常数,所以过去用最小二乘法来求解存在可变性(即不稳定性),现在用L1范数就可以避免这个问题。不知道这么讲对不对,本人愚见。
2楼2013-11-25 10:53:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nestor0618

银虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★
hajion: 金币+7, ★★★★★最佳答案, 原来如此,明白了,非常感谢,金币送给你:) 2013-11-26 15:27:58
因为在求解优化问题时,我们的目标一般是让能量方程梯度等于零或者十分接近零。用2范数,只要值很小其梯度就会接近于零,所以可能有很多很小的值存在不满足稀疏性,而1范数只要不是零就是1,那么最后的解肯定是只保留很少的非零值于是就稀疏了。
3楼2013-11-26 14:14:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hajion 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 科研人应该花精力去思考如何解决问题,而不是去凝练问题 +3 瞬息宇宙 2026-09-01 5/250 2026-09-02 08:01 by anjeeshine
[基金申请] 为什么国自然不能直接公布 +5 bjdxyxy 2026-08-26 5/250 2026-09-01 17:54 by 小伟大博士
[基金申请] 学科评审组评审是指会评吗? +4 瞬息宇宙 2026-08-31 4/200 2026-09-01 14:58 by jiaoxg
[论文投稿] 小白求助 投论文要求的highlights应该如何写 5+3 l1963982152 2026-08-29 4/200 2026-09-01 09:04 by 北京莱茵编辑
[基金申请] 怎么看青基中了没有啊 +6 叶九微 2026-08-26 6/300 2026-08-31 23:54 by yudaoqian88
[基金申请] 基金未中,这种答复是模板吗? +6 zhaosm1982 2026-08-27 7/350 2026-08-31 21:18 by qdxxmc
[基金申请] 哪位高人中了,把查询到的截图贴出来让我看看,让我长长见识 +6 yuleib84 2026-08-26 7/350 2026-08-31 19:46 by 鱼翔浅底1
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 基金不中,共勉 +12 eulota 2026-08-26 12/600 2026-08-31 08:42 by ZJTJZ
[基金申请] 为什么到现在没收到通知? +5 tannykie 2026-08-29 5/250 2026-08-30 21:05 by purplejack
[基金申请] 有没有仍没收到信息的 +7 德尚中行 2026-08-27 8/400 2026-08-30 20:52 by purplejack
[基金申请] 国自然面上复盘~欢迎讨论 (金币+15) +15 晴天加油 2026-08-26 16/800 2026-08-29 18:28 by symmetry
[基金申请] 国自然评审意见 +13 wangmingqi 2026-08-28 19/950 2026-08-29 10:22 by Poppy1104
[基金申请] 2026年叶企孙基金 +4 bud_bud 2026-08-27 7/350 2026-08-29 07:23 by foolishmani
[基金申请] 系统查不到 +11 董八千 2026-08-26 11/550 2026-08-28 18:06 by Leogzhya
[基金申请] 基金系统什么内容也没有 30+4 winsaint 2026-08-27 9/450 2026-08-28 11:06 by maolC
[基金申请] 为什么 国际(地区)合作与交流项目 没有放榜? 10+3 majunge000 2026-08-26 11/550 2026-08-27 08:42 by 北京莱茵编辑
[基金申请] 我不理解! +15 Edward_pc 2026-08-26 23/1150 2026-08-26 20:34 by zzuzxg
[基金申请] 国际合作可查了,中了面上 (EPI+1)(金币+50) +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
信息提示
请填处理意见