24小时热门版块排行榜    

查看: 3314  |  回复: 2

hajion

木虫 (小有名气)

[求助] 请问范数的梯度和稀疏性之间有什么关系?

具体见附件中的幻灯截图,里面介绍了1维情况下的L1范数为什么比L2范数更能导致稀疏,里面提到了梯度,但不知道梯度怎么和稀疏有关系,烦请高人解答,谢谢!
请问范数的梯度和稀疏性之间有什么关系?
1.png
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

star2883

木虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
hajion: 金币+3, 有帮助, 先谢谢你的回复,能不能具体说明下最小二乘法求解存在的可变性? 2013-11-25 11:43:18
从求导的角度应该可以理解,ppt上已经写的和画的很清楚。左边的2α(上面蓝色函数求导后的梯度方向)是可变的,而右边-1或1是常数,所以过去用最小二乘法来求解存在可变性(即不稳定性),现在用L1范数就可以避免这个问题。不知道这么讲对不对,本人愚见。
2楼2013-11-25 10:53:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nestor0618

银虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★
hajion: 金币+7, ★★★★★最佳答案, 原来如此,明白了,非常感谢,金币送给你:) 2013-11-26 15:27:58
因为在求解优化问题时,我们的目标一般是让能量方程梯度等于零或者十分接近零。用2范数,只要值很小其梯度就会接近于零,所以可能有很多很小的值存在不满足稀疏性,而1范数只要不是零就是1,那么最后的解肯定是只保留很少的非零值于是就稀疏了。
3楼2013-11-26 14:14:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hajion 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 化学工程085602 305分求调剂 +11 RichLi_ 2026-03-25 11/550 2026-03-26 11:23 by AlenQIN.
[考研] 315分求调剂 +4 26考研上岸版26 2026-03-26 4/200 2026-03-26 10:20 by king123!
[考研] 北科281学硕材料求调剂 +14 tcxiaoxx 2026-03-20 16/800 2026-03-25 23:14 by peike
[考研] 一志愿哈工大,085400,320,求调剂 +4 gdlf9999 2026-03-24 4/200 2026-03-25 23:01 by boxking200
[考研] 材料与化工328分调剂 +6 。,。,。,。i 2026-03-23 6/300 2026-03-25 22:30 by 418490947
[考研] 312求调剂 +5 上岸吧ZJY 2026-03-22 7/350 2026-03-25 22:20 by 544594351
[考研] 材料与化工304求B区调剂 +3 邱gl 2026-03-25 3/150 2026-03-25 19:03 by Ainin_
[考研] 网络空间安全0839招调剂 +4 w320357296 2026-03-25 6/300 2026-03-25 17:59 by 255671
[考研] 347求调剂 +4 L when 2026-03-25 4/200 2026-03-25 13:37 by cocolv
[考研] 282求调剂 +3 wcq131415 2026-03-24 3/150 2026-03-25 12:16 by userper
[考研] 081700 调剂 267分 +10 迷人的哈哈 2026-03-23 10/500 2026-03-25 12:12 by userper
[考研] 303求调剂 +6 元夕元 2026-03-20 7/350 2026-03-25 12:00 by edmund7
[考研] 289求调剂 +9 怀瑾握瑜l 2026-03-20 9/450 2026-03-25 11:02 by userper
[考研] 一志愿 西北大学 ,070300化学学硕,总分287,双非一本,求调剂。 +4 晨昏线与星海 2026-03-20 4/200 2026-03-25 10:16 by allen-yin
[考研] 化学调剂 +6 yzysaa 2026-03-21 6/300 2026-03-25 09:27 by aa331100
[考研] 318求调剂 +5 plum李子 2026-03-21 8/400 2026-03-25 09:26 by aa331100
[考研] 一志愿北京化工大学 070300 学硕 336分 求调剂 +7 vv迷 2026-03-22 7/350 2026-03-23 23:44 by Txy@872106
[考研] 352求调剂 +3 大米饭! 2026-03-22 3/150 2026-03-22 23:28 by king123!
[考研] 319求调剂 +4 小力气珂珂 2026-03-20 4/200 2026-03-22 15:53 by ColorlessPI
[考研] 279求调剂 +5 红衣隐官 2026-03-21 5/250 2026-03-21 14:59 by lature00
信息提示
请填处理意见