24小时热门版块排行榜    

查看: 3310  |  回复: 2

hajion

木虫 (小有名气)

[求助] 请问范数的梯度和稀疏性之间有什么关系?

具体见附件中的幻灯截图,里面介绍了1维情况下的L1范数为什么比L2范数更能导致稀疏,里面提到了梯度,但不知道梯度怎么和稀疏有关系,烦请高人解答,谢谢!
请问范数的梯度和稀疏性之间有什么关系?
1.png
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

star2883

木虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
hajion: 金币+3, 有帮助, 先谢谢你的回复,能不能具体说明下最小二乘法求解存在的可变性? 2013-11-25 11:43:18
从求导的角度应该可以理解,ppt上已经写的和画的很清楚。左边的2α(上面蓝色函数求导后的梯度方向)是可变的,而右边-1或1是常数,所以过去用最小二乘法来求解存在可变性(即不稳定性),现在用L1范数就可以避免这个问题。不知道这么讲对不对,本人愚见。
2楼2013-11-25 10:53:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nestor0618

银虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★
hajion: 金币+7, ★★★★★最佳答案, 原来如此,明白了,非常感谢,金币送给你:) 2013-11-26 15:27:58
因为在求解优化问题时,我们的目标一般是让能量方程梯度等于零或者十分接近零。用2范数,只要值很小其梯度就会接近于零,所以可能有很多很小的值存在不满足稀疏性,而1范数只要不是零就是1,那么最后的解肯定是只保留很少的非零值于是就稀疏了。
3楼2013-11-26 14:14:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hajion 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 考研调剂 +4 呼呼?~+123456 2026-03-24 4/200 2026-03-24 23:16 by barlinike
[考研] 340求调剂 +4 话梅糖111 2026-03-24 4/200 2026-03-24 21:41 by yuyu98412
[考研] 食品专硕 一志愿双一流 328 +3 xiaom99 2026-03-21 4/200 2026-03-24 21:20 by lailaisimei
[考研] 调剂 +4 13853210211 2026-03-24 4/200 2026-03-24 19:44 by ms629
[考研] 收08调剂生 +6 komorebi69 2026-03-18 6/300 2026-03-24 19:09 by 汪!?!
[考研] 085602 289分求调剂 +5 WWW西西弗斯 2026-03-24 5/250 2026-03-24 18:51 by jhhcooi
[考研] 求调剂 +6 研研,接电话 2026-03-24 7/350 2026-03-24 17:01 by barlinike
[考研] 材料考研调剂生 +3 黄粱一梦千年 2026-03-24 3/150 2026-03-24 17:00 by barlinike
[考博] 申博26年 +4 八6八68 2026-03-19 4/200 2026-03-24 15:49 by 小Ben呵呵
[材料工程] 一志愿C9材料与化工专业总分300求调剂 +4 曼111 2026-03-24 5/250 2026-03-24 15:44 by 星空星月
[考研] 求材料,环境专业调剂 +3 18567500178 2026-03-18 3/150 2026-03-23 23:50 by 热情沙漠
[论文投稿] 急发核心期刊论文 +3 贤达问津 2026-03-23 5/250 2026-03-23 17:13 by 妹子不好惹
[考研] 275求调剂 +6 shansx 2026-03-22 8/400 2026-03-22 15:27 by barlinike
[考研] 材料求调剂 +5 @taotao 2026-03-21 5/250 2026-03-21 20:55 by lbsjt
[考研] 一志愿西南交大,求调剂 +5 材化逐梦人 2026-03-18 5/250 2026-03-21 00:26 by JourneyLucky
[考研] 294求调剂材料与化工专硕 +15 陌の森林 2026-03-18 15/750 2026-03-20 23:28 by JourneyLucky
[考研] 一志愿武汉理工材料工程专硕调剂 +9 Doleres 2026-03-19 9/450 2026-03-20 22:36 by JourneyLucky
[考研] 290求调剂 +7 ^O^乜 2026-03-19 7/350 2026-03-20 21:43 by JourneyLucky
[考研] 材料考研调剂 +3 xwt。 2026-03-19 3/150 2026-03-19 11:22 by w沐阳w
[考研] 【同济软件】软件(085405)考研求调剂 +3 2026eternal 2026-03-18 3/150 2026-03-18 19:09 by 搏击518
信息提示
请填处理意见