24小时热门版块排行榜    

查看: 1696  |  回复: 5

VAJ414180314

金虫 (初入文坛)

[求助] Levenberg-Marquardt算法能否用于计算1范数定义下的最小值问题? 已有2人参与

菜鸟在此请教大家一个问题:
       现在大多数文献在介绍Levenberg-Marquardt算法的时候,都是用这这个优化算法来解决最小二乘问题,也就是x=argmin[(f(x)-d)^2]这个问题(其中f(x)是模型计算出来的数据,d是测量数据)。
       现在我的一个问题在于如果将这个问题换成在1范数定义下的一个优化问题,也就是x=argmin|f(x)-d|,那么Levenberg-Marquardt算法仍然能适用吗?

备注:
       Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,因此,对于上述的问题,假设不存在f(x)-d=0的情形发生,那么Levenberg-Marquardt算法仍然能适用吗?

      我自己写了利用Levenberg-Marquardt来计算x=argmin|f(x)-d|最优化问题的代码,可是一直无法成功,在此恳求各位做optimization问题的高手老师前辈们指点迷津!不胜感激啊!
回复此楼
为了梦想与家庭~
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

feixiaolin

荣誉版主 (文坛精英)

优秀版主

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
VAJ414180314: 金币+10, ★★★很有帮助, 了解到了新的知识! 2013-10-15 18:53:02
Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,
用抗差最小二乘的岭估计即可。
Levenberg-Marquardt算法仍然能适用。
2楼2013-10-15 13:22:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

VAJ414180314

金虫 (初入文坛)

引用回帖:
2楼: Originally posted by feixiaolin at 2013-10-15 13:22:30
Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,
用抗差最小二乘的岭估计即可。
Levenberg-Marquardt算法仍然能适用。

非常感谢你,第一次了解到了抗差最小二乘法!在此,希望能再追问一个问题:
      如果优化问题为x=argmin|f(x)-d|,levenberg-Marquardt算法能够运用吗(假设使f(x)-d=0的x值不存在)?我做了一些公式推导,并且也按照推导写了相应的Matlab代码,但是结果一直不收敛,不知道您是否方便留个联系方式,QQ,或者邮箱之类的,我联系请教您!非常感谢啊!
为了梦想与家庭~
3楼2013-10-15 18:59:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

feixiaolin

荣誉版主 (文坛精英)

优秀版主

引用回帖:
3楼: Originally posted by VAJ414180314 at 2013-10-15 18:59:17
非常感谢你,第一次了解到了抗差最小二乘法!在此,希望能再追问一个问题:
      如果优化问题为x=argmin|f(x)-d|,levenberg-Marquardt算法能够运用吗(假设使f(x)-d=0的x值不存在)?我做了一些公式推导,并且 ...

你也可以用levenberg-Marquardt算法得出的结果做
fisher 法 argmin|f(x)-d|的初始值。
所谓拳无定势,不必拘泥某一种方法。
4楼2013-10-15 19:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)

【答案】应助回帖

建议用“smoothing”方法,很简单|a|用\sqrt{a^2+\mu},\mu很小时,近似程度很好,且是光滑的函数,求梯度等0的方程组,可采用LM方法。
涉及理论分析见"Qi, Sun, Zhou, Math. Programming 2000, A New Look at ...."
为祖国的数学事业添砖加瓦
5楼2014-03-18 18:46:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cooooldog

铁杆木虫 (著名写手)

ส็็็

【答案】应助回帖

不能.
Gauss-Newton以及它的变体的Levenberg-marquardt方法仅适用于"最小二乘"问题.

否则,就不是这两个算法了.
ส็็็็็็็็็็็็็็็็็็็็
6楼2014-03-19 09:18:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 VAJ414180314 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[博后之家] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 IDs3scOF0tjC 2026-09-28 4/200 2026-09-29 19:27 by cqwQDCxMcL3I
[找工作] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 ZYXdhzDAy9ZX 2026-09-28 4/200 2026-09-29 16:54 by yCO1Ll7aHtsw
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 ZYXdhzDAy9ZX 2026-09-28 3/150 2026-09-29 16:03 by etmYJ6d2rquH
[考博] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 tqUTOxClQUMF 2026-09-28 3/150 2026-09-29 15:46 by etmYJ6d2rquH
[博后之家] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 tqUTOxClQUMF 2026-09-28 3/150 2026-09-29 15:04 by etmYJ6d2rquH
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 tqUTOxClQUMF 2026-09-28 3/150 2026-09-29 14:58 by etmYJ6d2rquH
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +6 GDBe8tDZqE8z 2026-09-28 6/300 2026-09-29 14:41 by etmYJ6d2rquH
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 CfXuS1rDhLYN 2026-09-28 3/150 2026-09-29 14:24 by etmYJ6d2rquH
[公派出国] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 IDs3scOF0tjC 2026-09-28 5/250 2026-09-29 13:50 by etmYJ6d2rquH
[考研] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 tqUTOxClQUMF 2026-09-28 3/150 2026-09-29 09:59 by JzYBbHIXWSrW
[教师之家] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 GDBe8tDZqE8z 2026-09-28 4/200 2026-09-29 09:49 by JzYBbHIXWSrW
[找工作] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 ZYXdhzDAy9ZX 2026-09-28 3/150 2026-09-29 06:28 by ZvyPK8n6Nfki
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 tqUTOxClQUMF 2026-09-28 3/150 2026-09-28 23:46 by b8fCuTHqckEt
[考研] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 GDBe8tDZqE8z 2026-09-28 3/150 2026-09-28 23:12 by b8fCuTHqckEt
[公派出国] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +4 IDs3scOF0tjC 2026-09-28 4/200 2026-09-28 22:55 by ez6fGg9abYaj
[有机交流] 同一个分子,一条来自文献,一条来自AI——不告诉你答案,你会选哪条? +3 tianxiaoxian 2026-09-28 6/300 2026-09-28 22:44 by tianxiaoxian
[找工作] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 IDs3scOF0tjC 2026-09-28 5/250 2026-09-28 22:32 by ez6fGg9abYaj
[考博] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 IDs3scOF0tjC 2026-09-28 6/300 2026-09-28 22:15 by ez6fGg9abYaj
[论文投稿] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 CfXuS1rDhLYN 2026-09-28 3/150 2026-09-28 19:08 by 9lS3ad5oOymn
[考研] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 IDs3scOF0tjC 2026-09-28 4/200 2026-09-28 18:51 by 9lS3ad5oOymn
信息提示
请填处理意见