24小时热门版块排行榜    

CyRhmU.jpeg
查看: 1226  |  回复: 5

VAJ414180314

金虫 (初入文坛)

[求助] Levenberg-Marquardt算法能否用于计算1范数定义下的最小值问题?已有2人参与

菜鸟在此请教大家一个问题:
       现在大多数文献在介绍Levenberg-Marquardt算法的时候,都是用这这个优化算法来解决最小二乘问题,也就是x=argmin[(f(x)-d)^2]这个问题(其中f(x)是模型计算出来的数据,d是测量数据)。
       现在我的一个问题在于如果将这个问题换成在1范数定义下的一个优化问题,也就是x=argmin|f(x)-d|,那么Levenberg-Marquardt算法仍然能适用吗?

备注:
       Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,因此,对于上述的问题,假设不存在f(x)-d=0的情形发生,那么Levenberg-Marquardt算法仍然能适用吗?

      我自己写了利用Levenberg-Marquardt来计算x=argmin|f(x)-d|最优化问题的代码,可是一直无法成功,在此恳求各位做optimization问题的高手老师前辈们指点迷津!不胜感激啊
回复此楼
为了梦想与家庭~
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

feixiaolin

荣誉版主 (文坛精英)

优秀版主

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
VAJ414180314: 金币+10, ★★★很有帮助, 了解到了新的知识! 2013-10-15 18:53:02
Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,
用抗差最小二乘的岭估计即可。
Levenberg-Marquardt算法仍然能适用。
2楼2013-10-15 13:22:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

VAJ414180314

金虫 (初入文坛)

引用回帖:
2楼: Originally posted by feixiaolin at 2013-10-15 13:22:30
Levenberg-Marquardt算法对于满足f(x)-d=0的x值在1范数下无法求Jacobian矩阵和Hessian矩阵,
用抗差最小二乘的岭估计即可。
Levenberg-Marquardt算法仍然能适用。

非常感谢你,第一次了解到了抗差最小二乘法!在此,希望能再追问一个问题:
      如果优化问题为x=argmin|f(x)-d|,levenberg-Marquardt算法能够运用吗(假设使f(x)-d=0的x值不存在)?我做了一些公式推导,并且也按照推导写了相应的Matlab代码,但是结果一直不收敛,不知道您是否方便留个联系方式,QQ,或者邮箱之类的,我联系请教您!非常感谢啊!
为了梦想与家庭~
3楼2013-10-15 18:59:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

feixiaolin

荣誉版主 (文坛精英)

优秀版主

引用回帖:
3楼: Originally posted by VAJ414180314 at 2013-10-15 18:59:17
非常感谢你,第一次了解到了抗差最小二乘法!在此,希望能再追问一个问题:
      如果优化问题为x=argmin|f(x)-d|,levenberg-Marquardt算法能够运用吗(假设使f(x)-d=0的x值不存在)?我做了一些公式推导,并且 ...

你也可以用levenberg-Marquardt算法得出的结果做
fisher 法 argmin|f(x)-d|的初始值。
所谓拳无定势,不必拘泥某一种方法。
4楼2013-10-15 19:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)

【答案】应助回帖

建议用“smoothing”方法,很简单|a|用\sqrt{a^2+\mu},\mu很小时,近似程度很好,且是光滑的函数,求梯度等0的方程组,可采用LM方法。
涉及理论分析见"Qi, Sun, Zhou, Math. Programming 2000, A New Look at ...."
为祖国的数学事业添砖加瓦
5楼2014-03-18 18:46:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cooooldog

铁杆木虫 (著名写手)

ส็็็

【答案】应助回帖

不能.
Gauss-Newton以及它的变体的Levenberg-marquardt方法仅适用于"最小二乘"问题.

否则,就不是这两个算法了.
ส็็็็็็็็็็็็็็็็็็็็
6楼2014-03-19 09:18:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 VAJ414180314 的主题更新
信息提示
请填处理意见