24小时热门版块排行榜    

查看: 2710  |  回复: 56
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

九品夹

新虫 (初入文坛)


[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示,希望对各位有帮助
梯度下降法(gradient decent)步长固定


最速梯度法(steepest decent)(gradient decent + 一维线搜索算法)


牛顿法,basic Newton,黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况,导致下一个目标函数值出现了上升。


阻尼牛顿法,Damped Newton,牛顿方向+一维精确线搜索,虽然未解决Hess阵非正定的情况,但保证了下降方向


Levenbery-Marquardt (LM)法,修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘(Gauss-Newton  Least Squares),使用一次项逼近Hess帧,速度较快,适合大规模问题


模拟退火算法,右侧红色曲线表示“温度”,蓝色曲线为目标函数值,可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法,绿色圆点表示繁殖,突变,红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)


★
九品夹(金币+1): 谢谢参与
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 九品夹 的主题更新
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +5 SX5mJmPWDfOO 2026-11-13 5/250 2026-11-16 13:40 by LrcgbaWjazY5
[考博] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 XJXMuRjD7cK7 2026-11-13 4/200 2026-11-16 13:29 by LrcgbaWjazY5
[硕博家园] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 uKOSCocCb6Fm 2026-11-13 4/200 2026-11-16 11:06 by K7HMGGdOpylw
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 uKOSCocCb6Fm 2026-11-13 3/150 2026-11-16 10:33 by K7HMGGdOpylw
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 SX5mJmPWDfOO 2026-11-13 3/150 2026-11-15 07:56 by xSrQNSSjcgoX
[论文投稿] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 uKOSCocCb6Fm 2026-11-12 10/500 2026-11-15 02:15 by xSrQNSSjcgoX
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +6 C6CRn66RYYXS 2026-11-10 6/300 2026-11-13 04:21 by Equinoxhua
[公派出国] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:51 by ECLTXnJnRSXf
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +4 cdqGD6ftHmbl 2026-11-11 4/200 2026-11-12 12:26 by ECLTXnJnRSXf
[考研] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +5 Z7qfCsdIiD1T 2026-11-10 8/400 2026-11-12 11:22 by HajghKOMynmz
[教师之家] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +4 Z7qfCsdIiD1T 2026-11-10 9/450 2026-11-12 11:22 by HajghKOMynmz
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-12 10:49 by HajghKOMynmz
[公派出国] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 C6CRn66RYYXS 2026-11-10 8/400 2026-11-12 10:27 by HajghKOMynmz
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +5 C6CRn66RYYXS 2026-11-10 7/350 2026-11-12 10:16 by HajghKOMynmz
[考博] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +6 YHiw1gou1Eda 2026-11-10 6/300 2026-11-12 10:08 by HajghKOMynmz
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +7 FChKX8meu1ds 2026-11-09 9/450 2026-11-12 10:03 by HajghKOMynmz
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 08:15 by HajghKOMynmz
[论文投稿] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 cdqGD6ftHmbl 2026-11-11 3/150 2026-11-12 07:53 by HajghKOMynmz
[考研] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 cdqGD6ftHmbl 2026-11-11 3/150 2026-11-12 07:53 by HajghKOMynmz
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +5 czAiolzR0IJC 2026-11-10 5/250 2026-11-12 06:25 by 9fOTqj074tIg
信息提示
请填处理意见