24小时热门版块排行榜    

Znn3bq.jpeg
查看: 2230  |  回复: 56
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

九品夹

新虫 (初入文坛)


[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示,希望对各位有帮助
梯度下降法(gradient decent)步长固定


最速梯度法(steepest decent)(gradient decent + 一维线搜索算法)


牛顿法,basic Newton,黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况,导致下一个目标函数值出现了上升。


阻尼牛顿法,Damped Newton,牛顿方向+一维精确线搜索,虽然未解决Hess阵非正定的情况,但保证了下降方向


Levenbery-Marquardt (LM)法,修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘(Gauss-Newton  Least Squares),使用一次项逼近Hess帧,速度较快,适合大规模问题


模拟退火算法,右侧红色曲线表示“温度”,蓝色曲线为目标函数值,可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法,绿色圆点表示繁殖,突变,红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)



九品夹(金币+1): 谢谢参与
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 57 个回答

香辣丸子

新虫 (初入文坛)



九品夹(金币+1): 谢谢参与
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)



九品夹(金币+1): 谢谢参与
祝福楼主了。
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
[ 发自小木虫客户端 ]
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
[ 发自手机版 http://muchong.com/3g ]
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 266调剂 +9 daya sun 2026-04-07 10/500 2026-04-13 09:35 by 紫曦紫棋
[考研] 366求调剂 +9 不知名的小卅 2026-04-11 9/450 2026-04-13 01:19 by 幸免 ..
[硕博家园] 新一代电子信息294求调剂 不挑学校 +7 Ytyt11 2026-04-09 8/400 2026-04-12 16:57 by ajpv风雷
[考研] 291求调剂 +11 关忆北. 2026-04-09 12/600 2026-04-12 10:32 by 逆水乘风
[考研] 一志愿华中农微生物,288分,三年实验经历 +11 代fish 2026-04-09 11/550 2026-04-12 10:21 by Hayaay
[考研] 316求调剂 +5 想读研究生( ?∵ 2026-04-07 5/250 2026-04-12 00:43 by 蓝云思雨
[考研] 一志愿厦大0856,306求调剂 +15 Bblinging 2026-04-11 15/750 2026-04-11 22:53 by 314126402
[考研] 调剂 +10 只叙离别辞 2026-04-09 12/600 2026-04-11 20:57 by 逆水乘风
[考研] 工科273调剂 +6 X1999 2026-04-09 7/350 2026-04-11 10:23 by zhq0425
[考研] 调剂 化学 307 +21 73372112 2026-04-09 23/1150 2026-04-10 23:53 by wj165256
[考研] 吉大计算机技术331分,英语六级,求调剂 +3 峰峰021116 2026-04-09 3/150 2026-04-10 20:01 by chemisry
[考研] 0858求调剂 5+5 Gky09300550, 2026-04-10 8/400 2026-04-10 19:13 by chemisry
[考研] 本9 一志愿西工大085601 324求调剂 +5 wysyjs25 2026-04-10 5/250 2026-04-10 16:57 by luoyongfeng
[基金申请] 有爆料,一个青年教师卖房得400万,然后换了一个四青帽子 +9 babu2015 2026-04-08 9/450 2026-04-10 11:43 by 苏东坡二世
[考研] 085600材料与化工专硕329 求调剂 +24 额cc 2026-04-06 25/1250 2026-04-09 16:01 by wp06
[考研] 334求调剂 +16 Riot2025 2026-04-08 17/850 2026-04-09 09:28 by wdyheheeh
[考研] 327求调剂 +10 Xxjc1107. 2026-04-06 11/550 2026-04-09 01:21 by lature00
[考研] 求调剂 +11 wwwwabcde 2026-04-07 11/550 2026-04-07 23:16 by JourneyLucky
[考研] 338求调剂 +5 小猪红色 678 2026-04-06 6/300 2026-04-07 21:18 by 乔哒哒哒
[考研] 求助 +3 卡卡东88 2026-04-06 4/200 2026-04-06 15:28 by going home
信息提示
请填处理意见