24小时热门版块排行榜    

查看: 2195  |  回复: 56
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

九品夹

新虫 (初入文坛)


[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示,希望对各位有帮助
梯度下降法(gradient decent)步长固定


最速梯度法(steepest decent)(gradient decent + 一维线搜索算法)


牛顿法,basic Newton,黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况,导致下一个目标函数值出现了上升。


阻尼牛顿法,Damped Newton,牛顿方向+一维精确线搜索,虽然未解决Hess阵非正定的情况,但保证了下降方向


Levenbery-Marquardt (LM)法,修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘(Gauss-Newton  Least Squares),使用一次项逼近Hess帧,速度较快,适合大规模问题


模拟退火算法,右侧红色曲线表示“温度”,蓝色曲线为目标函数值,可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法,绿色圆点表示繁殖,突变,红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)



九品夹(金币+1): 谢谢参与
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 57 个回答

香辣丸子

新虫 (初入文坛)



九品夹(金币+1): 谢谢参与
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)



九品夹(金币+1): 谢谢参与
祝福楼主了。
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
[ 发自小木虫客户端 ]
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
[ 发自手机版 http://muchong.com/3g ]
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 298求调剂 +5 axyz3 2026-02-28 5/250 2026-03-01 06:45 by 刘兵
[考研] 272求调剂 +4 田智友 2026-02-28 4/200 2026-03-01 06:43 by 刘兵
[考研] 材料调剂 +4 爱擦汗的可乐冰 2026-02-28 4/200 2026-03-01 00:38 by 猫猫球alter
[考研] 307求调剂 +4 73372112 2026-02-28 6/300 2026-03-01 00:04 by ll247
[考研] 317一志愿华南理工电气工程求调剂 +5 Soliloquy_Q 2026-02-28 8/400 2026-02-28 23:36 by xyx2012xyx
[考研] 化工专硕348,一志愿985求调剂 +4 弗格个 2026-02-28 6/300 2026-02-28 22:00 by wang_dand
[考研] 292求调剂 +3 yhk_819 2026-02-28 3/150 2026-02-28 21:57 by gaoxiaoniuma
[考研] 290求调剂 +5 材料专硕调剂; 2026-02-28 6/300 2026-02-28 21:40 by gaoxiaoniuma
[考研] 295求调剂 +5 19171856320 2026-02-28 5/250 2026-02-28 21:39 by gaoxiaoniuma
[考研] 材料学调剂 +5 提神豆沙包 2026-02-28 5/250 2026-02-28 21:34 by gaoxiaoniuma
[考研] 材料类求调剂 +6 wana_kiko 2026-02-28 6/300 2026-02-28 21:20 by gaoxiaoniuma
[考研] 求调剂 +4 repeatt?t 2026-02-28 4/200 2026-02-28 21:16 by gaoxiaoniuma
[考研] 284求调剂 +4 天下熯 2026-02-28 4/200 2026-02-28 21:13 by gaoxiaoniuma
[考研] 高分子化学与物理调剂 +4 好好好1233 2026-02-28 7/350 2026-02-28 20:42 by 好好好1233
[考研] 085600材料工程一志愿中科大总分312求调剂 +8 吃宵夜1 2026-02-28 10/500 2026-02-28 20:27 by L135790
[考博] 博士自荐 +3 kkluvs 2026-02-28 3/150 2026-02-28 16:59 by StarAura
[考研] 寻找调剂 +3 LYidhsjabdj 2026-02-28 3/150 2026-02-28 12:59 by miniwendy
[考研] 304求调剂 +5 曼殊2266 2026-02-28 6/300 2026-02-28 12:44 by 迷糊CCPs
[硕博家园] 博士自荐 +6 科研狗111 2026-02-26 9/450 2026-02-28 12:32 by seaskyy
[硕博家园] 【博士招生】太原理工大学2026化工博士 +4 N1ce_try 2026-02-24 8/400 2026-02-26 08:40 by N1ce_try
信息提示
请填处理意见