24小时热门版块排行榜    

查看: 2194  |  回复: 56

九品夹

新虫 (初入文坛)


[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示,希望对各位有帮助
梯度下降法(gradient decent)步长固定


最速梯度法(steepest decent)(gradient decent + 一维线搜索算法)


牛顿法,basic Newton,黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况,导致下一个目标函数值出现了上升。


阻尼牛顿法,Damped Newton,牛顿方向+一维精确线搜索,虽然未解决Hess阵非正定的情况,但保证了下降方向


Levenbery-Marquardt (LM)法,修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘(Gauss-Newton  Least Squares),使用一次项逼近Hess帧,速度较快,适合大规模问题


模拟退火算法,右侧红色曲线表示“温度”,蓝色曲线为目标函数值,可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法,绿色圆点表示繁殖,突变,红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

香辣丸子

新虫 (初入文坛)



九品夹(金币+1): 谢谢参与
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)



九品夹(金币+1): 谢谢参与
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)



九品夹(金币+1): 谢谢参与
祝福楼主了。
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

华华的小木虫

新虫 (正式写手)



九品夹(金币+1): 谢谢参与
15楼2015-10-03 21:20:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tiercel_optic

铁虫 (正式写手)



九品夹(金币+1): 谢谢参与
22楼2015-10-03 21:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

易伟yiwei

新虫 (正式写手)



九品夹(金币+1): 谢谢参与
haha
24楼2015-10-03 22:05:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jxcrssh1

金虫 (小有名气)



九品夹(金币+1): 谢谢参与
能不能上传源程序啊?
42楼2015-10-04 00:02:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qfw123

新虫 (小有名气)



九品夹(金币+1): 谢谢参与
你好,楼主,有源代码吗?

发自小木虫Android客户端
50楼2015-10-04 06:26:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
dmbb3楼
2015-10-03 20:28   回复  
九品夹(金币+1): 谢谢参与
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
[ 发自小木虫客户端 ]
2015-10-03 20:45   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 20:46   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
[ 发自手机版 http://muchong.com/3g ]
hangyezi9楼
2015-10-03 20:51   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
syhorchid11楼
2015-10-03 21:05   回复  
九品夹(金币+1): 谢谢参与
youngen13楼
2015-10-03 21:15   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 21:19   回复  
九品夹(金币+1): 谢谢参与
祝福
Sammy216楼
2015-10-03 21:21   回复  
九品夹(金币+1): 谢谢参与
deweini17楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
founder18楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
SilenceGoo19楼
2015-10-03 21:28   回复  
九品夹(金币+1): 谢谢参与
a
2015-10-03 21:35   回复  
九品夹(金币+1): 谢谢参与
stl40921楼
2015-10-03 21:47   回复  
九品夹(金币+1): 谢谢参与
cxjzly200823楼
2015-10-03 21:56   回复  
九品夹(金币+1): 谢谢参与
行修25楼
2015-10-03 22:20   回复  
九品夹(金币+1): 谢谢参与
[ 发自手机版 http://muchong.com/3g ]
2015-10-03 22:25   回复  
九品夹(金币+1): 谢谢参与
行修27楼
2015-10-03 22:25   回复  
[ 发自手机版 http://muchong.com/3g ]
刷子哥28楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
lvluohua29楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
tzynew30楼
2015-10-03 22:28   回复  
九品夹(金币+1): 谢谢参与
shenrenren31楼
2015-10-03 22:30   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 22:31   回复  
九品夹(金币+1): 谢谢参与
343533楼
2015-10-03 22:33   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 22:39   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
2015-10-03 22:44   回复  
九品夹(金币+1): 谢谢参与
。。。 发自小木虫Android客户端
Zane廖36楼
2015-10-03 23:04   回复  
九品夹(金币+1): 谢谢参与
A 发自小木虫Android客户端
shibiema37楼
2015-10-03 23:10   回复  
九品夹(金币+1): 谢谢参与
chentao38楼
2015-10-03 23:33   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 23:41   回复  
九品夹(金币+1): 谢谢参与
w'y 发自小木虫IOS客户端
yuzhuce40楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
2015-10-04 00:22   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian44楼
2015-10-04 00:59   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian45楼
2015-10-04 01:03   回复  
springburn46楼
2015-10-04 01:34   回复  
九品夹(金币+1): 谢谢参与
star_zhang47楼
2015-10-04 02:06   回复  
九品夹(金币+1): 谢谢参与
Jameskelly48楼
2015-10-04 02:16   回复  
九品夹(金币+1): 谢谢参与
blue_sky_149楼
2015-10-04 05:35   回复  
九品夹(金币+1): 谢谢参与
谢谢分享 发自小木虫Android客户端
相关版块跳转 我要订阅楼主 九品夹 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料调剂 +4 爱擦汗的可乐冰 2026-02-28 4/200 2026-03-01 00:38 by 猫猫球alter
[基金申请] 面上模板改不了页边距吧? +5 ieewxg 2026-02-25 6/300 2026-03-01 00:10 by addressing
[考研] 307求调剂 +4 73372112 2026-02-28 6/300 2026-03-01 00:04 by ll247
[考研] 272求调剂 +3 材紫有化 2026-02-28 3/150 2026-02-28 22:52 by ms629
[考研] 化工专硕348,一志愿985求调剂 +4 弗格个 2026-02-28 6/300 2026-02-28 22:00 by wang_dand
[考研] 292求调剂 +3 yhk_819 2026-02-28 3/150 2026-02-28 21:57 by gaoxiaoniuma
[考研] 290求调剂 +5 材料专硕调剂; 2026-02-28 6/300 2026-02-28 21:40 by gaoxiaoniuma
[考博] 26申博 +4 想申博! 2026-02-26 4/200 2026-02-28 21:37 by limorning
[考研] 311求调剂 +8 南迦720 2026-02-28 8/400 2026-02-28 21:30 by gaoxiaoniuma
[考研] 求调剂 +4 repeatt?t 2026-02-28 4/200 2026-02-28 21:16 by gaoxiaoniuma
[考研] 284求调剂 +4 天下熯 2026-02-28 4/200 2026-02-28 21:13 by gaoxiaoniuma
[考研] 298求调剂 +8 人间唯你是清欢 2026-02-28 11/550 2026-02-28 20:26 by L135790
[教师之家] 版面费该交吗 +15 苹果在哪里 2026-02-22 18/900 2026-02-28 18:20 by mibaomingg
[考研] 285求调剂 +5 满头大汗的学生 2026-02-28 5/250 2026-02-28 18:10 by 材料专硕调剂;
[考研] 265分求调剂不调专业和学校有行学上就 +4 礼堂丁真258 2026-02-28 6/300 2026-02-28 16:18 by 求调剂zz
[考研] 寻找调剂 +3 LYidhsjabdj 2026-02-28 3/150 2026-02-28 12:59 by miniwendy
[考研] 304求调剂 +5 曼殊2266 2026-02-28 6/300 2026-02-28 12:44 by 迷糊CCPs
[硕博家园] 博士自荐 +6 科研狗111 2026-02-26 9/450 2026-02-28 12:32 by seaskyy
[考研] 272求调剂 +3 田智友 2026-02-28 3/150 2026-02-28 12:31 by 王加浩to
[基金申请] 面上可以超过30页吧? +12 阿拉贡aragon 2026-02-22 13/650 2026-02-26 22:09 by Hahaxia
信息提示
请填处理意见