24小时热门版块排行榜    

查看: 2522  |  回复: 56
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

九品夹

新虫 (初入文坛)


[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示,希望对各位有帮助
梯度下降法(gradient decent)步长固定


最速梯度法(steepest decent)(gradient decent + 一维线搜索算法)


牛顿法,basic Newton,黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况,导致下一个目标函数值出现了上升。


阻尼牛顿法,Damped Newton,牛顿方向+一维精确线搜索,虽然未解决Hess阵非正定的情况,但保证了下降方向


Levenbery-Marquardt (LM)法,修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘(Gauss-Newton  Least Squares),使用一次项逼近Hess帧,速度较快,适合大规模问题


模拟退火算法,右侧红色曲线表示“温度”,蓝色曲线为目标函数值,可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法,绿色圆点表示繁殖,突变,红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tiercel_optic

铁虫 (正式写手)



九品夹(金币+1): 谢谢参与
22楼2015-10-03 21:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 57 个回答

香辣丸子

新虫 (初入文坛)



九品夹(金币+1): 谢谢参与
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)



九品夹(金币+1): 谢谢参与
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)



九品夹(金币+1): 谢谢参与
祝福楼主了。
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
[ 发自小木虫客户端 ]
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
[ 发自手机版 http://muchong.com/3g ]
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
发自小木虫Android客户端
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 今天系统多次维护,明天很可能放榜! +5 zju2000 2026-08-16 5/250 2026-08-16 23:23 by Haru815
[基金申请] 欢迎发来filecode的Mz6后的代码验证其规律 +32 医学老男孩 2026-08-13 74/3700 2026-08-16 21:05 by 医学老男孩
[基金申请] 时间戳又变了8-15 +13 archvillain 2026-08-15 25/1250 2026-08-16 20:13 by zhaosm1982
[基金申请] 2027广东省杰青 +3 奶牛小黑 2026-08-15 6/300 2026-08-16 20:07 by 奶牛小黑
[基金申请] 哪位老哥知道今年的国自然具体哪一天放榜? +9 Ldrop2023 2026-08-13 9/450 2026-08-16 13:24 by wukun_007
[基金申请] 咱们一起用铁证分析2026国家社科基金中标与否 +7 启萌科技 2026-08-12 26/1300 2026-08-16 12:35 by 启萌科技
[基金申请] 我的国基提前知道中了,可是同事的操作让我实在接受不了,怎么会有这样的人 +11 家与远方 2026-08-10 16/800 2026-08-16 10:28 by ray43
[基金申请] 有时候,自然基金真的不能太认真 (我的申报经验) +10 majunge000 2026-08-11 12/600 2026-08-16 08:18 by xli1984
[基金申请] filecode=后面第一个是大写字母 +6 wangze12014 2026-08-14 7/350 2026-08-15 20:12 by gltch
[基金申请] 各位道友,我要去昆明玩几天,回来见。 +7 Tide man 2026-08-14 8/400 2026-08-15 01:11 by arzu_hma
[基金申请] 奇怪,两个人的filecode固定段从头到尾一模一样 +8 布布和一二 2026-08-10 11/550 2026-08-14 14:58 by Equinoxhua
[基金申请] filecode +15 documentary 2026-08-10 17/850 2026-08-14 10:08 by kissu88
[基金申请] FileCode能看出啥? +10 要乐观耀哥 2026-08-10 32/1600 2026-08-14 09:37 by 要乐观耀哥
[基金申请] 静等基金结果 +8 gjjjzhong 2026-08-10 21/1050 2026-08-13 17:56 by 且听虎啸
[基金申请] 不应该看fileCode +7 且听虎啸 2026-08-12 9/450 2026-08-13 14:27 by flydreamws
[基金申请] 分享一下我之前已中青C的计划书的filecode +4 布布和一二 2026-08-11 5/250 2026-08-13 12:56 by cratir
[基金申请] 2019年青年基金涵评意见,大家看看几个A,几个B? +11 Tide man 2026-08-11 11/550 2026-08-13 07:35 by 撸猫猫
[基金申请] 帮忙看看fileCode +7 wwncly 2026-08-10 13/650 2026-08-11 19:36 by 冰心玉壶晴
[基金申请] 为什么网上很多人说本周 12号出结果 +6 瞬息宇宙 2026-08-10 7/350 2026-08-11 19:25 by Tide man
[基金申请] 据悉今年马上要出结果了 +7 瞬息宇宙 2026-08-10 8/400 2026-08-10 12:42 by Vivilian
信息提示
请填处理意见