应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 信息科学 » 信息综合 » 常见优化问题二维图示
571/2返回列表12下一页
查看: 2169  |  回复: 56
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

九品夹

新虫 (初入文坛)

[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示，希望对各位有帮助
梯度下降法（gradient decent）步长固定


最速梯度法（steepest decent）（gradient decent + 一维线搜索算法）


牛顿法，basic Newton，黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况，导致下一个目标函数值出现了上升。


阻尼牛顿法，Damped Newton，牛顿方向+一维精确线搜索，虽然未解决Hess阵非正定的情况，但保证了下降方向


Levenbery-Marquardt （LM）法，修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘（Gauss-Newton  Least Squares），使用一次项逼近Hess帧，速度较快，适合大规模问题


模拟退火算法，右侧红色曲线表示“温度”，蓝色曲线为目标函数值，可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法，绿色圆点表示繁殖，突变，红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花（最新10朵）

香辣丸子

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2015-10-03 20:18:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

香辣丸子

新虫 (初入文坛)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫Android客户端
回复此楼
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫IOS客户端
回复此楼
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)
★
九品夹(金币+1): 谢谢参与
祝福楼主了。
回复此楼
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

华华的小木虫

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
哇哦

发自小木虫Android客户端
回复此楼
15楼2015-10-03 21:20:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tiercel_optic

铁虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
mark

发自小木虫Android客户端
回复此楼
22楼2015-10-03 21:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

易伟yiwei

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
haha
回复此楼
24楼2015-10-03 22:05:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jxcrssh1

金虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
能不能上传源程序啊？
赞一下 回复此楼
42楼2015-10-04 00:02:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qfw123

新虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
你好，楼主，有源代码吗？

发自小木虫Android客户端
赞一下 回复此楼
50楼2015-10-04 06:26:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
dmbb3楼
2015-10-03 20:28   回复  
九品夹(金币+1): 谢谢参与
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自小木虫客户端 ]
jixiangbao5楼
2015-10-03 20:45   回复  
九品夹(金币+1): 谢谢参与
核桃芝麻6楼
2015-10-03 20:46   回复  
九品夹(金币+1): 谢谢参与
费姚永芬8楼
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自手机版 http://muchong.com/3g ]
hangyezi9楼
2015-10-03 20:51   回复  
九品夹(金币+1): 谢谢参与
江南遗梦10楼
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
syhorchid11楼
2015-10-03 21:05   回复  
九品夹(金币+1): 谢谢参与
youngen13楼
2015-10-03 21:15   回复  
九品夹(金币+1): 谢谢参与
霏凡蕊儿14楼
2015-10-03 21:19   回复  
九品夹(金币+1): 谢谢参与
祝福
Sammy216楼
2015-10-03 21:21   回复  
九品夹(金币+1): 谢谢参与
deweini17楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
founder18楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
SilenceGoo19楼
2015-10-03 21:28   回复  
九品夹(金币+1): 谢谢参与
a
见过核桃20楼
2015-10-03 21:35   回复  
九品夹(金币+1): 谢谢参与
stl40921楼
2015-10-03 21:47   回复  
九品夹(金币+1): 谢谢参与
cxjzly200823楼
2015-10-03 21:56   回复  
九品夹(金币+1): 谢谢参与
行修25楼
2015-10-03 22:20   回复  
九品夹(金币+1): 谢谢参与
？ [ 发自手机版 http://muchong.com/3g ]
sz_kebaoyuan26楼
2015-10-03 22:25   回复  
九品夹(金币+1): 谢谢参与
行修27楼
2015-10-03 22:25   回复  
？ [ 发自手机版 http://muchong.com/3g ]
刷子哥28楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
顶 发自小木虫Android客户端
lvluohua29楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
tzynew30楼
2015-10-03 22:28   回复  
九品夹(金币+1): 谢谢参与
shenrenren31楼
2015-10-03 22:30   回复  
九品夹(金币+1): 谢谢参与
小蚂蚁199832楼
2015-10-03 22:31   回复  
九品夹(金币+1): 谢谢参与
343533楼
2015-10-03 22:33   回复  
九品夹(金币+1): 谢谢参与
Song浅简莫34楼
2015-10-03 22:39   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
随堂测验青青35楼
2015-10-03 22:44   回复  
九品夹(金币+1): 谢谢参与
。。。 发自小木虫Android客户端
Zane廖36楼
2015-10-03 23:04   回复  
九品夹(金币+1): 谢谢参与
A 发自小木虫Android客户端
shibiema37楼
2015-10-03 23:10   回复  
九品夹(金币+1): 谢谢参与
chentao38楼
2015-10-03 23:33   回复  
九品夹(金币+1): 谢谢参与
Clement_wang39楼
2015-10-03 23:41   回复  
九品夹(金币+1): 谢谢参与
w'y 发自小木虫IOS客户端
yuzhuce40楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
123木头羊41楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
zhchzhsh207643楼
2015-10-04 00:22   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian44楼
2015-10-04 00:59   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian45楼
2015-10-04 01:03   回复  
springburn46楼
2015-10-04 01:34   回复  
九品夹(金币+1): 谢谢参与
star_zhang47楼
2015-10-04 02:06   回复  
九品夹(金币+1): 谢谢参与
Jameskelly48楼
2015-10-04 02:16   回复  
九品夹(金币+1): 谢谢参与
blue_sky_149楼
2015-10-04 05:35   回复  
九品夹(金币+1): 谢谢参与
谢谢分享 发自小木虫Android客户端
相关版块跳转 我要订阅楼主 九品夹 的主题更新
571/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[公派出国] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 5lbyq5wrhb 2026-02-07 4/200 2026-02-08 08:47 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 5lbyq5wrhb 2026-02-07 4/200 2026-02-08 08:46 by vs90ilomwc
[论文投稿] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 3rkserf6qr 2026-02-07 5/250 2026-02-08 08:32 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +5 2h7du0nuhk 2026-02-07 6/300 2026-02-08 08:26 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +5 2h7du0nuhk 2026-02-07 6/300 2026-02-08 08:12 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 6/300 2026-02-08 08:07 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 7/350 2026-02-08 08:06 by vs90ilomwc
[找工作] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 7/350 2026-02-08 07:46 by vs90ilomwc
[公派出国] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:32 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:27 by vs90ilomwc
[教师之家] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:26 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:07 by vs90ilomwc
[教师之家] 有院领导为了换新车，用横向课题经费买了俩车 +7 瞬息宇宙 2026-02-04 7/350 2026-02-07 21:47 by tfang
[有机交流] 酰胺脱乙酰基 10+5 chibby 2026-02-03 12/600 2026-02-07 19:29 by 江东闲人
[基金申请] 同年申请2项不同项目，第1个项目里不写第2个项目的信息，可以吗 +4 hitsdu 2026-02-06 4/200 2026-02-07 13:07 by jurkat.1640
[基金申请] 有时候真觉得大城市人没有县城人甚至个体户幸福 +9 苏东坡二世 2026-02-04 10/500 2026-02-07 12:37 by 小毛球
[考博] 天津大学招2026.09的博士生，欢迎大家推荐交流（博导是本人） +4 a793625982 2026-02-05 5/250 2026-02-07 10:57 by a793625982
[公派出国] CSC & MSCA 博洛尼亚大学能源材料课题组博士/博士后招生｜MSCA经费充足、排名优 +4 雨念 2026-02-01 6/300 2026-02-06 23:32 by MelissaPon
[基金申请] 面上项目申报 +3 Tide man 2026-02-01 3/150 2026-02-05 22:56 by god_tian
[教师之家] 遇见不省心的家人很难过 +18 otani 2026-02-03 22/1100 2026-02-04 11:06 by tangmnt
信息提示
关闭
请填处理意见
关闭