应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 信息科学 » 信息综合 » 常见优化问题二维图示
571/2返回列表12下一页
查看: 2505  |  回复: 56
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

九品夹

新虫 (初入文坛)

[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示，希望对各位有帮助
梯度下降法（gradient decent）步长固定


最速梯度法（steepest decent）（gradient decent + 一维线搜索算法）


牛顿法，basic Newton，黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况，导致下一个目标函数值出现了上升。


阻尼牛顿法，Damped Newton，牛顿方向+一维精确线搜索，虽然未解决Hess阵非正定的情况，但保证了下降方向


Levenbery-Marquardt （LM）法，修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘（Gauss-Newton  Least Squares），使用一次项逼近Hess帧，速度较快，适合大规模问题


模拟退火算法，右侧红色曲线表示“温度”，蓝色曲线为目标函数值，可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法，绿色圆点表示繁殖，突变，红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花（最新10朵）

香辣丸子

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2015-10-03 20:18:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

香辣丸子

新虫 (初入文坛)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫Android客户端
回复此楼
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫IOS客户端
回复此楼
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)
★
九品夹(金币+1): 谢谢参与
祝福楼主了。
回复此楼
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

华华的小木虫

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
哇哦

发自小木虫Android客户端
回复此楼
15楼2015-10-03 21:20:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tiercel_optic

铁虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
mark

发自小木虫Android客户端
回复此楼
22楼2015-10-03 21:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

易伟yiwei

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
haha
回复此楼
24楼2015-10-03 22:05:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jxcrssh1

金虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
能不能上传源程序啊？
赞一下 回复此楼
42楼2015-10-04 00:02:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qfw123

新虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
你好，楼主，有源代码吗？

发自小木虫Android客户端
赞一下 回复此楼
50楼2015-10-04 06:26:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
dmbb3楼
2015-10-03 20:28   回复  
九品夹(金币+1): 谢谢参与
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自小木虫客户端 ]
jixiangbao5楼
2015-10-03 20:45   回复  
九品夹(金币+1): 谢谢参与
核桃芝麻6楼
2015-10-03 20:46   回复  
九品夹(金币+1): 谢谢参与
费姚永芬8楼
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自手机版 http://muchong.com/3g ]
hangyezi9楼
2015-10-03 20:51   回复  
九品夹(金币+1): 谢谢参与
江南遗梦10楼
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
syhorchid11楼
2015-10-03 21:05   回复  
九品夹(金币+1): 谢谢参与
youngen13楼
2015-10-03 21:15   回复  
九品夹(金币+1): 谢谢参与
霏凡蕊儿14楼
2015-10-03 21:19   回复  
九品夹(金币+1): 谢谢参与
祝福
Sammy216楼
2015-10-03 21:21   回复  
九品夹(金币+1): 谢谢参与
deweini17楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
founder18楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
SilenceGoo19楼
2015-10-03 21:28   回复  
九品夹(金币+1): 谢谢参与
a
见过核桃20楼
2015-10-03 21:35   回复  
九品夹(金币+1): 谢谢参与
stl40921楼
2015-10-03 21:47   回复  
九品夹(金币+1): 谢谢参与
cxjzly200823楼
2015-10-03 21:56   回复  
九品夹(金币+1): 谢谢参与
行修25楼
2015-10-03 22:20   回复  
九品夹(金币+1): 谢谢参与
？ [ 发自手机版 http://muchong.com/3g ]
sz_kebaoyuan26楼
2015-10-03 22:25   回复  
九品夹(金币+1): 谢谢参与
行修27楼
2015-10-03 22:25   回复  
？ [ 发自手机版 http://muchong.com/3g ]
刷子哥28楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
顶 发自小木虫Android客户端
lvluohua29楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
tzynew30楼
2015-10-03 22:28   回复  
九品夹(金币+1): 谢谢参与
shenrenren31楼
2015-10-03 22:30   回复  
九品夹(金币+1): 谢谢参与
小蚂蚁199832楼
2015-10-03 22:31   回复  
九品夹(金币+1): 谢谢参与
343533楼
2015-10-03 22:33   回复  
九品夹(金币+1): 谢谢参与
Song浅简莫34楼
2015-10-03 22:39   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
随堂测验青青35楼
2015-10-03 22:44   回复  
九品夹(金币+1): 谢谢参与
。。。 发自小木虫Android客户端
Zane廖36楼
2015-10-03 23:04   回复  
九品夹(金币+1): 谢谢参与
A 发自小木虫Android客户端
shibiema37楼
2015-10-03 23:10   回复  
九品夹(金币+1): 谢谢参与
chentao38楼
2015-10-03 23:33   回复  
九品夹(金币+1): 谢谢参与
Clement_wang39楼
2015-10-03 23:41   回复  
九品夹(金币+1): 谢谢参与
w'y 发自小木虫IOS客户端
yuzhuce40楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
123木头羊41楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
zhchzhsh207643楼
2015-10-04 00:22   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian44楼
2015-10-04 00:59   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian45楼
2015-10-04 01:03   回复  
springburn46楼
2015-10-04 01:34   回复  
九品夹(金币+1): 谢谢参与
star_zhang47楼
2015-10-04 02:06   回复  
九品夹(金币+1): 谢谢参与
Jameskelly48楼
2015-10-04 02:16   回复  
九品夹(金币+1): 谢谢参与
blue_sky_149楼
2015-10-04 05:35   回复  
九品夹(金币+1): 谢谢参与
谢谢分享 发自小木虫Android客户端
相关版块跳转 我要订阅楼主 九品夹 的主题更新
571/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 好奇怪的filecode +3 布布和一二 2026-08-08 4/200 2026-08-08 17:46 by zhanghaozhu
[基金申请] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +3 qTvzQBRAHjCi 2026-08-07 5/250 2026-08-08 17:02 by oEVWOejN9taj
[考研] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +3 qTvzQBRAHjCi 2026-08-07 5/250 2026-08-08 16:47 by oEVWOejN9taj
[考博] 售一区SCI文章T0P，我:8O.551.O54,科目全,可十急 +3 Vi50GxzrFcSG 2026-08-07 4/200 2026-08-08 16:22 by oEVWOejN9taj
[基金申请] fileCode有新解读？ +9 Tide man 2026-08-08 17/850 2026-08-08 14:56 by archvillain
[硕博家园] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +4 HEQlVqMTIA7d 2026-08-07 6/300 2026-08-08 14:47 by oEVWOejN9taj
[博后之家] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +3 HEQlVqMTIA7d 2026-08-07 6/300 2026-08-08 14:42 by oEVWOejN9taj
[教师之家] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 KXLV3nuBVBY7 2026-08-07 5/250 2026-08-08 14:07 by oEVWOejN9taj
[考博] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 HEQlVqMTIA7d 2026-08-07 3/150 2026-08-08 03:47 by 6vVgjDL4CnGu
[基金申请] 基金中了 +14 laoda193707 2026-08-06 14/700 2026-08-08 00:23 by 实验小白ha
[基金申请] 娱乐 +6 Tide man 2026-08-03 6/300 2026-08-07 22:40 by 铁帽子农民
[基金申请] 固定端突然变了，今天 +6 archvillain 2026-08-06 10/500 2026-08-07 16:03 by 医学老男孩
[基金申请] 大家散了吧，后缀研究没有意义，别浪费时间了，过好目前的每一天，不要焦虑 +5 Tide man 2026-08-06 7/350 2026-08-07 13:11 by 医学老男孩
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
[基金申请] filecode +8 布布和一二 2026-08-06 11/550 2026-08-06 20:41 by tangpu318
[基金申请] 影响面上的因素 +8 布布和一二 2026-08-05 11/550 2026-08-06 10:41 by 宝贝虫子
[基金申请] 8月时间戳变的，举个手。玩一下，释放压力 +9 archvillain 2026-08-04 11/550 2026-08-05 20:06 by wlwhappy
[基金申请] 好消息？这个有何含义？？？ +8 Tide man 2026-08-05 10/500 2026-08-05 16:14 by xmuxiaoyu
[基金申请] 有没有H口的？有收到消息的吗？ +3 超级海虾 2026-08-04 3/150 2026-08-04 17:26 by 学教育滴
[基金申请] 什么时候能放榜呀？ +3 Jacob678 2026-08-03 3/150 2026-08-03 16:14 by gltch
信息提示
关闭
请填处理意见
关闭