应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 信息科学 » 信息综合 » 常见优化问题二维图示
571/2返回列表12下一页
查看: 2531  |  回复: 56
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

九品夹

新虫 (初入文坛)

[交流] 常见优化问题二维图示

学习数学优化课期间曾经做过一些常见的无约束优化方法的图示，希望对各位有帮助
梯度下降法（gradient decent）步长固定


最速梯度法（steepest decent）（gradient decent + 一维线搜索算法）


牛顿法，basic Newton，黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况，导致下一个目标函数值出现了上升。


阻尼牛顿法，Damped Newton，牛顿方向+一维精确线搜索，虽然未解决Hess阵非正定的情况，但保证了下降方向


Levenbery-Marquardt （LM）法，修正牛顿法中非正定的Hess帧


高斯牛顿最小二乘（Gauss-Newton  Least Squares），使用一次项逼近Hess帧，速度较快，适合大规模问题


模拟退火算法，右侧红色曲线表示“温度”，蓝色曲线为目标函数值，可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。


遗传算法，绿色圆点表示繁殖，突变，红色圆点表示自然选择自然选择


信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。
回复此楼

» 本帖已获得的红花（最新10朵）

香辣丸子

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2015-10-03 20:18:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

香辣丸子

新虫 (初入文坛)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫Android客户端
回复此楼
2楼2015-10-03 20:22:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiaofeishen

捐助贵宾 (文坛精英)
★
九品夹(金币+1): 谢谢参与
厉害

发自小木虫IOS客户端
回复此楼
7楼2015-10-03 20:47:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tableman

木虫之王 (文学泰斗)
★
九品夹(金币+1): 谢谢参与
祝福楼主了。
回复此楼
12楼2015-10-03 21:11:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

华华的小木虫

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
哇哦

发自小木虫Android客户端
回复此楼
15楼2015-10-03 21:20:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tiercel_optic

铁虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
mark

发自小木虫Android客户端
回复此楼
22楼2015-10-03 21:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

易伟yiwei

新虫 (正式写手)
★
九品夹(金币+1): 谢谢参与
haha
回复此楼
24楼2015-10-03 22:05:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jxcrssh1

金虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
能不能上传源程序啊？
赞一下 回复此楼
42楼2015-10-04 00:02:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qfw123

新虫 (小有名气)
★
九品夹(金币+1): 谢谢参与
你好，楼主，有源代码吗？

发自小木虫Android客户端
赞一下 回复此楼
50楼2015-10-04 06:26:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
简单回复
dmbb3楼
2015-10-03 20:28   回复  
九品夹(金币+1): 谢谢参与
nono20094楼
2015-10-03 20:35   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自小木虫客户端 ]
jixiangbao5楼
2015-10-03 20:45   回复  
九品夹(金币+1): 谢谢参与
核桃芝麻6楼
2015-10-03 20:46   回复  
九品夹(金币+1): 谢谢参与
费姚永芬8楼
2015-10-03 20:50   回复  
九品夹(金币+1): 谢谢参与
。 [ 发自手机版 http://muchong.com/3g ]
hangyezi9楼
2015-10-03 20:51   回复  
九品夹(金币+1): 谢谢参与
江南遗梦10楼
2015-10-03 20:59   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
syhorchid11楼
2015-10-03 21:05   回复  
九品夹(金币+1): 谢谢参与
youngen13楼
2015-10-03 21:15   回复  
九品夹(金币+1): 谢谢参与
霏凡蕊儿14楼
2015-10-03 21:19   回复  
九品夹(金币+1): 谢谢参与
祝福
Sammy216楼
2015-10-03 21:21   回复  
九品夹(金币+1): 谢谢参与
deweini17楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
founder18楼
2015-10-03 21:22   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
SilenceGoo19楼
2015-10-03 21:28   回复  
九品夹(金币+1): 谢谢参与
a
见过核桃20楼
2015-10-03 21:35   回复  
九品夹(金币+1): 谢谢参与
stl40921楼
2015-10-03 21:47   回复  
九品夹(金币+1): 谢谢参与
cxjzly200823楼
2015-10-03 21:56   回复  
九品夹(金币+1): 谢谢参与
行修25楼
2015-10-03 22:20   回复  
九品夹(金币+1): 谢谢参与
？ [ 发自手机版 http://muchong.com/3g ]
sz_kebaoyuan26楼
2015-10-03 22:25   回复  
九品夹(金币+1): 谢谢参与
行修27楼
2015-10-03 22:25   回复  
？ [ 发自手机版 http://muchong.com/3g ]
刷子哥28楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
顶 发自小木虫Android客户端
lvluohua29楼
2015-10-03 22:27   回复  
九品夹(金币+1): 谢谢参与
tzynew30楼
2015-10-03 22:28   回复  
九品夹(金币+1): 谢谢参与
shenrenren31楼
2015-10-03 22:30   回复  
九品夹(金币+1): 谢谢参与
小蚂蚁199832楼
2015-10-03 22:31   回复  
九品夹(金币+1): 谢谢参与
343533楼
2015-10-03 22:33   回复  
九品夹(金币+1): 谢谢参与
Song浅简莫34楼
2015-10-03 22:39   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
随堂测验青青35楼
2015-10-03 22:44   回复  
九品夹(金币+1): 谢谢参与
。。。 发自小木虫Android客户端
Zane廖36楼
2015-10-03 23:04   回复  
九品夹(金币+1): 谢谢参与
A 发自小木虫Android客户端
shibiema37楼
2015-10-03 23:10   回复  
九品夹(金币+1): 谢谢参与
chentao38楼
2015-10-03 23:33   回复  
九品夹(金币+1): 谢谢参与
Clement_wang39楼
2015-10-03 23:41   回复  
九品夹(金币+1): 谢谢参与
w'y 发自小木虫IOS客户端
yuzhuce40楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
123木头羊41楼
2015-10-03 23:58   回复  
九品夹(金币+1): 谢谢参与
。 发自小木虫Android客户端
zhchzhsh207643楼
2015-10-04 00:22   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian44楼
2015-10-04 00:59   回复  
九品夹(金币+1): 谢谢参与
祝福
caledonian45楼
2015-10-04 01:03   回复  
springburn46楼
2015-10-04 01:34   回复  
九品夹(金币+1): 谢谢参与
star_zhang47楼
2015-10-04 02:06   回复  
九品夹(金币+1): 谢谢参与
Jameskelly48楼
2015-10-04 02:16   回复  
九品夹(金币+1): 谢谢参与
blue_sky_149楼
2015-10-04 05:35   回复  
九品夹(金币+1): 谢谢参与
谢谢分享 发自小木虫Android客户端
相关版块跳转 我要订阅楼主 九品夹 的主题更新
571/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 欢迎发来filecode的Mz6后的代码验证其规律 +33 医学老男孩 2026-08-13 80/4000 2026-08-17 14:40 by yq199112088
[基金申请] 哪位老哥知道今年的国自然具体哪一天放榜？ +12 Ldrop2023 2026-08-13 14/700 2026-08-17 14:38 by Ldrop2023
[基金申请] 感觉是下周放榜了 +3 angus9576 2026-08-17 6/300 2026-08-17 14:32 by 启萌科技
[博后之家] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +3 6GojgJvkDudM 2026-08-16 6/300 2026-08-17 13:58 by EYK67XJMj64E
[基金申请] filecode=后面第一个是大写字母 +7 wangze12014 2026-08-14 8/400 2026-08-17 12:45 by a441914426
[基金申请] 今天系统多次维护，明天很可能放榜！ +8 zju2000 2026-08-16 9/450 2026-08-17 12:20 by lmz0216
[硕博家园] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 i7NFEVbjQMM5 2026-08-16 4/200 2026-08-17 12:10 by 4GBAYCdVQoK3
[考研] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 6GojgJvkDudM 2026-08-16 4/200 2026-08-17 11:46 by 4GBAYCdVQoK3
[论文投稿] 岩土工程学报什么时候才能终审完呐 25+3 yeager111 2026-08-10 4/200 2026-08-16 20:42 by tfang
[基金申请] 时间戳又变了8-15 +13 archvillain 2026-08-15 25/1250 2026-08-16 20:13 by zhaosm1982
[基金申请] 快农历七夕节了，轻松一下，男人悄悄话，女施主请不要进来。 +3 Tide man 2026-08-14 3/150 2026-08-16 17:47 by jurkat.1640
[基金申请] 咱们一起用铁证分析2026国家社科基金中标与否 +7 启萌科技 2026-08-12 26/1300 2026-08-16 12:35 by 启萌科技
[基金申请] 有时候，自然基金真的不能太认真 （我的申报经验） +10 majunge000 2026-08-11 12/600 2026-08-16 08:18 by xli1984
[基金申请] 各位道友，我要去昆明玩几天，回来见。 +7 Tide man 2026-08-14 8/400 2026-08-15 01:11 by arzu_hma
[基金申请] 不应该看fileCode +7 且听虎啸 2026-08-12 9/450 2026-08-13 14:27 by flydreamws
[基金申请] Filecode 又变了，巨变 +3 WH3796 2026-08-12 4/200 2026-08-13 14:13 by 小木虫6752397
[基金申请] 结合人工智能，周易传统文化，filecode打分制来了，3分以上希望很大。 +3 Tide man 2026-08-12 4/200 2026-08-13 08:35 by ZJTJZ
[基金申请] 2019年青年基金涵评意见，大家看看几个A，几个B? +11 Tide man 2026-08-11 11/550 2026-08-13 07:35 by 撸猫猫
[基金申请] 帮忙看看fileCode +7 wwncly 2026-08-10 13/650 2026-08-11 19:36 by 冰心玉壶晴
[基金申请] 什么时候出结果，有咨询渠道？？？ +3 Tide man 2026-08-11 3/150 2026-08-11 17:54 by kudofaye
信息提示
关闭
请填处理意见
关闭