24小时热门版块排行榜    

查看: 1992  |  回复: 8

微笑去坚持

金虫 (正式写手)

[交流] 最速下降法 已有8人参与

请问最速下降法的搜索步长可以是常数吗,其计算结果于按照优化方法得到的搜索步长差别大吗,谢谢
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hyit_lxq

木虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
最速下降法的搜索步长约为 (gk'*gk)/(gk'*Gk*gk), 可见:用常数作为步长不可取。
~ ~ ~
2楼2013-07-07 11:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

33331515

新虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
理论上用2楼那个步长,在这次迭代中下降最多

你如果去固定步长,那个最优点即使在你边上,你都不一定到的了

比如

你现在 -1点,极小值值在0点,你的步长设为常数2

请问你如何走到0去????
3楼2013-07-11 22:20:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

laosam280

禁虫 (正式写手)

本帖内容被屏蔽

4楼2013-07-12 10:21:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zengguang534

新虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
一般用共轭梯度法求解,效果更佳!可保证在有限几步达到最优解。
5楼2013-07-12 11:28:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yinhu1988

木虫 (著名写手)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
固定步长不可取,很有可能走过了目标函数不降反升,除非你将步长设定为极小的数,但是这样每次迭代更新很少。
君子务本,静水流深
6楼2013-07-14 20:53:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cooooldog

铁杆木虫 (著名写手)

ส็็็

为啥研究这种落后的算法? 显然直接上手最好的算法
ส็็็็็็็็็็็็็็็็็็็็
7楼2013-07-16 10:39:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
如果梯度是Lipschitz连续的,Lipschitz常数为L,常步长可在(0,2/L)中选取,得到梯度序列收敛到0
当然,对强凸函数也可以取常步长
见“张立卫,单锋,最优化方法,科学出版社,2010”
为祖国的数学事业添砖加瓦
8楼2014-03-18 18:55:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

紫陌缱绻

铜虫 (初入文坛)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
可取常步长,但有限制条件,满足里普希斯条件下最速下降可取常步长。

[ 发自手机版 http://muchong.com/3g ]
所有目的地
9楼2014-03-19 18:14:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 微笑去坚持 的主题更新
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 xvJS1BYDxvBS 2026-10-31 6/300 2026-10-31 23:23 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 xvJS1BYDxvBS 2026-10-31 7/350 2026-10-31 23:18 by YXM1FDCSE8Bn
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 6/300 2026-10-31 23:17 by YXM1FDCSE8Bn
[博后之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 5/250 2026-10-31 23:10 by YXM1FDCSE8Bn
[博后之家] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 12/600 2026-10-31 22:52 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 X5bHxOULxFqb 2026-10-30 14/700 2026-10-31 22:46 by YXM1FDCSE8Bn
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 X5bHxOULxFqb 2026-10-30 19/950 2026-10-31 22:44 by YXM1FDCSE8Bn
[论文投稿] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 X5bHxOULxFqb 2026-10-30 24/1200 2026-10-31 22:39 by YXM1FDCSE8Bn
[考研] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 xvJS1BYDxvBS 2026-10-31 5/250 2026-10-31 21:59 by YXM1FDCSE8Bn
[找工作] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:54 by YXM1FDCSE8Bn
[考博] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:51 by YXM1FDCSE8Bn
[公派出国] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:51 by YXM1FDCSE8Bn
[基金申请] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 9/450 2026-10-31 21:34 by YXM1FDCSE8Bn
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 1uaZt2kAZj2S 2026-10-30 11/550 2026-10-31 21:25 by YXM1FDCSE8Bn
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 X5bHxOULxFqb 2026-10-30 13/650 2026-10-31 17:12 by hKe7U1kad5Sg
[基金申请] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 X5bHxOULxFqb 2026-10-30 18/900 2026-10-31 17:05 by hKe7U1kad5Sg
[考博] 2027博士申请-临床检验诊断学、病原生物学、微生物方向 50+3 yyh@ 2026-10-28 4/200 2026-10-31 12:47 by 可淡不可忘
[硕博家园] 越来越担心硕士毕业后没有竞争力了 +8 zuesli 2026-10-27 14/700 2026-10-30 22:44 by 好运连连公主
[基金申请] 论文的挂名怎么评判贡献?基金申请中,排名第一的挂名文章 +3 biily 2026-10-25 3/150 2026-10-30 18:33 by 旁观2020
[考博] 申博求助 20+3 Katrinae 2026-10-26 4/200 2026-10-27 09:56 by 北京莱茵编辑
信息提示
请填处理意见