24小时热门版块排行榜    

查看: 1675  |  回复: 8
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

微笑去坚持

金虫 (正式写手)

[交流] 最速下降法 已有8人参与

请问最速下降法的搜索步长可以是常数吗,其计算结果于按照优化方法得到的搜索步长差别大吗,谢谢
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)


小木虫: 金币+0.5, 给个红包,谢谢回帖
如果梯度是Lipschitz连续的,Lipschitz常数为L,常步长可在(0,2/L)中选取,得到梯度序列收敛到0
当然,对强凸函数也可以取常步长
见“张立卫,单锋,最优化方法,科学出版社,2010”
为祖国的数学事业添砖加瓦
8楼2014-03-18 18:55:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 9 个回答

hyit_lxq

木虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
最速下降法的搜索步长约为 (gk'*gk)/(gk'*Gk*gk), 可见:用常数作为步长不可取。
~ ~ ~
2楼2013-07-07 11:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

33331515

新虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
理论上用2楼那个步长,在这次迭代中下降最多

你如果去固定步长,那个最优点即使在你边上,你都不一定到的了

比如

你现在 -1点,极小值值在0点,你的步长设为常数2

请问你如何走到0去????
3楼2013-07-11 22:20:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

laosam280

禁虫 (正式写手)

本帖内容被屏蔽

4楼2013-07-12 10:21:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见