24小时热门版块排行榜    

查看: 1678  |  回复: 8

微笑去坚持

金虫 (正式写手)

[交流] 最速下降法 已有8人参与

请问最速下降法的搜索步长可以是常数吗,其计算结果于按照优化方法得到的搜索步长差别大吗,谢谢
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hyit_lxq

木虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
最速下降法的搜索步长约为 (gk'*gk)/(gk'*Gk*gk), 可见:用常数作为步长不可取。
~ ~ ~
2楼2013-07-07 11:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

33331515

新虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
理论上用2楼那个步长,在这次迭代中下降最多

你如果去固定步长,那个最优点即使在你边上,你都不一定到的了

比如

你现在 -1点,极小值值在0点,你的步长设为常数2

请问你如何走到0去????
3楼2013-07-11 22:20:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

laosam280

禁虫 (正式写手)

本帖内容被屏蔽

4楼2013-07-12 10:21:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zengguang534

新虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
一般用共轭梯度法求解,效果更佳!可保证在有限几步达到最优解。
5楼2013-07-12 11:28:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yinhu1988

木虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
固定步长不可取,很有可能走过了目标函数不降反升,除非你将步长设定为极小的数,但是这样每次迭代更新很少。
君子务本,静水流深
6楼2013-07-14 20:53:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cooooldog

铁杆木虫 (著名写手)

ส็็็

为啥研究这种落后的算法? 显然直接上手最好的算法
ส็็็็็็็็็็็็็็็็็็็็
7楼2013-07-16 10:39:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)


小木虫: 金币+0.5, 给个红包,谢谢回帖
如果梯度是Lipschitz连续的,Lipschitz常数为L,常步长可在(0,2/L)中选取,得到梯度序列收敛到0
当然,对强凸函数也可以取常步长
见“张立卫,单锋,最优化方法,科学出版社,2010”
为祖国的数学事业添砖加瓦
8楼2014-03-18 18:55:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

紫陌缱绻

铜虫 (初入文坛)


小木虫: 金币+0.5, 给个红包,谢谢回帖
可取常步长,但有限制条件,满足里普希斯条件下最速下降可取常步长。

[ 发自手机版 http://muchong.com/3g ]
所有目的地
9楼2014-03-19 18:14:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 微笑去坚持 的主题更新
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见