24小时热门版块排行榜    

查看: 1776  |  回复: 8

微笑去坚持

金虫 (正式写手)

[交流] 最速下降法 已有8人参与

请问最速下降法的搜索步长可以是常数吗,其计算结果于按照优化方法得到的搜索步长差别大吗,谢谢
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hyit_lxq

木虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
最速下降法的搜索步长约为 (gk'*gk)/(gk'*Gk*gk), 可见:用常数作为步长不可取。
~ ~ ~
2楼2013-07-07 11:40:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

33331515

新虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
理论上用2楼那个步长,在这次迭代中下降最多

你如果去固定步长,那个最优点即使在你边上,你都不一定到的了

比如

你现在 -1点,极小值值在0点,你的步长设为常数2

请问你如何走到0去????
3楼2013-07-11 22:20:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

laosam280

禁虫 (正式写手)

本帖内容被屏蔽

4楼2013-07-12 10:21:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zengguang534

新虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
一般用共轭梯度法求解,效果更佳!可保证在有限几步达到最优解。
5楼2013-07-12 11:28:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yinhu1988

木虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
固定步长不可取,很有可能走过了目标函数不降反升,除非你将步长设定为极小的数,但是这样每次迭代更新很少。
君子务本,静水流深
6楼2013-07-14 20:53:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cooooldog

铁杆木虫 (著名写手)

ส็็็

为啥研究这种落后的算法? 显然直接上手最好的算法
ส็็็็็็็็็็็็็็็็็็็็
7楼2013-07-16 10:39:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mywangdi

新虫 (初入文坛)


小木虫: 金币+0.5, 给个红包,谢谢回帖
如果梯度是Lipschitz连续的,Lipschitz常数为L,常步长可在(0,2/L)中选取,得到梯度序列收敛到0
当然,对强凸函数也可以取常步长
见“张立卫,单锋,最优化方法,科学出版社,2010”
为祖国的数学事业添砖加瓦
8楼2014-03-18 18:55:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

紫陌缱绻

铜虫 (初入文坛)


小木虫: 金币+0.5, 给个红包,谢谢回帖
可取常步长,但有限制条件,满足里普希斯条件下最速下降可取常步长。

[ 发自手机版 http://muchong.com/3g ]
所有目的地
9楼2014-03-19 18:14:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 微笑去坚持 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿211 初试270分 求调剂 +3 谷雨上岸 2026-03-23 4/200 2026-03-23 15:53 by ACS Nano——
[考研] 298求调剂 +8 上岸6666@ 2026-03-20 8/400 2026-03-23 11:02 by laoshidan
[考研] 307求调剂 +3 余意卿 2026-03-21 3/150 2026-03-23 10:32 by Iveryant
[考研] 070300,一志愿北航320求调剂 +3 Jerry0216 2026-03-22 5/250 2026-03-23 09:16 by 。。堂堂
[考研] 280分求调剂 一志愿085802 +4 PUMPT 2026-03-22 7/350 2026-03-22 22:13 by 星空星月
[考研] 材料与化工085600,总分304,本科有两篇sci参与,求调剂 +4 幸运的酱酱 2026-03-22 5/250 2026-03-22 20:15 by edmund7
[考研] 一志愿中南化学(0703)总分337求调剂 +9 niko- 2026-03-19 10/500 2026-03-22 16:08 by ColorlessPI
[考研] 275求调剂 +6 shansx 2026-03-22 8/400 2026-03-22 15:27 by barlinike
[考研] 0856材料专硕353求调剂 +4 NIFFFfff 2026-03-20 4/200 2026-03-22 09:49 by 2026paper
[考研] 0805 316求调剂 +3 大雪深藏 2026-03-18 3/150 2026-03-21 18:55 by 学员8dgXkO
[基金申请] 学校已经提交到NSFC,还能修改吗? 40+4 babangida 2026-03-19 9/450 2026-03-21 16:12 by babangida
[考研] 材料学学硕080502 337求调剂-一志愿华中科技大学 +4 顺顺顺mr 2026-03-18 5/250 2026-03-21 10:22 by luoyongfeng
[考研] 二本跨考郑大材料306英一数二 +3 z1z2z3879 2026-03-17 3/150 2026-03-21 02:29 by JourneyLucky
[考研] 一志愿西南交大,求调剂 +5 材化逐梦人 2026-03-18 5/250 2026-03-21 00:26 by JourneyLucky
[考研] 材料专业求调剂 +6 hanamiko 2026-03-18 6/300 2026-03-21 00:24 by JourneyLucky
[考研] 294求调剂材料与化工专硕 +15 陌の森林 2026-03-18 15/750 2026-03-20 23:28 by JourneyLucky
[考研] 求调剂,一志愿:南京航空航天大学大学 ,080500材料科学与工程学硕,总分289分 +4 @taotao 2026-03-19 4/200 2026-03-20 22:14 by JourneyLucky
[考研] 一志愿西安交通大学 学硕 354求调剂211或者双一流 +3 我想要读研究生 2026-03-20 3/150 2026-03-20 20:13 by JourneyLucky
[考研] 生物学调剂招人!!! +3 山海天岚 2026-03-17 4/200 2026-03-19 21:34 by 怎么释怀
[考研] 一志愿福大288有机化学,求调剂 +3 小木虫200408204 2026-03-18 3/150 2026-03-19 13:31 by houyaoxu
信息提示
请填处理意见