24小时热门版块排行榜    

CyRhmU.jpeg
查看: 1057  |  回复: 4

木易山水

金虫 (小有名气)

[求助] 最优化中步长的作用已有1人参与

为什最优化的时候需要一个步长,我的理解是只要梯度是负的,步长越大,下降的越多越好啊,究竟问题出在哪呢?
如果以三维空间中的椭圆曲面为例,向二维投影,该怎么理解步长呀?

[ 发自手机版 http://muchong.com/3g ]
回复此楼
大师远去,新的一代正在成长
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

王188

金虫 (正式写手)

【答案】应助回帖

感谢参与,应助指数 +1
步长太长不容易收敛

[ 发自小木虫客户端 ]
2楼2015-08-11 10:08:37
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

木易山水

金虫 (小有名气)

引用回帖:
2楼: Originally posted by 王188 at 2015-08-11 10:08:37
步长太长不容易收敛

这倒是提醒了我,不过是否有理论上的证明呢?

[ 发自手机版 http://muchong.com/3g ]
大师远去,新的一代正在成长
3楼2015-08-11 10:27:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lbb122400

金虫 (小有名气)

给楼主一个反例,你使用最速下降法,梯度一直为负,步长取很大,你试试算法的效果如何就明白了。
4楼2015-08-11 15:18:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

尘土_飞扬

银虫 (初入文坛)

我是这样理解的,沿着这一点的梯度方向下降,一直下降到梯度正好与上一点梯度垂直的方向,为什么不在继续下降呢。因为该点梯度已经和上一点垂直,再下降已经没有任何贡献了。只有再垂直一下,正好是下一点下降最快的方向。所以逼近过程是一个阶梯形,所以要求最优步长。

发自小木虫IOS客户端
5楼2017-01-12 16:57:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 木易山水 的主题更新
信息提示
请填处理意见