24小时热门版块排行榜    

查看: 1066  |  回复: 9
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

wowhow

新虫 (小有名气)

[求助] 关于利用梯度求最小值问题,急急急急急急急!!!!!~~~ 已有2人参与

是一篇高水平文章中的推导问题,个人无法理解,感觉是错的。
问题如下:

y是一个向量,f(y)是一个关于y的向量函数,求min f(y) 的最优解y.
通常方法:求f(y)的梯度▽f(y), 令▽f(y)=0(0为零向量),求得的y使得 f(y)最小。(这一步是对的吧?)

文中的▽f(y)解析表达式复杂且不可能为0,因此,作者给出的处理办法是,求 ▽f(y) 的二范数 ||▽f(y)||,
若||▽f(y)||→0, 则▽f(y)→0,这里没问题。
但是,||▽f(y)||也是一个恒大于0的数(不可能取到0),然后,问题来了,作者给出了一个结论,min f(y)等价于
min ||▽f(y)||,即原优化问题等价于求||▽f(y)||的最小值,这一步无法理解,求大神解释?

( 如果||▽f(y)||能取到0,则||▽f(y)||的最小值为0,min ||▽f(y)||即▽f(y)取0,则f(y)取得最小值,显然。
   但文中||▽f(y)||明显是个大于0的数,||▽f(y)||取得最小值能保证f(y)最小?)
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:00
引用回帖:
4楼: Originally posted by wowhow at 2014-12-18 09:28:33
梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?...

> 主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
那是当然。就像一个数绝对值最小,也就最接近于零。

但是,二范数的计算也需要先计算梯度 ▽f,无论多么复杂,所以还是不明白为什么计算范数能够省掉计算梯度
6楼2014-12-18 09:53:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 10 个回答

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:11:49
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

[ 发自手机版 http://muchong.com/3g ]
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-12-18 02:31:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。
3楼2014-12-18 07:15:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
3楼: Originally posted by pippi6 at 2014-12-18 07:15:47
有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。

梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
4楼2014-12-18 09:28:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见