24小时热门版块排行榜    

查看: 1070  |  回复: 9
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

wowhow

新虫 (小有名气)

[求助] 关于利用梯度求最小值问题,急急急急急急急!!!!!~~~ 已有2人参与

是一篇高水平文章中的推导问题,个人无法理解,感觉是错的。
问题如下:

y是一个向量,f(y)是一个关于y的向量函数,求min f(y) 的最优解y.
通常方法:求f(y)的梯度▽f(y), 令▽f(y)=0(0为零向量),求得的y使得 f(y)最小。(这一步是对的吧?)

文中的▽f(y)解析表达式复杂且不可能为0,因此,作者给出的处理办法是,求 ▽f(y) 的二范数 ||▽f(y)||,
若||▽f(y)||→0, 则▽f(y)→0,这里没问题。
但是,||▽f(y)||也是一个恒大于0的数(不可能取到0),然后,问题来了,作者给出了一个结论,min f(y)等价于
min ||▽f(y)||,即原优化问题等价于求||▽f(y)||的最小值,这一步无法理解,求大神解释?

( 如果||▽f(y)||能取到0,则||▽f(y)||的最小值为0,min ||▽f(y)||即▽f(y)取0,则f(y)取得最小值,显然。
   但文中||▽f(y)||明显是个大于0的数,||▽f(y)||取得最小值能保证f(y)最小?)
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:11
It can reach local minimum, maximum or saddle. If you want to be minimum or maximum, need to consider Hessian. If Hessian is positive definite, or negative definite, you can get local max or min.
小木虫给我温暖,给我希望,爱就要爱小木虫。
9楼2014-12-18 10:38:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 10 个回答

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:11:49
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

[ 发自手机版 http://muchong.com/3g ]
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-12-18 02:31:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。
3楼2014-12-18 07:15:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
3楼: Originally posted by pippi6 at 2014-12-18 07:15:47
有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。

梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
4楼2014-12-18 09:28:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见