24小时热门版块排行榜    

查看: 1140  |  回复: 9

wowhow

新虫 (小有名气)

[求助] 关于利用梯度求最小值问题,急急急急急急急!!!!!~~~ 已有2人参与

是一篇高水平文章中的推导问题,个人无法理解,感觉是错的。
问题如下:

y是一个向量,f(y)是一个关于y的向量函数,求min f(y) 的最优解y.
通常方法:求f(y)的梯度▽f(y), 令▽f(y)=0(0为零向量),求得的y使得 f(y)最小。(这一步是对的吧?)

文中的▽f(y)解析表达式复杂且不可能为0,因此,作者给出的处理办法是,求 ▽f(y) 的二范数 ||▽f(y)||,
若||▽f(y)||→0, 则▽f(y)→0,这里没问题。
但是,||▽f(y)||也是一个恒大于0的数(不可能取到0),然后,问题来了,作者给出了一个结论,min f(y)等价于
min ||▽f(y)||,即原优化问题等价于求||▽f(y)||的最小值,这一步无法理解,求大神解释?

( 如果||▽f(y)||能取到0,则||▽f(y)||的最小值为0,min ||▽f(y)||即▽f(y)取0,则f(y)取得最小值,显然。
   但文中||▽f(y)||明显是个大于0的数,||▽f(y)||取得最小值能保证f(y)最小?)
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:11:49
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

[ 发自手机版 http://muchong.com/3g ]
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-12-18 02:31:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。
3楼2014-12-18 07:15:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
3楼: Originally posted by pippi6 at 2014-12-18 07:15:47
有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。

梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
4楼2014-12-18 09:28:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-12-18 02:31:10
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

谢谢! 还是那个问题, ||▽f(y)|| 最小,能保证 f(y) 最小吗? 有理论依据吗?
5楼2014-12-18 09:29:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:00
引用回帖:
4楼: Originally posted by wowhow at 2014-12-18 09:28:33
梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?...

> 主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
那是当然。就像一个数绝对值最小,也就最接近于零。

但是,二范数的计算也需要先计算梯度 ▽f,无论多么复杂,所以还是不明白为什么计算范数能够省掉计算梯度
6楼2014-12-18 09:53:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
6楼: Originally posted by pippi6 at 2014-12-18 09:53:03
> 主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
那是当然。就像一个数绝对值最小,也就最接近于零。

但是,二范数的计算也需要先计算梯度 ▽f,无论多么复杂,所以还是不明白为什么计算范数能够省 ...

文章是先计算了梯度,再计算梯度的二范数的。
还是有疑问, ||▽f(y)|| 最小,但是它是有一个常数项,明显大于0的,不可能无限接近于0,||▽f(y)|| 最小,能保证f(y)最小?
7楼2014-12-18 09:56:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

引用回帖:
7楼: Originally posted by wowhow at 2014-12-18 09:56:45
文章是先计算了梯度,再计算梯度的二范数的。
还是有疑问, ||▽f(y)|| 最小,但是它是有一个常数项,明显大于0的,不可能无限接近于0,||▽f(y)|| 最小,能保证f(y)最小?...

||▽f(y)|| =0 有可能是局部极值(即便这样也不能完全保证,比如鞍点),但是||▽f(y)|| 最小是什么都不能保证的。如果▽f没有零点,就会在区域边界上达到极值
8楼2014-12-18 10:12:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:11
It can reach local minimum, maximum or saddle. If you want to be minimum or maximum, need to consider Hessian. If Hessian is positive definite, or negative definite, you can get local max or min.
小木虫给我温暖,给我希望,爱就要爱小木虫。
9楼2014-12-18 10:38:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
8楼: Originally posted by pippi6 at 2014-12-18 10:12:08
||▽f(y)|| =0 有可能是局部极值(即便这样也不能完全保证,比如鞍点),但是||▽f(y)|| 最小是什么都不能保证的。如果▽f没有零点,就会在区域边界上达到极值...

很感谢,那文章的推导就是错误的,作者将f(y)最小的问题,通过一系列推导,等价于 ||▽f(y)|| 最小的问题。 最后仿真出来的结果又是很好的,真是巧了
10楼2014-12-18 10:43:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 wowhow 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 求调剂一志愿海大,0703化学学硕304分,有大创项目,四级已过 +3 幸运哩哩 2026-03-22 5/250 2026-03-22 11:01 by 杨杨杨紫
[考研] 资源与环境 调剂申请(333分) +5 holy J 2026-03-21 5/250 2026-03-21 22:42 by Catalysis25
[考研] 311求调剂 +13 冬十三 2026-03-15 14/700 2026-03-21 22:10 by peike
[考研] 313求调剂 +4 肆叁贰壹22 2026-03-19 4/200 2026-03-21 17:33 by ColorlessPI
[考研] 材料 271求调剂 +5 展信悦_ 2026-03-21 5/250 2026-03-21 17:29 by 学员8dgXkO
[考研] 298求调剂 +4 上岸6666@ 2026-03-20 4/200 2026-03-21 17:14 by 学员8dgXkO
[考研] 299求调剂 +5 shxchem 2026-03-20 7/350 2026-03-21 17:09 by ColorlessPI
[考研] 材料与化工(0856)304求 B区 调剂 +3 邱gl 2026-03-21 3/150 2026-03-21 13:47 by lature00
[考研] 307求调剂 +10 冷笙123 2026-03-17 10/500 2026-03-21 01:54 by JourneyLucky
[考研] 一志愿重庆大学085700资源与环境专硕,总分308求调剂 +3 墨墨漠 2026-03-18 3/150 2026-03-21 00:39 by JourneyLucky
[考研] 一志愿中海洋材料工程专硕330分求调剂 +8 小材化本科 2026-03-18 8/400 2026-03-20 23:16 by JourneyLucky
[考研] 085600材料与化工 +8 安全上岸! 2026-03-16 8/400 2026-03-20 22:13 by luoyongfeng
[考研] 一志愿吉林大学材料学硕321求调剂 +11 Ymlll 2026-03-18 15/750 2026-03-20 19:40 by 丁丁*
[考研] 环境工程调剂 +9 大可digkids 2026-03-16 9/450 2026-03-20 17:38 by 醉在风里
[考研] 0856调剂,是学校就去 +8 sllhht 2026-03-19 9/450 2026-03-20 14:25 by 无懈可击111
[考研] 求调剂 +3 暗涌afhb 2026-03-16 3/150 2026-03-20 00:28 by 河南大学校友
[考研] 材料与化工求调剂 +7 为学666 2026-03-16 7/350 2026-03-19 14:48 by 尽舜尧1
[考研] 考研求调剂 +3 橘颂. 2026-03-17 4/200 2026-03-17 21:43 by 有只狸奴
[考研] 277调剂 +5 自由煎饼果子 2026-03-16 6/300 2026-03-17 19:26 by 李leezz
[考研] 11408 一志愿西电,277分求调剂 +3 zhouzhen654 2026-03-16 3/150 2026-03-17 07:03 by laoshidan
信息提示
请填处理意见