24小时热门版块排行榜    

查看: 1149  |  回复: 9

wowhow

新虫 (小有名气)

[求助] 关于利用梯度求最小值问题,急急急急急急急!!!!!~~~ 已有2人参与

是一篇高水平文章中的推导问题,个人无法理解,感觉是错的。
问题如下:

y是一个向量,f(y)是一个关于y的向量函数,求min f(y) 的最优解y.
通常方法:求f(y)的梯度▽f(y), 令▽f(y)=0(0为零向量),求得的y使得 f(y)最小。(这一步是对的吧?)

文中的▽f(y)解析表达式复杂且不可能为0,因此,作者给出的处理办法是,求 ▽f(y) 的二范数 ||▽f(y)||,
若||▽f(y)||→0, 则▽f(y)→0,这里没问题。
但是,||▽f(y)||也是一个恒大于0的数(不可能取到0),然后,问题来了,作者给出了一个结论,min f(y)等价于
min ||▽f(y)||,即原优化问题等价于求||▽f(y)||的最小值,这一步无法理解,求大神解释?

( 如果||▽f(y)||能取到0,则||▽f(y)||的最小值为0,min ||▽f(y)||即▽f(y)取0,则f(y)取得最小值,显然。
   但文中||▽f(y)||明显是个大于0的数,||▽f(y)||取得最小值能保证f(y)最小?)
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:11:49
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

[ 发自手机版 http://muchong.com/3g ]
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-12-18 02:31:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。
3楼2014-12-18 07:15:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
3楼: Originally posted by pippi6 at 2014-12-18 07:15:47
有点奇怪,能求 范数不能求梯度?  那范数怎么做出来的? 做范数的前提是先求出梯度啊。

梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
4楼2014-12-18 09:28:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-12-18 02:31:10
It can reach local minimum or maximum. Btw, it seems here f(y) is a multivariable function other than a vector function.

谢谢! 还是那个问题, ||▽f(y)|| 最小,能保证 f(y) 最小吗? 有理论依据吗?
5楼2014-12-18 09:29:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:00
引用回帖:
4楼: Originally posted by wowhow at 2014-12-18 09:28:33
梯度能求啊,只不过直接分析梯度很复杂,因为公式里牵涉到求和项,所以转为 梯度的二范数进行分析。主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?...

> 主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
那是当然。就像一个数绝对值最小,也就最接近于零。

但是,二范数的计算也需要先计算梯度 ▽f,无论多么复杂,所以还是不明白为什么计算范数能够省掉计算梯度
6楼2014-12-18 09:53:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
6楼: Originally posted by pippi6 at 2014-12-18 09:53:03
> 主要问题还是在 ||▽f(y)|| 最小,能保证 f(y) 最小吗?
那是当然。就像一个数绝对值最小,也就最接近于零。

但是,二范数的计算也需要先计算梯度 ▽f,无论多么复杂,所以还是不明白为什么计算范数能够省 ...

文章是先计算了梯度,再计算梯度的二范数的。
还是有疑问, ||▽f(y)|| 最小,但是它是有一个常数项,明显大于0的,不可能无限接近于0,||▽f(y)|| 最小,能保证f(y)最小?
7楼2014-12-18 09:56:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

引用回帖:
7楼: Originally posted by wowhow at 2014-12-18 09:56:45
文章是先计算了梯度,再计算梯度的二范数的。
还是有疑问, ||▽f(y)|| 最小,但是它是有一个常数项,明显大于0的,不可能无限接近于0,||▽f(y)|| 最小,能保证f(y)最小?...

||▽f(y)|| =0 有可能是局部极值(即便这样也不能完全保证,比如鞍点),但是||▽f(y)|| 最小是什么都不能保证的。如果▽f没有零点,就会在区域边界上达到极值
8楼2014-12-18 10:12:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

★ ★
wowhow(feixiaolin代发): 金币+2 2014-12-18 14:12:11
It can reach local minimum, maximum or saddle. If you want to be minimum or maximum, need to consider Hessian. If Hessian is positive definite, or negative definite, you can get local max or min.
小木虫给我温暖,给我希望,爱就要爱小木虫。
9楼2014-12-18 10:38:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wowhow

新虫 (小有名气)

引用回帖:
8楼: Originally posted by pippi6 at 2014-12-18 10:12:08
||▽f(y)|| =0 有可能是局部极值(即便这样也不能完全保证,比如鞍点),但是||▽f(y)|| 最小是什么都不能保证的。如果▽f没有零点,就会在区域边界上达到极值...

很感谢,那文章的推导就是错误的,作者将f(y)最小的问题,通过一系列推导,等价于 ||▽f(y)|| 最小的问题。 最后仿真出来的结果又是很好的,真是巧了
10楼2014-12-18 10:43:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 wowhow 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料与化工085600,总分304,本科有两篇sci参与,求调剂 +3 幸运的酱酱 2026-03-22 4/200 2026-03-22 15:06 by allen-yin
[考研] 求调剂 +5 Zhangbod 2026-03-21 7/350 2026-03-22 13:13 by Zhangbod
[考研] 328求调剂,英语六级551,有科研经历 +5 生物工程调剂 2026-03-17 9/450 2026-03-21 23:32 by zhujy1982
[考研] 336求调剂 +5 rmc8866 2026-03-21 5/250 2026-03-21 17:24 by 学员8dgXkO
[考研] 求调剂 +6 Mqqqqqq 2026-03-19 6/300 2026-03-21 08:04 by JourneyLucky
[考研] 南昌大学材料专硕311分求调剂 +6 77chaselx 2026-03-20 6/300 2026-03-21 07:24 by JourneyLucky
[考研] 316求调剂 +6 梁茜雯 2026-03-19 6/300 2026-03-21 06:32 by Ecowxq666!
[考研] 材料工程(专)一志愿985 初试335求调剂 +3 hiloiy 2026-03-17 4/200 2026-03-21 03:04 by JourneyLucky
[考研] 一志愿西南交大,求调剂 +5 材化逐梦人 2026-03-18 5/250 2026-03-21 00:26 by JourneyLucky
[考研] 308求调剂 +3 阿姐阿姐家啊 2026-03-18 3/150 2026-03-20 23:24 by JourneyLucky
[考研] 一志愿中海洋材料工程专硕330分求调剂 +8 小材化本科 2026-03-18 8/400 2026-03-20 23:16 by JourneyLucky
[考研] 中南大学化学学硕337求调剂 +3 niko- 2026-03-19 6/300 2026-03-20 21:58 by luoyongfeng
[考研] 北科281学硕材料求调剂 +5 tcxiaoxx 2026-03-20 5/250 2026-03-20 21:35 by laoshidan
[考研] 求调剂 +3 @taotao 2026-03-20 3/150 2026-03-20 19:35 by JourneyLucky
[考研] 320求调剂0856 +3 不想起名字112 2026-03-19 3/150 2026-03-19 22:53 by 学员8dgXkO
[考研] 生物学调剂招人!!! +3 山海天岚 2026-03-17 4/200 2026-03-19 21:34 by 怎么释怀
[考研] 288求调剂,一志愿华南理工大学071005 +5 ioodiiij 2026-03-17 5/250 2026-03-19 18:22 by zcl123
[考研] 【同济软件】软件(085405)考研求调剂 +3 2026eternal 2026-03-18 3/150 2026-03-18 19:09 by 搏击518
[考研] 材料,纺织,生物(0856、0710),化学招生啦 +3 Eember. 2026-03-17 9/450 2026-03-18 10:28 by Eember.
[考研] 308求调剂 +4 是Lupa啊 2026-03-16 4/200 2026-03-17 17:12 by ruiyingmiao
信息提示
请填处理意见