24小时热门版块排行榜    

Znn3bq.jpeg
查看: 1176  |  回复: 6
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

ilovewby

铜虫 (正式写手)

[交流] 为什么convexity在优化中如此重要?

本人是搞机器学习的,平时会遇到很多优化相关的内容。

我个人对于convexity的理解是,如果一个问题是convex的,那么局部解也就是全局解。所以我的想法就是,是不是关于convex的理论,都适用于nonconvex的问题呢?只要我们把global替换成local即可?
比如某个算法对于convex的的全局收敛速度,如果是O(1/n),那么对于nonconvex的问题,它依然O(1/n)速度收敛,只不过收敛到某个局部最优。

对于某些特定算法,难道convex的问题会比convex的收敛更快?

还望大家不吝赐教~
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)

7楼2016-08-22 10:22:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 7 个回答

yxh20061587

新虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
正在学习凸优化,斯坦福大学的Boyd很厉害。

发自小木虫IOS客户端
2楼2016-08-20 01:19:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
'convex' = 'easy' and 'nonconvex' = 'hard'
3楼2016-08-22 05:12:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ilovewby

铜虫 (正式写手)

引用回帖:
3楼: Originally posted by FMStation at 2016-08-21 09:12:27
'convex' = 'easy' and 'nonconvex' = 'hard'

所谓easy和hard是以什么标准来评判的?

在我看来,其中的差别仅仅在于全局最优的问题。从算法的角度上看,适用于convex的优化算法,同样适用于nonconvex,只不过不能保证global optimal不是么?
4楼2016-08-22 07:25:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料工程281还有调剂机会吗 +27 xaw. 2026-04-11 28/1400 2026-04-12 15:14 by 释放天性
[考研] 279求调剂 +8 张番茄不炒蛋 2026-04-11 8/400 2026-04-12 12:28 by wp06
[考研] 0854调剂 +12 长弓傲 2026-04-09 13/650 2026-04-12 09:56 by 逆水乘风
[考研] 326求调剂 +6 Shansyn 2026-04-10 6/300 2026-04-12 09:46 by hammer3
[考研] 化学工程调剂289 +44 yang婷 2026-04-07 50/2500 2026-04-12 02:36 by 秋豆菜芽
[考研] 求调剂,262机械专硕 +8 嗯yyl 2026-04-08 8/400 2026-04-12 02:31 by 秋豆菜芽
[考研] 305求调剂 +6 77Qi 2026-04-07 6/300 2026-04-12 02:30 by 秋豆菜芽
[考研] 327求调剂 +5 拾光任染 2026-04-06 5/250 2026-04-12 02:29 by 秋豆菜芽
[考研] 22专硕求调剂 +6 haoyun上岸 2026-04-11 8/400 2026-04-11 23:21 by labixiaoqiao
[考研] 283求调剂 086004考英二数二 +17 那个噜子 2026-04-10 18/900 2026-04-11 16:27 by 明月此时有
[考研] 22408 352分求调剂0854类 +4 努力的夏末 2026-04-09 4/200 2026-04-11 09:57 by zhq0425
[考研] 0858求调剂 5+5 Gky09300550, 2026-04-10 8/400 2026-04-10 19:13 by chemisry
[考研] 0702物理学学硕299求调剂 +6 祁柒连 2026-04-06 6/300 2026-04-10 11:10 by Roomoo
[考研] 347材料专硕求调剂 +19 zj8215216 2026-04-06 19/950 2026-04-10 09:36 by 690616278
[考研] 生物学求调剂 一志愿沪9,326分 +7 刘墨墨 2026-04-06 7/350 2026-04-10 08:11 by kangsm
[考研] 材料专硕(0856) 339分求调剂 +9 哈哈哈鹅哈哈哈 2026-04-09 10/500 2026-04-09 20:01 by Orcid
[考研] 一志愿厦大生物学332求调剂 +10 池池池池池池 2026-04-08 10/500 2026-04-09 17:10 by 独醉梦孤城
[考研] 一志愿吉大化学327求调剂 +12 王王白石 2026-04-06 13/650 2026-04-08 16:05 by luoyongfeng
[考研] 336求调剂,一志愿中科大 +9 墨彧 yuyu 2026-04-06 9/450 2026-04-08 11:24 by 想读书的菌菌
[考研] 22408 266求调剂 +11 masss11222 2026-04-07 14/700 2026-04-08 11:06 by yulian1987
信息提示
请填处理意见