24小时热门版块排行榜    

查看: 1323  |  回复: 6
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

ilovewby

铜虫 (正式写手)

[交流] 为什么convexity在优化中如此重要?

本人是搞机器学习的,平时会遇到很多优化相关的内容。

我个人对于convexity的理解是,如果一个问题是convex的,那么局部解也就是全局解。所以我的想法就是,是不是关于convex的理论,都适用于nonconvex的问题呢?只要我们把global替换成local即可?
比如某个算法对于convex的的全局收敛速度,如果是O(1/n),那么对于nonconvex的问题,它依然O(1/n)速度收敛,只不过收敛到某个局部最优。

对于某些特定算法,难道convex的问题会比convex的收敛更快?

还望大家不吝赐教~
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)

7楼2016-08-22 10:22:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 7 个回答

yxh20061587

新虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
正在学习凸优化,斯坦福大学的Boyd很厉害。

发自小木虫IOS客户端
2楼2016-08-20 01:19:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
'convex' = 'easy' and 'nonconvex' = 'hard'
3楼2016-08-22 05:12:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ilovewby

铜虫 (正式写手)

引用回帖:
3楼: Originally posted by FMStation at 2016-08-21 09:12:27
'convex' = 'easy' and 'nonconvex' = 'hard'

所谓easy和hard是以什么标准来评判的?

在我看来,其中的差别仅仅在于全局最优的问题。从算法的角度上看,适用于convex的优化算法,同样适用于nonconvex,只不过不能保证global optimal不是么?
4楼2016-08-22 07:25:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 投票:  有多少人是今天查系统知道结果的? +15 爱看书的可乐 2026-08-26 17/850 2026-08-27 08:24 by xxniao123
[基金申请] 基金不中,共勉 +6 eulota 2026-08-26 6/300 2026-08-27 08:00 by zzuzxg
[基金申请] 国自然面上复盘~欢迎讨论 +7 晴天加油 2026-08-26 8/400 2026-08-27 07:53 by longfie172
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 LIbGuocjEEYw 2026-08-26 4/200 2026-08-27 02:01 by Ie9AyIAvGbvs
[基金申请] 我不理解! +15 Edward_pc 2026-08-26 23/1150 2026-08-26 20:34 by zzuzxg
[基金申请] 系统查不到 +10 董八千 2026-08-26 10/500 2026-08-26 16:30 by Equinoxhua
[基金申请] 怎么查啊 +5 huang1991js 2026-08-26 5/250 2026-08-26 16:09 by Equinoxhua
[基金申请] 范进中举一文的中心思想 +9 炎黄贵胄 2026-08-22 10/500 2026-08-26 15:40 by semaglutide
[基金申请] 哪位高人中了,把查询到的截图贴出来让我看看,让我长长见识 +4 yuleib84 2026-08-26 5/250 2026-08-26 13:40 by yuleib84
[基金申请] 科研孤儿太难了 +21 我4大白菜 2026-08-20 22/1100 2026-08-26 11:29 by nlgza
[基金申请] 国际合作可查了,中了面上 +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 怎么看青基中了没有啊 +4 叶九微 2026-08-26 4/200 2026-08-26 10:52 by xiacongxu
[基金申请] 国合现在查不到了吗? +10 chengyan1220 2026-08-24 20/1000 2026-08-26 08:57 by peasantsprig
[基金申请] 明天应该可查了!? +6 chengyan1220 2026-08-23 6/300 2026-08-25 19:45 by zfd97
[基金申请] 某些机构,以效率低为荣,以效率低作为存在感 +9 yuleib84 2026-08-25 10/500 2026-08-25 17:14 by alexon
[基金申请] 今日不放榜?网传国自然预计 8 月 27 日可查结果 +17 医学老男孩 2026-08-20 22/1100 2026-08-25 15:36 by 医学老男孩
[教师之家] 跳槽后在研项目怎么办? +5 简单化xn 2026-08-22 10/500 2026-08-23 12:38 by 简单化xn
[基金申请] 时间戳今天,20号变了 +5 archvillain 2026-08-20 5/250 2026-08-22 06:12 by hui_daxiao
[基金申请] 时间戳又变了 +13 wuchongjun 2026-08-20 19/950 2026-08-21 17:21 by 紫杉醇
信息提示
请填处理意见