24小时热门版块排行榜    

查看: 1139  |  回复: 6
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

ilovewby

铜虫 (正式写手)

[交流] 为什么convexity在优化中如此重要?

本人是搞机器学习的,平时会遇到很多优化相关的内容。

我个人对于convexity的理解是,如果一个问题是convex的,那么局部解也就是全局解。所以我的想法就是,是不是关于convex的理论,都适用于nonconvex的问题呢?只要我们把global替换成local即可?
比如某个算法对于convex的的全局收敛速度,如果是O(1/n),那么对于nonconvex的问题,它依然O(1/n)速度收敛,只不过收敛到某个局部最优。

对于某些特定算法,难道convex的问题会比convex的收敛更快?

还望大家不吝赐教~
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ilovewby

铜虫 (正式写手)

引用回帖:
3楼: Originally posted by FMStation at 2016-08-21 09:12:27
'convex' = 'easy' and 'nonconvex' = 'hard'

所谓easy和hard是以什么标准来评判的?

在我看来,其中的差别仅仅在于全局最优的问题。从算法的角度上看,适用于convex的优化算法,同样适用于nonconvex,只不过不能保证global optimal不是么?
4楼2016-08-22 07:25:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 7 个回答

yxh20061587

新虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
正在学习凸优化,斯坦福大学的Boyd很厉害。

发自小木虫IOS客户端
2楼2016-08-20 01:19:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
'convex' = 'easy' and 'nonconvex' = 'hard'
3楼2016-08-22 05:12:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
https://inst.eecs.berkeley.edu/~ ... _intro_complex.html
easy - solved in a reasonable amount of time and memory on a computer
hard - the worst-case computing time grows as the problem size grows
5楼2016-08-22 08:38:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 276求调剂 +3 路lyh123 2026-02-28 4/200 2026-02-28 19:45 by 路lyh123
[考博] 博士推荐 +5 花儿笑? 2026-02-21 6/300 2026-02-28 18:53 by nxgogo
[考研] 311求调剂 +7 南迦720 2026-02-28 7/350 2026-02-28 18:28 by leonnulll
[考研] 材料学调剂 +4 提神豆沙包 2026-02-28 4/200 2026-02-28 18:26 by houyaoxu
[基金申请] 面上模板改不了页边距吧? +3 ieewxg 2026-02-25 3/150 2026-02-28 18:25 by addressing
[教师之家] 版面费该交吗 +15 苹果在哪里 2026-02-22 18/900 2026-02-28 18:20 by mibaomingg
[考研] 285求调剂 +5 满头大汗的学生 2026-02-28 5/250 2026-02-28 18:10 by 材料专硕调剂;
[考研] 材料调剂 +3 爱擦汗的可乐冰 2026-02-28 3/150 2026-02-28 18:06 by houyaoxu
[考研] 化工专硕348,一志愿985求调剂 +3 弗格个 2026-02-28 5/250 2026-02-28 17:04 by sandychj
[考博] 博士自荐 +3 kkluvs 2026-02-28 3/150 2026-02-28 16:59 by StarAura
[考博] 26申博 +3 想申博! 2026-02-26 3/150 2026-02-28 16:07 by nxgogo
[考研] 290求调剂 +4 材料专硕调剂; 2026-02-28 5/250 2026-02-28 13:32 by houyaoxu
[考研] 0856调剂 +3 刘梦微 2026-02-28 3/150 2026-02-28 13:22 by houyaoxu
[考研] 寻找调剂 +3 LYidhsjabdj 2026-02-28 3/150 2026-02-28 12:59 by miniwendy
[考研] 304求调剂 +5 曼殊2266 2026-02-28 6/300 2026-02-28 12:44 by 迷糊CCPs
[硕博家园] 博士自荐 +6 科研狗111 2026-02-26 9/450 2026-02-28 12:32 by seaskyy
[考研] 272求调剂 +3 田智友 2026-02-28 3/150 2026-02-28 12:31 by 王加浩to
[考研] 298求调剂 +4 axyz3 2026-02-28 4/200 2026-02-28 11:21 by wang_dand
[基金申请] 面上可以超过30页吧? +12 阿拉贡aragon 2026-02-22 13/650 2026-02-26 22:09 by Hahaxia
[硕博家园] 【博士招生】太原理工大学2026化工博士 +4 N1ce_try 2026-02-24 8/400 2026-02-26 08:40 by N1ce_try
信息提示
请填处理意见