24小时热门版块排行榜    

查看: 1167  |  回复: 6
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

ilovewby

铜虫 (正式写手)

[交流] 为什么convexity在优化中如此重要?

本人是搞机器学习的,平时会遇到很多优化相关的内容。

我个人对于convexity的理解是,如果一个问题是convex的,那么局部解也就是全局解。所以我的想法就是,是不是关于convex的理论,都适用于nonconvex的问题呢?只要我们把global替换成local即可?
比如某个算法对于convex的的全局收敛速度,如果是O(1/n),那么对于nonconvex的问题,它依然O(1/n)速度收敛,只不过收敛到某个局部最优。

对于某些特定算法,难道convex的问题会比convex的收敛更快?

还望大家不吝赐教~
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
'convex' = 'easy' and 'nonconvex' = 'hard'
3楼2016-08-22 05:12:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 7 个回答

yxh20061587

新虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
正在学习凸优化,斯坦福大学的Boyd很厉害。

发自小木虫IOS客户端
2楼2016-08-20 01:19:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ilovewby

铜虫 (正式写手)

引用回帖:
3楼: Originally posted by FMStation at 2016-08-21 09:12:27
'convex' = 'easy' and 'nonconvex' = 'hard'

所谓easy和hard是以什么标准来评判的?

在我看来,其中的差别仅仅在于全局最优的问题。从算法的角度上看,适用于convex的优化算法,同样适用于nonconvex,只不过不能保证global optimal不是么?
4楼2016-08-22 07:25:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)


小木虫: 金币+0.5, 给个红包,谢谢回帖
https://inst.eecs.berkeley.edu/~ ... _intro_complex.html
easy - solved in a reasonable amount of time and memory on a computer
hard - the worst-case computing time grows as the problem size grows
5楼2016-08-22 08:38:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿重庆大学085700资源与环境,总分308求调剂 +6 墨墨漠 2026-03-23 7/350 2026-03-23 16:09 by 墨墨漠
[考研] 336求调剂 +3 收到VS 2026-03-20 3/150 2026-03-23 13:23 by Iveryant
[考研] 一志愿北京化工大学 070300 学硕 336分 求调剂 +5 vv迷 2026-03-22 5/250 2026-03-23 07:36 by Iveryant
[考研] 石河子大学(211、双一流)硕博研究生长期招生公告 +3 李子目 2026-03-22 3/150 2026-03-22 21:01 by 怎么释怀
[考研] 一志愿西安交通大学材料工程专业 282分求调剂 +11 枫桥ZL 2026-03-18 13/650 2026-03-22 20:26 by edmund7
[考研] 材料与化工085600,总分304,本科有两篇sci参与,求调剂 +4 幸运的酱酱 2026-03-22 5/250 2026-03-22 20:15 by edmund7
[考研] 306求调剂 +5 来好运来来来 2026-03-22 5/250 2026-03-22 16:17 by BruceLiu320
[考研] 寻找调剂 +4 倔强芒? 2026-03-21 4/200 2026-03-22 16:14 by 木托莫露露
[考研] 广西大学材料导师推荐 +3 夏夏夏小正 2026-03-17 5/250 2026-03-21 22:20 by 金昊ML
[考研] 0805 316求调剂 +3 大雪深藏 2026-03-18 3/150 2026-03-21 18:55 by 学员8dgXkO
[考研] 求调剂 +3 白QF 2026-03-21 3/150 2026-03-21 13:12 by zhukairuo
[考研] 346求调剂[0856] +4 WayneLim327 2026-03-16 7/350 2026-03-21 04:02 by JourneyLucky
[考研] 265求调剂 +9 梁梁校校 2026-03-17 9/450 2026-03-21 02:17 by JourneyLucky
[考研] 一志愿重庆大学085700资源与环境专硕,总分308求调剂 +3 墨墨漠 2026-03-18 3/150 2026-03-21 00:39 by JourneyLucky
[考研] 308求调剂 +3 阿姐阿姐家啊 2026-03-18 3/150 2026-03-20 23:24 by JourneyLucky
[考研] 086500 325 求调剂 +3 领带小熊 2026-03-19 3/150 2026-03-20 18:38 by 尽舜尧1
[考研] 广西大学家禽遗传育种课题组2026年硕士招生(接收计算机专业调剂) +3 123阿标 2026-03-17 3/150 2026-03-20 15:58 by 飞行琦
[考研] 一志愿福大288有机化学,求调剂 +3 小木虫200408204 2026-03-18 3/150 2026-03-19 13:31 by houyaoxu
[考研] 0703化学调剂 +3 妮妮ninicgb 2026-03-17 3/150 2026-03-18 10:29 by macy2011
[考研] 考研求调剂 +3 橘颂. 2026-03-17 4/200 2026-03-17 21:43 by 有只狸奴
信息提示
请填处理意见