| 查看: 1076 | 回复: 6 | |||
[交流]
为什么convexity在优化中如此重要？
|
|
本人是搞机器学习的，平时会遇到很多优化相关的内容。 我个人对于convexity的理解是，如果一个问题是convex的，那么局部解也就是全局解。所以我的想法就是，是不是关于convex的理论，都适用于nonconvex的问题呢？只要我们把global替换成local即可？ 比如某个算法对于convex的的全局收敛速度，如果是O(1/n)，那么对于nonconvex的问题，它依然O(1/n)速度收敛，只不过收敛到某个局部最优。 对于某些特定算法，难道convex的问题会比convex的收敛更快？ 还望大家不吝赐教~ |
回复此楼» 猜你喜欢
请问哪里可以有青B申请的本子可以借鉴一下。
已经有3人回复
-
真诚求助：手里的省社科项目结项要求主持人一篇中文核心，有什么渠道能发核心吗
已经有3人回复
-
孩子确诊有中度注意力缺陷
已经有14人回复
-
三甲基碘化亚砜的氧化反应
已经有4人回复
-
请问下大家为什么这个铃木偶联几乎不反应呢
已经有5人回复
-
请问有评职称，把科研教学业绩算分排序的高校吗
已经有5人回复
-
2025冷门绝学什么时候出结果
已经有3人回复
-
天津工业大学郑柳春团队欢迎化学化工、高分子化学或有机合成方向的博士生和硕士生加入
已经有4人回复
-
康复大学泰山学者周祺惠团队招收博士研究生
已经有6人回复
-
AI论文写作工具：是科研加速器还是学术作弊器？
已经有3人回复
yxh20061587
新虫 (著名写手)
- 应助: 25 (小学生)
- 金币: 2006.5
- 散金: 1045
- 红花: 6
- 帖子: 1103
- 在线: 329.4小时
- 虫号: 1268932
- 注册: 2011-04-18
- 性别: GG
- 专业: 工业工程与管理
2楼2016-08-20 01:19:59
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18071.7
- 红花: 97
- 帖子: 8891
- 在线: 1485.3小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
3楼2016-08-22 05:12:27
4楼2016-08-22 07:25:03
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18071.7
- 红花: 97
- 帖子: 8891
- 在线: 1485.3小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
小木虫: 金币+0.5, 给个红包，谢谢回帖
|
https://inst.eecs.berkeley.edu/~ ... _intro_complex.html easy - solved in a reasonable amount of time and memory on a computer hard - the worst-case computing time grows as the problem size grows |
5楼2016-08-22 08:38:24
|
谢谢给出的链接~ 但我还是不能理解，为什么non-covexity让问题变困难。 从我对于此网页链接的内容的理解上看，所谓的hard，是不是就是指找出全局最优解更加困难？（e.g.，travelling salesman problem）如果是这样的话，那是不是就可以按照我理解的那样，凸与非凸的差别，仅仅是在global和local上？而从算法的角度上讲没有太大的区别？（当然，就我所知，貌似很多人研究非凸问题，并且试图证明他们的算法在某种条件下可以逼近全局最优解） 如果我们对于一个local optimal solution可以接受的话（比如神经网络），那么我们是不是就不用去care这个convex的问题了？ |
6楼2016-08-22 08:51:07
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18071.7
- 红花: 97
- 帖子: 8891
- 在线: 1485.3小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
小木虫: 金币+0.5, 给个红包，谢谢回帖
7楼2016-08-22 10:22:45