| 查看: 1178 | 回复: 6 | |||
[交流]
为什么convexity在优化中如此重要？
|
|
本人是搞机器学习的，平时会遇到很多优化相关的内容。 我个人对于convexity的理解是，如果一个问题是convex的，那么局部解也就是全局解。所以我的想法就是，是不是关于convex的理论，都适用于nonconvex的问题呢？只要我们把global替换成local即可？ 比如某个算法对于convex的的全局收敛速度，如果是O(1/n)，那么对于nonconvex的问题，它依然O(1/n)速度收敛，只不过收敛到某个局部最优。 对于某些特定算法，难道convex的问题会比convex的收敛更快？ 还望大家不吝赐教~ |
回复此楼» 猜你喜欢
293求调剂
已经有12人回复
-
一志愿中南大学 0855 机械 286 求调剂
已经有7人回复
-
化学070300 求调剂
已经有11人回复
-
346分，工科0854求调剂，专硕
已经有6人回复
-
化工学硕294分，求导师收留
已经有3人回复
-
297工科，求调剂?
已经有7人回复
-
一志愿085802 323分求调剂
已经有11人回复
-
山东双非院校考核超级无底线，领导幸灾乐祸，教师遭殃恐
已经有7人回复
-
279学硕食品专业求调剂院校
已经有17人回复
-
一志愿安大生物学07初试322、本科二本、调剂求助
已经有9人回复
yxh20061587
新虫 (著名写手)
- 应助: 25 (小学生)
- 金币: 2006.5
- 散金: 1045
- 红花: 6
- 帖子: 1103
- 在线: 329.4小时
- 虫号: 1268932
- 注册: 2011-04-18
- 性别: GG
- 专业: 工业工程与管理
2楼2016-08-20 01:19:59
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18665.2
- 红花: 97
- 帖子: 8891
- 在线: 1491.2小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
3楼2016-08-22 05:12:27
4楼2016-08-22 07:25:03
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18665.2
- 红花: 97
- 帖子: 8891
- 在线: 1491.2小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
小木虫: 金币+0.5, 给个红包，谢谢回帖
|
https://inst.eecs.berkeley.edu/~ ... _intro_complex.html easy - solved in a reasonable amount of time and memory on a computer hard - the worst-case computing time grows as the problem size grows |
5楼2016-08-22 08:38:24
|
谢谢给出的链接~ 但我还是不能理解，为什么non-covexity让问题变困难。 从我对于此网页链接的内容的理解上看，所谓的hard，是不是就是指找出全局最优解更加困难？（e.g.，travelling salesman problem）如果是这样的话，那是不是就可以按照我理解的那样，凸与非凸的差别，仅仅是在global和local上？而从算法的角度上讲没有太大的区别？（当然，就我所知，貌似很多人研究非凸问题，并且试图证明他们的算法在某种条件下可以逼近全局最优解） 如果我们对于一个local optimal solution可以接受的话（比如神经网络），那么我们是不是就不用去care这个convex的问题了？ |
6楼2016-08-22 08:51:07
FMStation
至尊木虫 (知名作家)
- 信息EPI: 1
- 应助: 591 (博士)
- 贵宾: 0.03
- 金币: 18665.2
- 红花: 97
- 帖子: 8891
- 在线: 1491.2小时
- 虫号: 2400059
- 注册: 2013-04-04
- 专业: 计算机应用技术
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
小木虫: 金币+0.5, 给个红包，谢谢回帖
7楼2016-08-22 10:22:45
5