24小时热门版块排行榜    

查看: 1513  |  回复: 6

yali871121

新虫 (初入文坛)

[交流] 【求助】间隔的边界上的点都是支持向量吗?已有4人参与

根据支撑向量的定义,lagrange乘子大于0的所对应的样本点是支撑向量。由KKT条件ai(yi((w.xi)+b)-1)=0可以得到,支撑向量是在间隔的边界上的。我想问,边界上的点一定是支撑向量吗?乘子ai等于零的情况也可以取yi((w.xi)+b)-1)=0成立啊?初涉SVM,求高手指点一下迷津。
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

liuxinyu1206

银虫 (小有名气)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
zhmc001(金币+1):谢谢回帖交流 2010-04-22 00:08
呵呵,不一定哦。关键你说的这个边界是指哪儿?哪个方向的边界?
上帝创造了0和1,其余都是人的工作。
2楼2010-04-21 18:58:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yali871121

新虫 (初入文坛)

haixing2008:五一快乐! 2010-05-01 09:31
引用回帖:
Originally posted by liuxinyu1206 at 2010-04-21 18:58:46:
呵呵,不一定哦。关键你说的这个边界是指哪儿?哪个方向的边界?

非常谢谢你~~我刚看最简单的线性可分的情况,就是指计算分类间隔的那俩极限超平面。呵呵,不知道能不能明白我的意思。。
3楼2010-04-22 23:20:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

liuxinyu1206

银虫 (小有名气)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
haixing2008(金币+1):多谢交流!欢迎常来! 2010-05-01 09:28
不一定吧?边界上的点不一定都在那两个平面上。
上帝创造了0和1,其余都是人的工作。
4楼2010-04-30 18:05:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qiaoyusun

铁虫 (小有名气)

根据SVM的定义,是的。
5楼2010-05-09 13:25:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

congyong

银虫 (小有名气)


小木虫(金币+0.5): 给个红包,谢谢回帖
对于纯粹的线性可分问题,在未引入松弛变量和惩罚因子C的条件下,间隔边界上的点都是支持向量。若引入松弛变量和惩罚因子,原最优化问题,对偶问题以及KKT条件都会与上述公式略有不同,则未必。
弟子规,圣人训,首孝弟,次谨信。泛爱众,而亲仁,有余力,则学文。
6楼2012-03-13 23:14:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

congyong

银虫 (小有名气)


小木虫(金币+0.5): 给个红包,谢谢回帖
乘子ai等于零的情况也可以取yi((w.xi)+b)-1)=0成立啊?在这里你需要知道什么是KKT条件,KKT条件不止是ai[-(yi((w.xi)+b)-1)]=0,若最优化问题有个x*满足KKT条件应该有四个:1 目标函数梯度+ai*约束函数梯度=0
                                       2 约束函数(x*)小于等于0
                                       3 ai大于等于0
                                       4 ai*约束函数(x*)=0
这个KKT条件其实有两层意思分两种情况讨论,若约束函数(x*)小于0和约束函数(x*)等于0两种情况,1约束函数(x*)小于0那么其实这个约束是一个无效约束,原最优化问题其实褪化为无约束问题的求解,即求目标函数梯度=0的情况,只是ai应该等于0只有等于0,才能把这种情况统一在KKT的四个条件之中。2若约束函数(x*)等于0那么这个约束就是一个有效约束,且ai此处应该是一个非负数,原函数的梯度方向跟约束函数的梯度方向是反向的,即目标函数梯度+ai*约束函数梯度=0。把这两种情况统一起来他等价于上面的KKT条件。可见KKT条件首先是说某个满足约束的可行点x,满足约束函数的某个条件(有效约束还是无效约束),才有了ai的取值情况,若有效则ai大于等于0,若无效则为0.所以才有了后面的若ai大于0,则约束函数必为0,即yi((w.xi)+b)-1)=0的结论。
弟子规,圣人训,首孝弟,次谨信。泛爱众,而亲仁,有余力,则学文。
7楼2012-03-13 23:54:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yali871121 的主题更新
普通表情 高级回复(可上传附件)
信息提示
请填处理意见