24小时热门版块排行榜    

查看: 4931  |  回复: 14

iverson闫

木虫 (初入文坛)

[求助] 支持向量机分类精度和样本数量大小的关系

1.对于机器学习,一般来说,样本数量越大训练出来的分类器分类正确率越高。
可是支持向量机对于大样本分类效率下降,占用内存高。这会不会影响到支持向量机对样本数量多时的准确率?
相同实验环境下,会不会产生200个样本训练出来的SVM要优于600个样本训练出来的SVM这种情况,还是一定是1000个样本训练结果好于800的好于600的?

2.对于这个问题,我用陆振波教授的工具箱在UCI数据集tic-tac-toe上做了模拟实验,结果显示200数据量训练出来的SVM最好,优于 900数据量训练出来的SVM,优于600数据量训练出来的SVM。
这是为什么?难道真的是支持向量机相当于只有一个神经元而记不住太大数据?还是我实验过程中产生了错误?还是我的参数设置不对?

以上两个问题,跪求大神解答!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

hua_007

铜虫 (小有名气)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
webbery: 金币+2, 感谢经验分享 2013-03-19 07:52:37
svm的特点是针对小样本,样本太多的时间容易产生“过拟合”的情况。
这种情况下,不一定比ann效果好啊。
江湖
3楼2013-03-16 23:14:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhangQX23

金虫 (小有名气)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
webbery: 金币+2, 感谢经验分享 2013-03-19 07:52:55
有一个问题我的觉得需要注意,不是样本个数越多就越好,而且是说样本所包含的信息越多越大,也就是在符合相应关系的前提下,样本的差异性越大越大,这样拟合的越准确。200个样本,所包含的信息以足够多,再加入另外i400个样本,只会使信息重复,从而掩盖那些相比比较少的信息,形成过拟合。
看别人的幸福,过自己的生活
6楼2013-03-17 16:19:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

orcimbalance

木虫 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
webbery: 金币+2, 感谢经验分享 2013-03-19 07:54:21
样本越大只是使SVM的训练速度变慢,不是说样本越大越容易导致精确度下降,像你这种情况可能是数据量增大,导致数据偏斜,从而使学习得到的分类器产生了误差。前面好多同学说到,过拟合问题,其实SVM是很完美的解决了过拟合问题的,在SVM的优化过程中,其实已经加了入了惩罚变量C来解决过拟合问题,通过对训练样本几倍交叉验证来调节C及不同核函数的相关参数,也就是说训练样本中经过这个过程,产生的支持向量有的在超平(曲)面上,有的在两个超平(曲)面之间,后者就是为了解决过拟合而“牺牲”掉的。总之,我觉得是你的训练样本增大,然后其中一部分类别数量大幅增加,而存在另一部分的类随着样本数量增加而变化不大,即随着加入大量数据产生的数据偏斜问题。
8楼2013-03-17 21:05:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖
2楼2013-03-16 21:28:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

iverson闫

木虫 (初入文坛)

引用回帖:
3楼: Originally posted by hua_007 at 2013-03-16 23:14:19
svm的特点是针对小样本,样本太多的时间容易产生“过拟合”的情况。
这种情况下,不一定比ann效果好啊。

我知道这个问题。那支持向量机对于2000内的样本还是不是样本数量越多分类效果越好呢?总趋势来看。
4楼2013-03-17 11:10:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yuanruiju

铁虫 (小有名气)

【答案】应助回帖

感谢参与,应助指数 +1
支持一下。都是高科级东东,路过。
在路上
5楼2013-03-17 11:20:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

liuzhi388

禁虫 (正式写手)

感谢参与,应助指数 +1
本帖内容被屏蔽

7楼2013-03-17 17:05:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
9楼2013-03-18 00:08:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
10楼2013-03-18 11:25:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 iverson闫 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考博] 27博士 +7 锦鲤送福至 2026-11-10 7/350 2026-11-16 23:03 by Equinoxhua
[硕博家园] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +5 SX5mJmPWDfOO 2026-11-13 5/250 2026-11-16 13:40 by LrcgbaWjazY5
[论文投稿] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 03:10 by xSrQNSSjcgoX
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-15 00:24 by Equinoxhua
[公派出国] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +4 G2rhSvqvhNzl 2026-11-10 5/250 2026-11-13 11:37 by Equinoxhua
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 1Nb0IVlmV6v0 2026-11-11 4/200 2026-11-13 11:18 by Equinoxhua
[考研] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +5 C6CRn66RYYXS 2026-11-10 6/300 2026-11-13 11:04 by Equinoxhua
[论文投稿] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:51 by ECLTXnJnRSXf
[公派出国] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:48 by ECLTXnJnRSXf
[硕博家园] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:28 by ECLTXnJnRSXf
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +4 cdqGD6ftHmbl 2026-11-11 4/200 2026-11-12 12:26 by ECLTXnJnRSXf
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 Z7qfCsdIiD1T 2026-11-10 7/350 2026-11-12 11:31 by HajghKOMynmz
[考研] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +7 czAiolzR0IJC 2026-11-10 9/450 2026-11-12 11:00 by HajghKOMynmz
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-12 10:49 by HajghKOMynmz
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-12 10:36 by HajghKOMynmz
[硕博家园] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +5 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-12 10:30 by HajghKOMynmz
[考博] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +6 YHiw1gou1Eda 2026-11-10 6/300 2026-11-12 10:08 by HajghKOMynmz
[教师之家] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 3/150 2026-11-12 08:26 by HajghKOMynmz
[基金申请] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 5/250 2026-11-12 08:15 by HajghKOMynmz
[论文投稿] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 cdqGD6ftHmbl 2026-11-11 3/150 2026-11-12 07:53 by HajghKOMynmz
信息提示
请填处理意见