24小时热门版块排行榜    

查看: 3111  |  回复: 20

rainbowguy

银虫 (正式写手)

[求助] 支持向量机参数一定要归一化么?

如题,支持向量机参数一定要归一化么?如果归一化,如有三个参数(x1,x2,x3)的样本数据共1000行,是分别对参数x1、x2、x3中每列数据进行归一化,还是对每行数据(x1,x2,x3)进行归一化?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
rainbowguy: 金币+7 2012-05-21 14:17:51
rainbowguy: 金币+10, ★★★很有帮助 2012-06-06 14:48:00
是否要归一化主要看两点:
1.输入的定义域/输出的值域是否在(0,1)?如果是,那么必须归一化;
2.有时候不同的输入/输出参数在数值上有数量级的差别,或者出现在函数的饱和(不敏感)区域,因此可能造成数值问题。这时候归一化有益于改善数值问题。
5楼2012-05-21 06:59:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

【答案】应助回帖

★ ★
rainbowguy: 金币+2, 有帮助 2012-06-06 14:49:12
引用回帖:
12楼: Originally posted by fluenter at 2012-06-06 14:38:08
您好,归一化以后,得到的输出也是0,1之间的数值吗?是否需要反归一化,还原为真实值?...

是的。需要反归一化,还原为真实值
13楼2012-06-06 14:41:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖
2楼2012-05-20 19:10:55
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhangysu

木虫 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
rainbowguy: 金币+5, 有3组参数数据,对列归一就是只对每组参数中数据归一,对行归一就是每次对3个数据(x1,x2,x3)归一。 2012-05-21 14:17:35
rainbowguy: 金币+8, ★★★很有帮助 2012-06-06 14:48:13
不用,可以直接用。
当然也可以归一化。
不过你所说的对列还是行归一化,我不是很明白你的意思,不过我觉得应该是根据列进行归一化。
3楼2012-05-21 00:00:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mlanqiang

木虫之王 (文学泰斗)

蓝博士

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与,应助指数 +1
rainbowguy: 金币+5 2012-05-21 14:17:44
感觉应该可以根据列进行归一吧。
蓝精灵
4楼2012-05-21 05:45:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

龙傲海

铁杆木虫 (著名写手)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
rainbowguy: 金币+3 2012-05-21 14:18:12
把每列数据归一化到[0,1]之间
6楼2012-05-21 07:28:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rainbowguy

银虫 (正式写手)

rainbowguy: 回帖置顶 2012-05-21 14:26:33
我觉得归一化对于SVM还是很重要的。自己编写了一个SVM的程序,对没有归一化前的数据进行训练,很久没有达到KKT条件,导致运算时间过长而成了死循环;对数据归一化后,就没有出现这种问题了。同时,我觉得一些参数条件的设置也非常重要,比如kkt条件在程序中不能完全限定为y*f(x)==1,这样容易运算很长时间达不到条件要求而造成死循环;而是应该有一个范围 y*f(x)>1-r && y*f(x)<1+r, 其中0 请问各位大虾都有没有遇到这样的情况?都有哪些比较好的解决方法?谢谢了
7楼2012-05-21 14:26:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Go_home

金虫 (小有名气)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
rainbowguy: 金币+8, ★★★很有帮助 2012-06-06 14:48:30
不一定非要归一化。matlab中文论坛有个帖子专门讨论过这个问题,参考:http://www.ilovematlab.cn/thread-27021-1-1.html
归一化是为了后面数据处理的方便,其次是保正程序运行时收敛加快。并不是任何问题都必须事先把原始数据进行规范化,要具体问题具体看待,测试表明有时候规范化后的预测准确率比没有规范化的预测准确率低很多.就最大最小值法而言,当你用这种方式将原始数据规范化后,事实上意味着你承认了一个假设就是测试数据集的每一模式的所有特征分量的最大值(最小值)不会大于(小于)训练数据集的每一模式的所有特征分量的最大值(最小值),但这条假设显然过于强,实际情况并不一定会这样.使用平均数方差法也会有同样类似的问题.
8楼2012-05-21 16:14:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rainbowguy

银虫 (正式写手)

引用回帖:
8楼: Originally posted by Go_home at 2012-05-21 16:14:58:
不一定非要归一化。matlab中文论坛有个帖子专门讨论过这个问题,参考:http://www.ilovematlab.cn/thread-27021-1-1.html
归一化是为了后面数据处理的方便,其次是保正程序运行时收敛加快。并不是任何问题都必须事

对于Go_home 大虾所说的也对,但对于测试数据集中不同特征分量的数据相差几个数量级时,个人觉得还是要归一化比较好。同时,对于这些相差几个数量级的测试数据集,其程序收敛明显得不到保证。针对我的实验数据,当归一化后,其程序收敛明显加快。看来,归一化还是有好的一方面,但也有不足的一方面(如Go_home 所说)。
9楼2012-05-21 16:59:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rainbowguy

银虫 (正式写手)

引用回帖:
9楼: Originally posted by rainbowguy at 2012-05-21 16:59:16:
对于Go_home 大虾所说的也对,但对于测试数据集中不同特征分量的数据相差几个数量级时,个人觉得还是要归一化比较好。同时,对于这些相差几个数量级的测试数据集,其程序收敛明显得不到保证。针对我的实验数据,当

归一化前,程序无法收敛,导致了死循环。
欢迎大虾们讨论解决方案。
10楼2012-05-21 17:01:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 rainbowguy 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 323求调剂 +6 洼小桶 2026-03-18 6/300 2026-03-23 00:29 by king123!
[考研] 328求调剂,英语六级551,有科研经历 +6 生物工程调剂 2026-03-17 10/500 2026-03-22 20:22 by edmund7
[考研] 求调剂一志愿海大,0703化学学硕304分,有大创项目,四级已过 +6 幸运哩哩 2026-03-22 10/500 2026-03-22 20:10 by edmund7
[基金申请] 山东省面上项目限额评审 +4 石瑞0426 2026-03-19 4/200 2026-03-22 08:50 by Wei_ren
[考研] 一志愿华中科技大学071000,求调剂 +4 沿岸有贝壳6 2026-03-21 4/200 2026-03-22 07:21 by ilovexiaobin
[考研] 资源与环境 调剂申请(333分) +5 holy J 2026-03-21 5/250 2026-03-21 22:42 by Catalysis25
[考研] 一志愿东华大学控制学硕320求调剂 +3 Grand777 2026-03-21 3/150 2026-03-21 19:23 by 简之-
[考研] 一志愿深大,0703化学,总分302,求调剂 +4 七月-七七 2026-03-21 4/200 2026-03-21 18:20 by 学员8dgXkO
[考研] 297求调剂 +11 戏精丹丹丹 2026-03-17 12/600 2026-03-21 17:47 by ColorlessPI
[考研] 一志愿天津大学化学工艺专业(081702)315分求调剂 +12 yangfz 2026-03-17 12/600 2026-03-21 03:30 by JourneyLucky
[考研] 初始318分求调剂(有工作经验) +3 1911236844 2026-03-17 3/150 2026-03-21 02:33 by JourneyLucky
[考研] 化学求调剂 +4 临泽境llllll 2026-03-17 5/250 2026-03-21 02:23 by JourneyLucky
[考研] 一志愿中国石油大学(华东) 本科齐鲁工业大学 +3 石能伟 2026-03-17 3/150 2026-03-21 02:22 by JourneyLucky
[考研] 321求调剂 +9 何润采123 2026-03-18 11/550 2026-03-20 23:19 by JourneyLucky
[论文投稿] 申请回稿延期一个月,编辑同意了。但系统上的时间没变,给编辑又写邮件了,没回复 10+3 wangf9518 2026-03-17 4/200 2026-03-19 23:55 by babero
[考研] 085601材料工程专硕求调剂 +10 慕寒mio 2026-03-16 10/500 2026-03-19 15:26 by 丁丁*
[考研] 本科郑州大学物理学院,一志愿华科070200学硕,346求调剂 +4 我不是一根葱 2026-03-18 4/200 2026-03-19 09:11 by 浮云166
[考研] 材料专硕306英一数二 +10 z1z2z3879 2026-03-16 13/650 2026-03-18 14:20 by 007_lilei
[考研] 312求调剂 +8 陌宸希 2026-03-16 9/450 2026-03-18 12:39 by Linda Hu
[考研] 考研调剂 +3 淇ya_~ 2026-03-17 5/250 2026-03-17 09:25 by Winj1e
信息提示
请填处理意见