24小时热门版块排行榜    

CyRhmU.jpeg
查看: 1424  |  回复: 5
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

ageelee

铜虫 (初入文坛)

[求助] 用交叉验证寻找稀疏表示的正则化参数lambda已有2人参与

看了一篇稀疏LDA 的文章,模型如下:
min||y-X*alpha || ^{2}+lambda*||alpha ||_{1}        (1式)
其中lambda 的确定他用的是K-折交叉检验,分成K分,一分检验,K-1分测试,由测试样本进行Sparse LDA(就是上式),得到投影B,再将所有样本投影,最近邻分类的到错误率,作为cross validation score,进行K次,联合所有的error作为selection criterion。选择出最优的{lambda_j}.
我的疑问是,这样的话,测试样本求投影的时候,已经用了(1)式,用了某个lambda值,就是预先知道一组{lambda_j}在其中选取错误率最小的吗?那是说我有K个lambda的候选值,每次检验用一个?如果是我理解的这样,之前的候选值是如何确定的呢。
用交叉检验确定目标函数里的参数,是不是都是要事先知道参数的范围,从中选取的呢?
求各位前辈指点迷津~

[ Last edited by ageelee on 2013-9-17 at 12:16 ]
回复此楼
处于学习的量变期
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小兽兽007

铜虫 (小有名气)


fegg7502: 金币+1, 鼓励交流 2013-09-30 11:19:29
引用回帖:
3楼: Originally posted by ageelee at 2013-09-30 09:23:44
我做的是模式识别这块的,现在用的是直接把训练样本作为冗余字典,保持个数>维数。稀疏表示用的字典有没有嘉定特殊的意义,只是从标准基库选取例如:Fourier,Wavelet,Curvelet,Gabor等,也有随机矩阵中生成的 ...

朋友你好,我所做的也是模式识别这个方向,具体到遥感领域就是做分类用,也是涉及到了训练样本 和 测试样本 。 你能稍微详细一点的介绍一下 利用训练样本怎么构造冗余字典么  !!  十分感谢!
爱生活,哎!科研
4楼2013-09-30 11:03:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 6 个回答

小兽兽007

铜虫 (小有名气)


fegg7502: 金币+1, 鼓励交流 2013-09-30 11:19:09
我刚刚开始学习  系数表示 ,做图像系数表示的。  你的问题 可能我没能力回答!!  我最近在如何构建冗余字典上有些疑惑, 如果您能帮忙指点一下的话  必感激不尽!!!
爱生活,哎!科研
2楼2013-09-28 10:47:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ageelee

铜虫 (初入文坛)

引用回帖:
2楼: Originally posted by 小兽兽007 at 2013-09-28 10:47:35
我刚刚开始学习  系数表示 ,做图像系数表示的。  你的问题 可能我没能力回答!!  我最近在如何构建冗余字典上有些疑惑, 如果您能帮忙指点一下的话  必感激不尽!!!

我做的是模式识别这块的,现在用的是直接把训练样本作为冗余字典,保持个数>维数。稀疏表示用的字典有没有嘉定特殊的意义,只是从标准基库选取例如:Fourier,Wavelet,Curvelet,Gabor等,也有随机矩阵中生成的【摘自《基于稀疏的人脸识别方法》杨荣根等,引言部分】,这类的具体操作我就不清楚了,看到你是做遥感的,希望对你有一点点帮助。
处于学习的量变期
3楼2013-09-30 09:23:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yuanmd

至尊木虫 (知名作家)

衔头义定自

【答案】应助回帖

是这个意思,之前 的预设值是经验值吧。
梦想总是要有的,万一实现了呢?
5楼2014-06-16 23:13:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见