当前位置: 首页 > 程序语言 >发表论文好用的机器学习算法:相关向量机RVM,记得收藏,万一需要啦

发表论文好用的机器学习算法:相关向量机RVM,记得收藏,万一需要啦

作者 zjstar
来源: 小木虫 2250 45 举报帖子
+关注

Tipping(RVM的作者)说RVM是一种用于回归和分类的贝叶斯稀疏核算法,和SVM很像,但是避免了SVM的诸多缺点。

例如,SVM无法计算样本输出的后验概率分布,SVM不太适用于多分类问题,SVM的超参数需要通过交叉验证得到,这就非常耗费时间,而且SVM的核函数必须是正定的。

而RVM却避免了这些缺点,这就意味着RVM可以计算输出的概率分布、很自然的适用于多分类问题,超参数不需要通过交叉验证得到,而且,核函数可以任意指定,不是必须要正定的。最后,RVM得到的解要比更SVM稀疏的解。

疏贝叶斯模型中,Sparse这一思想很重要,因为这样一来,RVM对训练数据集的大小要求就十分少了,这比较适用于图像的还原,比如在看到的一篇论文里“中国图像图形学报”中“基于稀疏贝叶斯学习的图像重建方法”中就用到了稀疏贝叶斯的学习机制以及压缩感知理论,其中压缩感知理论(具体的内容在我转载的另一篇文章中介绍的很详细)是基于随机输入的稀疏性质的,由数学大牛陶哲轩提出。在稀疏贝叶斯模型中,我们主要要做的问题是如何使用这一思想求我们要的东西,这里涉及到的是边缘似然最大化。

RVM作者原版程序,你值得拥有。

 返回小木虫查看更多

今日热帖
  • 精华评论
猜你喜欢