应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

CyRhmU.jpeg
小木虫论坛-学术科研互动平台 » 专业学科区 » 信息科学 » 图像处理 » 关于几个优化问题：平滑约束、正则化与非正则化的laplacian矩阵
81/1返回列表
查看: 1625  |  回复: 7
只看楼主@他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

cleiyang

新虫 (小有名气)

[求助] 关于几个优化问题：平滑约束、正则化与非正则化的laplacian矩阵已有1人参与

看一篇论文，相关参考文献没下载到，就是这篇A. Ng, M. Jordan, Y. Weiss, et al. On spectral clustering: Analysis and an algorithm. In NIPS, pages 849–856, 2002. 2
目前有两个知识点没搞清楚，就是什么是平滑约束、正则化与非正则化的laplacian矩阵？请前辈指导，还有图片中的这段论文，公式2和公式3，以及S = D−1/2WD−1/2.表示什么意思啊？其中，D是图G的度矩阵只有对角线上有非零值表示i结点的度数，W是邻接矩阵。非常感谢！

关于几个优化问题：平滑约束、正则化与非正则化的laplacian矩阵
平滑约束.JPG
回复此楼

» 猜你喜欢
1楼2014-12-10 13:14:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与，应助指数 +1
cleiyang: 金币+1, ★有帮助 2014-12-10 15:56:45
cleiyang: 金币+4, 后面的回帖帮助很大 2014-12-11 16:21:15
公式（2）说的很明确，它是（1）关于变量f求导等于0（最值的必要条件），推导出来的结果。normalized Laplacian matrix，翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果，它为计算f*服务
赞一下 回复此楼
2楼2014-12-10 14:51:12
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)
引用回帖:
2楼: Originally posted by yongcailiu at 2014-12-10 14:51:12
公式（2）说的很明确，它是（1）关于变量f求导等于0（最值的必要条件），推导出来的结果。normalized Laplacian matrix，翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果，它为计算f*服务

S = D−1/2WD−1/2.表示什么意思啊？一个矩阵D−1/2表示什么啊？laplacian矩阵我知道怎么回事，可是normalized Laplacian matrix什么意思呢？还有后面那个公式非正则化的是怎么来的？
赞一下 回复此楼
3楼2014-12-10 15:56:34
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)
S=D−1/2WD−1/2的问题我已经解决了，对公式1求导取零推导出的式子和论文有点小出入，我推导出的公式2的y前面有个系数u/(1+u)，难道是近似为1了？公式3还没有解决，而且不清楚正则的和非正则的推导有什么区别
赞一下 回复此楼
4楼2014-12-10 17:24:44
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)
引用回帖:
4楼: Originally posted by cleiyang at 2014-12-10 17:24:44
S=D−1/2WD−1/2的问题我已经解决了，对公式1求导取零推导出的式子和论文有点小出入，我推导出的公式2的y前面有个系数u/(1+u)，难道是近似为1了？公式3还没有解决，而且不清楚正则的和非正则的推导有什么 ...

系数u/(1+u)是文章中的alpha，那个结果应该没有问题。至于公式3，由于没有相关知识，所以不知道是怎么得到的，不过，直观来看，在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace matrix,可以参见http://en.wikipedia.org/wiki/Laplacian_matrix
赞一下 回复此楼
5楼2014-12-11 10:09:15
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)
引用回帖:
5楼: Originally posted by yongcailiu at 2014-12-11 10:09:15
系数u/(1+u)是文章中的alpha，那个结果应该没有问题。至于公式3，由于没有相关知识，所以不知道是怎么得到的，不过，直观来看，在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace mat ...

谢谢提示！我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3，推导出了公式3的近似结果，比公式3前面多了个D。关于我推导公式2的y前面多系数的问题，参考文献解释说对于分类问题来说（1-alpha）这个系数无贡献，所以可以省略。所以我总是不知道什么情况下这些公式可以怎么简化并使用，这些东西要熟悉到什么程度才能写自己的文章，有点着急。
赞一下 回复此楼
6楼2014-12-11 16:18:08
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)
引用回帖:
6楼: Originally posted by cleiyang at 2014-12-11 16:18:08
谢谢提示！我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3，推导出了公式3的近似结果，比公式3前面多了个D ...

这个领域中的具体问题我就不熟悉了，你再查查文先看看吧。直觉来看，系数无关可能是比较接近1的缘故吧，仅是直觉，仅供参考。而近似简化的问题，经常出现在迭代过程中，可以这样来想，迭代需要很多步，每步差一点儿的话，只要不影响最终的收敛结果即可
赞一下 回复此楼
7楼2014-12-12 09:11:01
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)
引用回帖:
7楼: Originally posted by yongcailiu at 2014-12-12 09:11:01
这个领域中的具体问题我就不熟悉了，你再查查文先看看吧。直觉来看，系数无关可能是比较接近1的缘故吧，仅是直觉，仅供参考。而近似简化的问题，经常出现在迭代过程中，可以这样来想，迭代需要很多步，每步差一点儿 ...

嗯，好的，非常感谢！
回复此楼
8楼2014-12-12 10:24:35
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 cleiyang 的主题更新
81/1返回列表
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭