24小时热门版块排行榜    

查看: 1717  |  回复: 7

cleiyang

新虫 (小有名气)

[求助] 关于几个优化问题:平滑约束、正则化与非正则化的laplacian矩阵 已有1人参与

看一篇论文,相关参考文献没下载到,就是这篇A. Ng, M. Jordan, Y. Weiss, et al. On spectral clustering: Analysis and an algorithm. In NIPS, pages 849–856, 2002. 2
目前有两个知识点没搞清楚,就是什么是平滑约束、正则化与非正则化的laplacian矩阵?请前辈指导,还有图片中的这段论文,公式2和公式3,以及S = D−1/2WD−1/2.表示什么意思啊?其中,D是图G的度矩阵只有对角线上有非零值表示i结点的度数,W是邻接矩阵。非常感谢!

关于几个优化问题:平滑约束、正则化与非正则化的laplacian矩阵
平滑约束.JPG
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与,应助指数 +1
cleiyang: 金币+1, 有帮助 2014-12-10 15:56:45
cleiyang: 金币+4, 后面的回帖帮助很大 2014-12-11 16:21:15
公式(2)说的很明确,它是(1)关于变量f求导等于0(最值的必要条件),推导出来的结果。normalized Laplacian matrix,翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果,它为计算f*服务
2楼2014-12-10 14:51:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
2楼: Originally posted by yongcailiu at 2014-12-10 14:51:12
公式(2)说的很明确,它是(1)关于变量f求导等于0(最值的必要条件),推导出来的结果。normalized Laplacian matrix,翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果,它为计算f*服务

S = D−1/2WD−1/2.表示什么意思啊?一个矩阵D−1/2表示什么啊?laplacian矩阵我知道怎么回事,可是normalized Laplacian matrix什么意思呢?还有后面那个公式非正则化的是怎么来的?
3楼2014-12-10 15:56:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

S=D−1/2WD−1/2的问题我已经解决了,对公式1求导取零推导出的式子和论文有点小出入,我推导出的公式2的y前面有个系数u/(1+u),难道是近似为1了?公式3还没有解决,而且不清楚正则的和非正则的推导有什么区别
4楼2014-12-10 17:24:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

引用回帖:
4楼: Originally posted by cleiyang at 2014-12-10 17:24:44
S=D−1/2WD−1/2的问题我已经解决了,对公式1求导取零推导出的式子和论文有点小出入,我推导出的公式2的y前面有个系数u/(1+u),难道是近似为1了?公式3还没有解决,而且不清楚正则的和非正则的推导有什么 ...

系数u/(1+u)是文章中的alpha,那个结果应该没有问题。至于公式3,由于没有相关知识,所以不知道是怎么得到的,不过,直观来看,在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace matrix,可以参见http://en.wikipedia.org/wiki/Laplacian_matrix
5楼2014-12-11 10:09:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
5楼: Originally posted by yongcailiu at 2014-12-11 10:09:15
系数u/(1+u)是文章中的alpha,那个结果应该没有问题。至于公式3,由于没有相关知识,所以不知道是怎么得到的,不过,直观来看,在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace mat ...

谢谢提示!我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3,推导出了公式3的近似结果,比公式3前面多了个D。关于我推导公式2的y前面多系数的问题,参考文献解释说对于分类问题来说(1-alpha)这个系数无贡献,所以可以省略。所以我总是不知道什么情况下这些公式可以怎么简化并使用,这些东西要熟悉到什么程度才能写自己的文章,有点着急。
6楼2014-12-11 16:18:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

引用回帖:
6楼: Originally posted by cleiyang at 2014-12-11 16:18:08
谢谢提示!我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3,推导出了公式3的近似结果,比公式3前面多了个D ...

这个领域中的具体问题我就不熟悉了,你再查查文先看看吧。直觉来看,系数无关可能是比较接近1的缘故吧,仅是直觉,仅供参考。而近似简化的问题,经常出现在迭代过程中,可以这样来想,迭代需要很多步,每步差一点儿的话,只要不影响最终的收敛结果即可
7楼2014-12-12 09:11:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
7楼: Originally posted by yongcailiu at 2014-12-12 09:11:01
这个领域中的具体问题我就不熟悉了,你再查查文先看看吧。直觉来看,系数无关可能是比较接近1的缘故吧,仅是直觉,仅供参考。而近似简化的问题,经常出现在迭代过程中,可以这样来想,迭代需要很多步,每步差一点儿 ...

嗯,好的,非常感谢!
8楼2014-12-12 10:24:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 cleiyang 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 环境学硕288求调剂 +8 皮皮皮123456 2026-03-22 8/400 2026-03-23 23:47 by 热情沙漠
[考研] 384求调剂 +3 子系博 2026-03-22 6/300 2026-03-23 21:45 by 子系博
[考研] 材料与化工考研调剂 +4 孅華 2026-03-22 4/200 2026-03-23 16:13 by 一休哥FU
[考研] 0854电子信息求调剂 324 +3 Promise-jyl 2026-03-23 3/150 2026-03-23 13:43 by wangkm
[考研] 306求调剂 +9 chuanzhu川烛 2026-03-18 9/450 2026-03-23 13:17 by luoyongfeng
[考研] 一志愿070300浙大化学358分,求调剂! +4 酥酥鱼.. 2026-03-21 4/200 2026-03-23 08:12 by Iveryant
[考研] 生物学调剂 +5 Surekei 2026-03-21 5/250 2026-03-22 14:39 by tcx007
[考研] 考研调剂 +4 来好运来来来 2026-03-21 4/200 2026-03-22 12:15 by 星空星月
[考研] 296求调剂 +4 www_q 2026-03-20 4/200 2026-03-21 17:26 by 学员8dgXkO
[考研] 279求调剂 +5 红衣隐官 2026-03-21 5/250 2026-03-21 14:59 by lature00
[考研] 303求调剂 +5 睿08 2026-03-17 7/350 2026-03-21 03:11 by JourneyLucky
[考研] 299求调剂 +6 △小透明* 2026-03-17 6/300 2026-03-21 02:42 by JourneyLucky
[考研] 求调剂 +3 Ma_xt 2026-03-17 3/150 2026-03-21 02:05 by JourneyLucky
[考研] 308求调剂 +3 阿姐阿姐家啊 2026-03-18 3/150 2026-03-20 23:24 by JourneyLucky
[考研] 0817 化学工程 299分求调剂 有科研经历 有二区文章 +22 rare12345 2026-03-18 22/1100 2026-03-20 20:39 by zhukairuo
[考研] 一志愿吉林大学材料学硕321求调剂 +11 Ymlll 2026-03-18 15/750 2026-03-20 19:40 by 丁丁*
[考研] 材料学硕318求调剂 +5 February_Feb 2026-03-19 5/250 2026-03-19 23:51 by 23Postgrad
[考研] 085600材料与化工求调剂 +6 绪幸与子 2026-03-17 6/300 2026-03-19 13:27 by houyaoxu
[考博] 26博士申请 +3 1042136743 2026-03-17 3/150 2026-03-17 23:30 by 轻松不少随
[考研] 考研调剂 +3 淇ya_~ 2026-03-17 5/250 2026-03-17 09:25 by Winj1e
信息提示
请填处理意见