24小时热门版块排行榜    

查看: 1940  |  回复: 7

cleiyang

新虫 (小有名气)

[求助] 关于几个优化问题:平滑约束、正则化与非正则化的laplacian矩阵 已有1人参与

看一篇论文,相关参考文献没下载到,就是这篇A. Ng, M. Jordan, Y. Weiss, et al. On spectral clustering: Analysis and an algorithm. In NIPS, pages 849–856, 2002. 2
目前有两个知识点没搞清楚,就是什么是平滑约束、正则化与非正则化的laplacian矩阵?请前辈指导,还有图片中的这段论文,公式2和公式3,以及S = D−1/2WD−1/2.表示什么意思啊?其中,D是图G的度矩阵只有对角线上有非零值表示i结点的度数,W是邻接矩阵。非常感谢!

关于几个优化问题:平滑约束、正则化与非正则化的laplacian矩阵
平滑约束.JPG
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与,应助指数 +1
cleiyang: 金币+1, 有帮助 2014-12-10 15:56:45
cleiyang: 金币+4, 后面的回帖帮助很大 2014-12-11 16:21:15
公式(2)说的很明确,它是(1)关于变量f求导等于0(最值的必要条件),推导出来的结果。normalized Laplacian matrix,翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果,它为计算f*服务
2楼2014-12-10 14:51:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
2楼: Originally posted by yongcailiu at 2014-12-10 14:51:12
公式(2)说的很明确,它是(1)关于变量f求导等于0(最值的必要条件),推导出来的结果。normalized Laplacian matrix,翻译成正则似乎不恰当。至于其中的S就是给定矩阵D和W的一个中间结果,它为计算f*服务

S = D−1/2WD−1/2.表示什么意思啊?一个矩阵D−1/2表示什么啊?laplacian矩阵我知道怎么回事,可是normalized Laplacian matrix什么意思呢?还有后面那个公式非正则化的是怎么来的?
3楼2014-12-10 15:56:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

S=D−1/2WD−1/2的问题我已经解决了,对公式1求导取零推导出的式子和论文有点小出入,我推导出的公式2的y前面有个系数u/(1+u),难道是近似为1了?公式3还没有解决,而且不清楚正则的和非正则的推导有什么区别
4楼2014-12-10 17:24:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

引用回帖:
4楼: Originally posted by cleiyang at 2014-12-10 17:24:44
S=D−1/2WD−1/2的问题我已经解决了,对公式1求导取零推导出的式子和论文有点小出入,我推导出的公式2的y前面有个系数u/(1+u),难道是近似为1了?公式3还没有解决,而且不清楚正则的和非正则的推导有什么 ...

系数u/(1+u)是文章中的alpha,那个结果应该没有问题。至于公式3,由于没有相关知识,所以不知道是怎么得到的,不过,直观来看,在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace matrix,可以参见http://en.wikipedia.org/wiki/Laplacian_matrix
5楼2014-12-11 10:09:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
5楼: Originally posted by yongcailiu at 2014-12-11 10:09:15
系数u/(1+u)是文章中的alpha,那个结果应该没有问题。至于公式3,由于没有相关知识,所以不知道是怎么得到的,不过,直观来看,在I-alpha*S两端分别左乘和右乘D^{1/2}可以得到D-alpha*W。而normalized Laplace mat ...

谢谢提示!我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3,推导出了公式3的近似结果,比公式3前面多了个D。关于我推导公式2的y前面多系数的问题,参考文献解释说对于分类问题来说(1-alpha)这个系数无贡献,所以可以省略。所以我总是不知道什么情况下这些公式可以怎么简化并使用,这些东西要熟悉到什么程度才能写自己的文章,有点着急。
6楼2014-12-11 16:18:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yongcailiu

金虫 (小有名气)

引用回帖:
6楼: Originally posted by cleiyang at 2014-12-11 16:18:08
谢谢提示!我又看了看论文的参考文献 D. Zhou, O. Bousquet, T. Lal, J.Weston, and B. Scholkopf. Learning with local and global consistency. In NIPS, 2003. 3,推导出了公式3的近似结果,比公式3前面多了个D ...

这个领域中的具体问题我就不熟悉了,你再查查文先看看吧。直觉来看,系数无关可能是比较接近1的缘故吧,仅是直觉,仅供参考。而近似简化的问题,经常出现在迭代过程中,可以这样来想,迭代需要很多步,每步差一点儿的话,只要不影响最终的收敛结果即可
7楼2014-12-12 09:11:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

cleiyang

新虫 (小有名气)

引用回帖:
7楼: Originally posted by yongcailiu at 2014-12-12 09:11:01
这个领域中的具体问题我就不熟悉了,你再查查文先看看吧。直觉来看,系数无关可能是比较接近1的缘故吧,仅是直觉,仅供参考。而近似简化的问题,经常出现在迭代过程中,可以这样来想,迭代需要很多步,每步差一点儿 ...

嗯,好的,非常感谢!
8楼2014-12-12 10:24:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 cleiyang 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 学科评审组评审是指会评吗? +4 瞬息宇宙 2026-08-31 4/200 2026-09-01 14:58 by jiaoxg
[基金申请] 面上函评意见出来了,像什么等级? 20+4 Tsingking1 2026-08-27 15/750 2026-09-01 12:23 by icm639
[基金申请] 为什么资助数各大高校都创新高,自己申请怎么就这么难 +13 Kittylucky 2026-08-27 14/700 2026-09-01 11:06 by feng6531
[基金申请] 麻烦专家们看看评委们的意见(F口面上) +7 gdd2018 2026-08-28 12/600 2026-09-01 08:32 by 尼古拉斯小虫
[基金申请] 投票:  有多少人是今天查系统知道结果的? +17 爱看书的可乐 2026-08-26 19/950 2026-08-31 21:30 by xiangy672
[基金申请] 基金未中,这种答复是模板吗? +6 zhaosm1982 2026-08-27 7/350 2026-08-31 21:18 by qdxxmc
[基金申请] 面上意见出来了 +12 黄鸟于飞Chao 2026-08-29 23/1150 2026-08-31 18:57 by 黄鸟于飞Chao
[基金申请] 中青基了要发朋友圈吗? +7 349506619 2026-08-28 7/350 2026-08-31 13:39 by 冼亮淀粉酶
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 基金不中,共勉 +12 eulota 2026-08-26 12/600 2026-08-31 08:42 by ZJTJZ
[基金申请] 为什么到现在没收到通知? +5 tannykie 2026-08-29 5/250 2026-08-30 21:05 by purplejack
[基金申请] 国自然面上复盘~欢迎讨论 (金币+15) +15 晴天加油 2026-08-26 16/800 2026-08-29 18:28 by symmetry
[基金申请] 2026年叶企孙基金 +4 bud_bud 2026-08-27 7/350 2026-08-29 07:23 by foolishmani
[基金申请] 基金系统什么内容也没有 30+4 winsaint 2026-08-27 9/450 2026-08-28 11:06 by maolC
[基金申请] 看板上这么多中的,有点像50人群里49个人都是骗子的那种感觉…… +5 a089 2026-08-26 6/300 2026-08-27 14:05 by jonewore
[基金申请] 出来了 +9 trojank 2026-08-26 9/450 2026-08-26 14:25 by 宝贝虫子
[基金申请] 国合里面能看到了 +7 一怀馨秋 2026-08-26 7/350 2026-08-26 11:23 by zhaosm1982
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 项目信息和经费信息在系统里都可以看到了 +6 wittyboy 2026-08-26 14/700 2026-08-26 10:55 by wittyboy
[基金申请] 国合可查了 +3 paperzjh 2026-08-26 3/150 2026-08-26 10:41 by LemmonTr
信息提示
请填处理意见