24小时热门版块排行榜    

查看: 533  |  回复: 3

citihome

木虫 (正式写手)

[求助] 如何避免极值为零点? 已有1人参与

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数)
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}<-先不管优化方向,这个和原/对偶空间有关系.
或者 min/max_{x\in R^d} |Ax|_{ell_p}, s.t. |x|_{ell_p}=1<-能够避免除法形式,同时能够撇除零点.
  
这些定义存在遍历x取值操作.像前面10年,做sparse coding的,其逻辑为利用已有的训练数据X\in M(d,n)在向量的对偶空间中搜索算子矩阵,比如一个典型的优化问题为:
min_{A\in M(m,d)} |AX|_{ell_p}^2 + lambda*|A|_{ell_q}^2<-这个时候A的范数通常使用ell_q,满足1/p+1/q=1,因为已经在对偶空间中了.而不是像之前算子的定义那样,需要遍历x的所有要素.
  
我的问题是 怎么避免上面的优化问题中A取零元?
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

感谢参与,应助指数 +1
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-10-10 10:32:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.

f(A)=1/2|A|^2+|A\x|^2凸否?  
标量很好验证,从微分形式也很容易验证
能否给出相应的证明呢

问题:破除矩阵A为全0矩阵导致的困难,同时保证f的凸性-以便可以使用sgd
应用场景:|A\x|^2对应需要进行确定协方差参数的正态分布(有压缩),需要定义先验分布使得整个计算有效,最开始的时候直接用对偶分布(逆高斯分布),对应的主要部分为|A|^{-1}.结果发现这个就是个大陷阱——矩阵A的解为无穷大。

更加一般的问题:
3楼2014-10-10 12:26:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.

插图没上,补上
如下所示
如何避免极值为零点?
函数设计.JPG

4楼2014-10-10 13:05:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 citihome 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿211 初试270分 求调剂 +5 谷雨上岸 2026-03-23 6/300 2026-03-24 16:32 by laoshidan
[考研] 307求调剂 +3 余意卿 2026-03-21 6/300 2026-03-24 15:03 by 余意卿
[考研] 081700 调剂 267分 +9 迷人的哈哈 2026-03-23 9/450 2026-03-24 11:58 by 544594351
[考研] 一志愿河北工业大学0817化工278分求调剂 +7 jhybd 2026-03-23 12/600 2026-03-24 09:03 by jhybd
[考研] 一志愿北京化工大学 070300 学硕 336分 求调剂 +7 vv迷 2026-03-22 7/350 2026-03-23 23:44 by Txy@872106
[考研] 接收2026硕士调剂(学硕+专硕) +4 allen-yin 2026-03-23 6/300 2026-03-23 15:04 by 汪!?!
[考研] 263求调剂 +6 yqdszhdap- 2026-03-22 9/450 2026-03-23 12:57 by yqdszhdap-
[考研] 276求调剂 +3 YNRYG 2026-03-21 4/200 2026-03-23 08:31 by 醉在风里
[考研] 311求调剂 +6 冬十三 2026-03-18 6/300 2026-03-22 20:18 by edmund7
[考研] 289材料与化工(085600)B区求调剂 +3 这么名字咋样 2026-03-22 4/200 2026-03-22 17:56 by 云民大李老师
[考研] 319求调剂 +4 小力气珂珂 2026-03-20 4/200 2026-03-22 15:53 by ColorlessPI
[考博] 招收博士1-2人 +3 QGZDSYS 2026-03-18 4/200 2026-03-22 10:25 by QGZDSYS
[考研] 286求调剂 +10 Faune 2026-03-21 10/500 2026-03-21 23:34 by 314126402
[考研] 274求调剂 +10 S.H1 2026-03-18 10/500 2026-03-20 23:51 by JourneyLucky
[考研] 22408 344分 求调剂 一志愿 华电计算机技术 +4 solanXXX 2026-03-20 4/200 2026-03-20 23:49 by alg094825
[考研] 295材料求调剂,一志愿武汉理工085601专硕 +5 Charlieyq 2026-03-19 5/250 2026-03-20 20:35 by JourneyLucky
[考研] 材料学求调剂 +4 Stella_Yao 2026-03-20 4/200 2026-03-20 20:28 by ms629
[考研] 一志愿 南京航空航天大学大学 ,080500材料科学与工程学硕 +5 @taotao 2026-03-20 5/250 2026-03-20 20:16 by JourneyLucky
[考研] 一志愿南理工085701环境302求调剂院校 +3 葵梓卫队 2026-03-20 3/150 2026-03-20 19:28 by zhukairuo
[考研] 收复试调剂生 +4 雨后秋荷 2026-03-18 4/200 2026-03-18 14:16 by elevennnne
信息提示
请填处理意见