24小时热门版块排行榜    

查看: 621  |  回复: 3

citihome

木虫 (正式写手)

[求助] 如何避免极值为零点? 已有1人参与

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数)
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}<-先不管优化方向,这个和原/对偶空间有关系.
或者 min/max_{x\in R^d} |Ax|_{ell_p}, s.t. |x|_{ell_p}=1<-能够避免除法形式,同时能够撇除零点.
  
这些定义存在遍历x取值操作.像前面10年,做sparse coding的,其逻辑为利用已有的训练数据X\in M(d,n)在向量的对偶空间中搜索算子矩阵,比如一个典型的优化问题为:
min_{A\in M(m,d)} |AX|_{ell_p}^2 + lambda*|A|_{ell_q}^2<-这个时候A的范数通常使用ell_q,满足1/p+1/q=1,因为已经在对偶空间中了.而不是像之前算子的定义那样,需要遍历x的所有要素.
  
我的问题是 怎么避免上面的优化问题中A取零元?
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

感谢参与,应助指数 +1
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.
小木虫给我温暖,给我希望,爱就要爱小木虫。
2楼2014-10-10 10:32:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.

f(A)=1/2|A|^2+|A\x|^2凸否?  
标量很好验证,从微分形式也很容易验证
能否给出相应的证明呢

问题:破除矩阵A为全0矩阵导致的困难,同时保证f的凸性-以便可以使用sgd
应用场景:|A\x|^2对应需要进行确定协方差参数的正态分布(有压缩),需要定义先验分布使得整个计算有效,最开始的时候直接用对偶分布(逆高斯分布),对应的主要部分为|A|^{-1}.结果发现这个就是个大陷阱——矩阵A的解为无穷大。

更加一般的问题:
3楼2014-10-10 12:26:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)

引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时,其范数的定义依赖于被作用元(操作数) seems not clear.

插图没上,补上
如下所示
如何避免极值为零点?
函数设计.JPG

4楼2014-10-10 13:05:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 citihome 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 欢迎发来filecode的Mz6后的代码验证其规律 +55 医学老男孩 2026-08-13 123/6150 2026-08-19 23:44 by stan_et
[基金申请] 今天基金会出结果吗?20260819 +13 kkkl_v 2026-08-19 13/650 2026-08-19 22:37 by 宝贝虫子
[基金申请] 时间戳变了,能看出什么问题? +12 基诺咪客 2026-08-17 16/800 2026-08-19 22:04 by kk 的小木虫
[基金申请] filecode,4个jtjc了 +11 ziyangfang 2026-08-19 13/650 2026-08-19 21:28 by aasahr
[教师之家] 为什么余额宝的年化利率越来越低?主要原因有哪些? +5 瞬息宇宙 2026-08-15 5/250 2026-08-19 20:23 by super2002521
[基金申请] 今天放榜没戏了吧 +4 yuleib84 2026-08-19 5/250 2026-08-19 19:52 by hhs666
[基金申请] 今天放榜吗? +14 布布和一二 2026-08-19 15/750 2026-08-19 18:07 by gltch
[基金申请] 2027广东省杰青 +4 奶牛小黑 2026-08-15 10/500 2026-08-19 11:02 by wanfengnew
[基金申请] 朋友圈看到的 +6 wangzilk 2026-08-18 8/400 2026-08-19 10:55 by Haru815
[基金申请] 快农历七夕节了,轻松一下,男人悄悄话,女施主请不要进来。 +6 Tide man 2026-08-14 7/350 2026-08-19 09:56 by ZJTJZ
[基金申请] 明天放榜? +5 Shxjjxjkx 2026-08-18 5/250 2026-08-18 18:14 by -大大大大大-
[论文投稿] 投稿咨询 +4 wwm09 2026-08-17 6/300 2026-08-18 15:36 by wwm09
[基金申请] 时间戳又变了8-15 +14 archvillain 2026-08-15 26/1300 2026-08-18 13:37 by phantomgost
[基金申请] 今天维护系统维护 祝所有人 高中 +8 gjjjzhong 2026-08-18 9/450 2026-08-18 13:01 by 家与远方
[基金申请] 哪位老哥知道今年的国自然具体哪一天放榜? +13 Ldrop2023 2026-08-13 16/800 2026-08-18 12:25 by 淀粉搬运工
[基金申请] 93BebMhtakh前后11位开头都是大写 +4 且听虎啸 2026-08-17 5/250 2026-08-18 00:49 by 蔡棒棒菂
[基金申请] 感觉是下周放榜了 +6 angus9576 2026-08-17 11/550 2026-08-17 23:57 by angus9576
[基金申请] 今天系统多次维护,明天很可能放榜! +8 zju2000 2026-08-16 9/450 2026-08-17 12:20 by lmz0216
[精细化工] 招聘 金属平磨液,抛光液研发工程师 +3 小天0311 2026-08-14 3/150 2026-08-16 07:31 by H9PLUS
[基金申请] 各位道友,我要去昆明玩几天,回来见。 +7 Tide man 2026-08-14 8/400 2026-08-15 01:11 by arzu_hma
信息提示
请填处理意见