应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 基础数学 » 如何避免极值为零点？
51/1返回列表
查看: 652  |  回复: 3
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

citihome

木虫 (正式写手)

[求助] 如何避免极值为零点？ 已有1人参与

矩阵在视为算子时，其范数的定义依赖于被作用元(操作数)
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}<-先不管优化方向,这个和原/对偶空间有关系.
或者 min/max_{x\in R^d} |Ax|_{ell_p}, s.t. |x|_{ell_p}=1<-能够避免除法形式,同时能够撇除零点.
  
这些定义存在遍历x取值操作.像前面10年，做sparse coding的,其逻辑为利用已有的训练数据X\in M(d,n)在向量的对偶空间中搜索算子矩阵，比如一个典型的优化问题为:
min_{A\in M(m,d)} |AX|_{ell_p}^2 + lambda*|A|_{ell_q}^2<-这个时候A的范数通常使用ell_q,满足1/p+1/q=1,因为已经在对偶空间中了.而不是像之前算子的定义那样，需要遍历x的所有要素.
  
我的问题是 怎么避免上面的优化问题中A取零元?
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
1楼 2014-10-09 17:03:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)
引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时，其范数的定义依赖于被作用元(操作数) seems not clear.

插图没上，补上
如下所示
如何避免极值为零点？
函数设计.JPG
赞一下 回复此楼
4楼2014-10-10 13:05:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 4 个回答

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

感谢参与，应助指数 +1
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时，其范数的定义依赖于被作用元(操作数) seems not clear.
赞一下 回复此楼
小木虫给我温暖，给我希望，爱就要爱小木虫。
2楼2014-10-10 10:32:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

citihome

木虫 (正式写手)
引用回帖:
2楼: Originally posted by zaq123321 at 2014-10-10 10:32:54
比如A为mxn矩阵
|A| = min/max_{x\in R^d} |Ax|_{ell_p}/|x|_{ell_p}

seems not clear.  The question also seems not clear.

矩阵在视为算子时，其范数的定义依赖于被作用元(操作数) seems not clear.

f(A)=1/2|A|^2+|A\x|^2凸否?  
标量很好验证,从微分形式也很容易验证
能否给出相应的证明呢

问题：破除矩阵A为全0矩阵导致的困难，同时保证f的凸性-以便可以使用sgd
应用场景：|A\x|^2对应需要进行确定协方差参数的正态分布(有压缩)，需要定义先验分布使得整个计算有效,最开始的时候直接用对偶分布（逆高斯分布），对应的主要部分为|A|^{-1}.结果发现这个就是个大陷阱——矩阵A的解为无穷大。

更加一般的问题:
赞一下 回复此楼
3楼2014-10-10 12:26:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 4 个回答
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭