应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 工科数学 » 复合函数的矩阵求导
41/1返回列表
查看: 3211  |  回复: 3
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

pluiefox

新虫 (初入文坛)

[求助] 复合函数的矩阵求导 已有1人参与


问题如图。
我看过论坛里其他类似的对矩阵求导的讨论，我的问题是：

  1. 导数表示形式的分子布局、分母布局何时使用以及在同一个方程中能否混合使用，如果可以，什么样的情况下才需要选择特定的表示形式？
  2. 我在维基百科Matrix  calculus词条中看到这样一句话：
    引用回帖:
    The chain rule applies in some of the cases, but unfortunately does not apply in matrix-by-scalar derivatives or scalar-by-matrix derivatives (in the latter case, mostly involving the trace operator applied to matrices).

    这样的话，那么所给图片里红色式子左边部分的链式法则的应用就是错的。以图片中求为例，我应该如何对涉及矩阵的复合函数求导？


这个问题，是在求解神经网络的参数梯度的时候遇到的，为了简化问题我表述成了上述形式。
因为目标函数比较复杂，如果按矩阵元素推导会很麻烦，所以我直接对矩阵求导，但是我尝试写代码的时候才发现了这个无法相乘的问题。
我看到一些文章提到可以利用张量求列向量对矩阵的导数，但没有更进一步的解释了。
如果有描述模糊和不正确的地方，麻烦指正，我会及时修改。谢谢大家了！
回复此楼

» 猜你喜欢

» 本主题相关商家推荐: (我也要在这里推广)

» 本主题相关价值贴推荐，对您同样有帮助:
1楼 2015-11-02 20:17:37
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)
What's the matrix norm in J

[ 发自手机版 http://muchong.com/3g ]
赞一下 回复此楼
小木虫给我温暖，给我希望，爱就要爱小木虫。
2楼2015-11-04 00:09:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pluiefox

新虫 (初入文坛)
引用回帖:
2楼: Originally posted by zaq123321 at 2015-11-04 00:09:04
What's the matrix norm in J

J 是 [p - [c1 ; c2]] 的二范数的平方再乘以二分之一，为了简化问题可以把 J 重新定义为：
J = ||p||，即 J 为 p 的一范数，系数全为1的p的分量的线性组合。
对于改过的式子，我按元素推导，先得到了{∂J / ∂Wij}，这个结果可以认为是正确的。接着我按矩阵向量推导（不考虑矩阵求导规则），结果是：
{∂J / ∂Wij} = ((J/p) * (p/q)） * (q/W)) = [1, 1, ... , 1] * V * [c1;c2]
其中 J/p 表示 J 对 p 求偏导，其余一样。
并且偏导数 J/p 和 p/q 用的分子布局，所以 J/p 是 2n 维行向量，p/q 是2n x n 矩阵，而 q/W 暂时不考虑正确性和布局形式直接用 [c1;c2] 表示。
然后由于维度不同不构成乘法项，我把上面结果改成：
((J/p) * (p/q))' * c'
'表示取转置。然后这样的结果就和我按元素推导的结果相同了。我想知道这样的做法对不对？因为虽然结果正确了，但是我在这里还是用了不适用的链式法则，而且还以满足乘法规则为目的对结果取转置，这种做法可能只是答案正确而且很偶然。
赞一下(1人) 回复此楼
3楼2015-11-04 09:45:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zaq123321

专家顾问 (著名写手)

【答案】应助回帖

感谢参与，应助指数 +1
引用回帖:
3楼: Originally posted by pluiefox at 2015-11-04 09:45:10
J 是  的二范数的平方再乘以二分之一，为了简化问题可以把 J 重新定义为：
J = ||p||，即 J 为 p 的一范数，系数全为1的p的分量的线性组合。
对于改过的式子，我按元素推导，先得到了{∂J / ∂Wij}，这 ...

You can write out the squared vector norm as inner product   f=<a, a>=a^Ta.
Here a=(VW-I)(c_1, c_2).
Then df/dW = 2*<a, da/dW>  
You can find how to calculate da/dW from matrix calculus website and get answer.
赞一下 回复此楼
小木虫给我温暖，给我希望，爱就要爱小木虫。
4楼2015-11-04 10:32:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 pluiefox 的主题更新
41/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 投票:  有多少人是今天查系统知道结果的？ +12 爱看书的可乐 2026-08-26 14/700 2026-08-26 13:23 by coolysnow
[基金申请] 系统查不到 +9 董八千 2026-08-26 9/450 2026-08-26 12:30 by yanmofang
[基金申请] 国合里面能看到了 +7 一怀馨秋 2026-08-26 7/350 2026-08-26 11:23 by zhaosm1982
[基金申请] 国际合作可查了，中了面上 +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 国合可查了 +3 paperzjh 2026-08-26 3/150 2026-08-26 10:41 by LemmonTr
[基金申请] 今天务委会开完了，明天出结果吗 +19 angus9576 2026-08-25 23/1150 2026-08-26 10:03 by zp519
[职场人生] 学生撞见辅导员送外卖，第二天全班都沉默了 +3 鲸鱼融金_浙江_� 2026-08-22 3/150 2026-08-26 09:01 by zzuzxg
[基金申请] 范进中举一文的中心思想 +8 炎黄贵胄 2026-08-22 9/450 2026-08-26 07:47 by WASM
[基金申请] 2026国自然函评费到账 +21 羊腰板 2026-08-21 24/1200 2026-08-26 07:20 by finnigan
[基金申请] 在坚冰还盖着北海的时候，我看到了怒放的梅花。 (金币+10) +6 ziyangfang 2026-08-25 9/450 2026-08-25 20:26 by huagongfeihu
[基金申请] 明天应该可查了！？ +6 chengyan1220 2026-08-23 6/300 2026-08-25 19:45 by zfd97
[基金申请] 某些机构，以效率低为荣，以效率低作为存在感 +9 yuleib84 2026-08-25 10/500 2026-08-25 17:14 by alexon
[基金申请] 如果此刻你正在为国基感到焦虑，不妨来听听这首《基金之外》 +8 scalable 2026-08-24 8/400 2026-08-25 12:52 by jnhyjjm
[基金申请] 没有任何消息-是不是就凉了 +9 图啦图啦 2026-08-24 10/500 2026-08-25 11:59 by 南海小哥
[教师之家] 跳槽后在研项目怎么办？ +5 简单化xn 2026-08-22 10/500 2026-08-23 12:38 by 简单化xn
[基金申请] 时间戳今天，20号变了 +5 archvillain 2026-08-20 5/250 2026-08-22 06:12 by hui_daxiao
[基金申请] 看来今天不会放榜了？ +8 chengyan1220 2026-08-21 11/550 2026-08-21 17:52 by dcqxinyang
[基金申请] 应该是下周三26日公布了吧？ +4 哈哈蛤？ 2026-08-21 4/200 2026-08-21 10:58 by Vivilian
[基金申请] 今天放榜没戏了吧 +9 yuleib84 2026-08-19 11/550 2026-08-21 10:06 by gltch
信息提示
关闭
请填处理意见
关闭