版块导航: 正在加载中...

登录注册

应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜

返回列表

mygt_hit

专家顾问 (职业作家)

专家经验: +362
数学EPI: 3
应助: 438 (硕士)
贵宾: 0.019
金币: 19571.1
散金: 5130
红花: 135
沙发: 3
帖子: 4938
在线: 990.5小时
虫号: 1489764
注册: 2011-11-13
性别: GG
专业: 结构工程
管辖: 土木建筑

【答案】应助回帖

★ ★ ★ ★ ★
tjuxh: 金币+5, ★★★很有帮助 2016-01-11 09:41:47

引用回帖:

3楼: Originally posted by tjuxh at 2015-12-02 23:17:47
你好，非常感谢你的回答！我看了一些相关的例子，确实是按照您所说的这样进行分解。目前的情况是，我可以提取出随时间变化的一系列随机向量，然后据此可以得出一个协方差矩阵，但是我不知道如何通过此矩阵求出一组 ...

最近又有了一些新收获，跟楼主交流一下。
KL、POD、PCA思想都是一样的，最根本的应该是KL，离散化之后就是PCA（主成分分析）。和对称方阵的特征值分解以及一般矩阵的SVD（奇异值分解）关系非常密切。
1. 首先以对称方阵的特征值分解为例来说明。（特征值按从大到小排列。由于对称阵的不同特征值的特征向量正交，故可将特征向量矩阵S标准正交化。）
$A=S\varLambda S^{-1}=S\varLambda S^T$
$\varLambda =diag \left( \lambda _1,\lambda _2,\cdots ,\lambda _d \right) ,\,\,\lambda _1\geq \lambda _2\geq \cdots \geq \lambda _d$
$S=\left( s_1,s_2,\cdots ,s_d \right)$
a) 基变换角度。
AX的变换效果从几何上可理解为将X旋转(S'作用)——拉伸( $\varLambda$ 作用)——旋转回来（S作用）。因此，S中的每一个列向量可以理解为原始变量空间（实际上为A的行空间）的基通过旋转（因为S为正交阵）所得的一组新基。第一个基s1上包含的信息最多（特征值最大），之后的依次减少。所以任给一个d维列向量X，可通过在矩阵S代表的基上投影，依次提取其第一大分量、第二大分量、……直到第d大分量。根据实际需要，选择前若干个就可以充分表达X所包含的信息了，如果选择全部d个分量，那就是完全无损表示了。数据压缩、图像处理、数据降维等都是这样的原理，提取前几个较大的分量就可以以较小的损失表示原来的信息。
具体来说，可以定义新的列向量：
$Y=\left( y_1,y_2,\cdots ,y_d \right) ^T=S^TX$
$y_i=s_{i}^{T}X=s_{i1}x_1+s_{i2}x_2+\cdots +s_{id}x_d,\,\,i=1,...,d$
即Y的每一个分量都是X分量的线性组合，或者理解为将X沿着特征向量展开。选择前r个较大特征值对应的Y分量，就可以将原始的d维向量X降为r维向量Y。（注：A的特征向量又称作主成分，主成分分析PCA大概就是这个意思，提取最主要的那几个成分。）

b) 也可以从对称矩阵的谱分解角度理解
$A=\sum_{i=1}^d{s_i\lambda _is_{i}^{T}}$
即对称矩阵可表达为d个秩1矩阵之和，每个秩一矩阵的权重为相应特征值。数据压缩就是选择前少数几个较大特征值对应的秩一矩阵来表示原矩阵A，即
$A=\sum_{i=1}^d{s_i\lambda _is_{i}^{T}}\approx \sum_{i=1}^r{s_i\lambda _is_{i}^{T}},\,\,r\ll d$

2. SVD角度。
假设数据有d个特征或属性，例如d维变量X。假设观测N次，得N个样本，用N×d矩阵A表示，将A进行SVD分解
$A=U\varSigma V^T$
V中所含的A的右奇异向量就是原始数据的主成分，根据奇异值大小排列，也称作第一主成分、第二主成分、……第d主成分。之所以这么叫，是因为A的右奇异向量实际上是A’A的特征向量
$A^TA=V\varSigma ^T\varSigma V^T=V\varLambda V^T$
而A’A又可看作d维变量X的协方差矩阵cov(X, X)。如果X均值不为0，可通过平移得到新的零均值变量。令 R = cov(X, X) ，则有
$R=cov\left( X,X \right) =A^TA=V\varLambda V^T$
这里的矩阵V相当于第1节中的矩阵S。前r个特征向量表示对X方差贡献最大的r个基，即前r个主成分。类似的，可以定义新向量Y = V'X，提取主成分，压缩数据等等。

3. 小结
1) 将观测矩阵A进行处理，比如平移使得其变为零均值、标准化处理等;
2) 对A'A进行特征值对角分解;
3) 定义新向量：Y=V'X。根据处理能力及实际需要，选择前若干个较显著的Y分量。

4. 参考资料
浅谈对主成分分析（PCA）算法的理解 http://blog.csdn.net/passball/article/details/24037593
机器学习中的数学(4)-线性判别分析（LDA）, 主成分分析(PCA) http://www.cnblogs.com/LeftNotEa ... chine-learning.html
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用 http://www.cnblogs.com/LeftNotEa ... d-applications.html

赞一下

回复此楼

知其然，知其所以然。

11楼2016-01-09 14:29:52

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

tjuxh

金虫 (小有名气)

应助: 0 (幼儿园)
金币: 2082.5
散金: 500
帖子: 111
在线: 98.3小时
虫号: 2433642
注册: 2013-04-24
性别: GG
专业: 燃烧学

引用回帖:

10楼: Originally posted by 拜星漫月 at 2016-01-09 12:33:36
楼主可以把你的pod资料发给我看看吗？谢谢啦啊。我也想学一下。

参照五楼给的资料，写的很全面，matlab也有pca分析的工具，可以自己看看，具体公式是princomp（）

赞一下

回复此楼

一切皆缘分

12楼2016-01-11 09:03:55

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

tjuxh

金虫 (小有名气)

应助: 0 (幼儿园)
金币: 2082.5
散金: 500
帖子: 111
在线: 98.3小时
虫号: 2433642
注册: 2013-04-24
性别: GG
专业: 燃烧学

引用回帖:

11楼: Originally posted by mygt_hit at 2016-01-09 14:29:52
最近又有了一些新收获，跟楼主交流一下。
KL、POD、PCA思想都是一样的，最根本的应该是KL，离散化之后就是PCA（主成分分析）。和对称方阵的特征值分解以及一般矩阵的SVD（奇异值分解）关系非常密切。
1. 首先以对 ...

你好，看了你的分享，收获很大。这里有一些不解：
1.你第一点（首先以对称方阵的特征值分解为例来说明）说的A矩阵和第二点（SVD角度）的A矩阵不是一个矩阵吧。这里我们把第二点的A矩阵定义为B，那第一点的矩阵A是不是应该是A=B'B。也就是第一点的A矩阵是第二点B矩阵的协方差矩阵。
2.在第一点中给的这个Y向量是不是B矩阵的列向量？

赞一下

回复此楼

一切皆缘分

13楼2016-01-11 09:45:51

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

mygt_hit

专家顾问 (职业作家)

专家经验: +362
数学EPI: 3
应助: 438 (硕士)
贵宾: 0.019
金币: 19571.1
散金: 5130
红花: 135
沙发: 3
帖子: 4938
在线: 990.5小时
虫号: 1489764
注册: 2011-11-13
性别: GG
专业: 结构工程
管辖: 土木建筑

引用回帖:

13楼: Originally posted by tjuxh at 2016-01-11 09:45:51
你好，看了你的分享，收获很大。这里有一些不解：
1.你第一点（首先以对称方阵的特征值分解为例来说明）说的A矩阵和第二点（SVD角度）的A矩阵不是一个矩阵吧。这里我们把第二点的A矩阵定义为B，那第一点的矩阵A是 ...

1. 可能是我没表达清楚，你的理解是对的。
2. Y应该是新的列向量，不属于B。按照你的记号，B矩阵的每一列为一个变量或特征或性质，一共有d个，相当于d维向量，B矩阵是这d维向量的N个实现。Y则是用一个正交阵左乘该d维向量得到的新向量，特殊的地方在于该正交阵是A（也就是B的协方差阵）的标准化特征向量矩阵。Y的每一个分量都是d维向量各分量的线性组合，或者看作d维向量在新坐标系、新基（特征向量矩阵所表示）下的表达。

赞一下

回复此楼

知其然，知其所以然。

14楼2016-01-11 10:49:47

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

tjuxh

金虫 (小有名气)

应助: 0 (幼儿园)
金币: 2082.5
散金: 500
帖子: 111
在线: 98.3小时
虫号: 2433642
注册: 2013-04-24
性别: GG
专业: 燃烧学

引用回帖:

14楼: Originally posted by mygt_hit at 2016-01-11 10:49:47
1. 可能是我没表达清楚，你的理解是对的。
2. Y应该是新的列向量，不属于B。按照你的记号，B矩阵的每一列为一个变量或特征或性质，一共有d个，相当于d维向量，B矩阵是这d维向量的N个实现。Y则是用一个正交阵左乘该 ...

哦，关于第二点我看错了。所以是不是这样理解的，第一点中的X其实就是我所标记的B矩阵的每一行，B矩阵有多少列，那么X就有多少个分量。而B矩阵的每一行就是X的一个sample。这里的Y其实是原数据X在新的坐标系下（S）的投影。不知道这样理解对不对。

赞一下

回复此楼

一切皆缘分

15楼2016-01-12 23:15:38

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

mygt_hit

专家顾问 (职业作家)

引用回帖:

15楼: Originally posted by tjuxh at 2016-01-12 23:15:38
哦，关于第二点我看错了。所以是不是这样理解的，第一点中的X其实就是我所标记的B矩阵的每一行，B矩阵有多少列，那么X就有多少个分量。而B矩阵的每一行就是X的一个sample。这里的Y其实是原数据X在新的坐标系下（S） ...

对。

发自小木虫Android客户端

16楼2016-01-12 23:19:37

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

天知道

新虫 (小有名气)

应助: 0 (幼儿园)
金币: 663.5
散金: 60
红花: 1
帖子: 165
在线: 51小时
虫号: 6729358
注册: 2017-06-10
性别: GG
专业: 结构工程

引用回帖:

10楼: Originally posted by 拜星漫月 at 2016-01-09 12:33:36
楼主可以把你的pod资料发给我看看吗？谢谢啦啊。我也想学一下。

您好，能把您学习pod的资料发给我一份吗，感觉资料比较难找

发自小木虫IOS客户端

赞一下

回复此楼

17楼2018-01-13 10:51:20

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

jiashuai887

新虫 (小有名气)

应助: 0 (幼儿园)
金币: 1142.5
散金: 20
红花: 2
帖子: 194
在线: 31小时
虫号: 6963481
注册: 2017-07-18
专业: 内流流体力学

您好楼主，感谢您的经验分享，收获很多，在看文献时对一些地方不是很了解，还请点拨一下！我们求出最优正交基和相关时间系数，第一模态，第二模态分别指的是什么？对前N节模态进行重构又指的是什么？感谢，感谢

发自小木虫Android客户端

赞一下

回复此楼

» 本帖已获得的红花（最新10朵）

jiashuai887

18楼2018-04-10 09:30:04

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

jiashuai887

新虫 (小有名气)

应助: 0 (幼儿园)
金币: 1142.5
散金: 20
红花: 2
帖子: 194
在线: 31小时
虫号: 6963481
注册: 2017-07-18
专业: 内流流体力学

送红花一朵

引用回帖:

18楼: Originally posted by jiashuai887 at 2018-04-10 09:30:04
您好楼主，感谢您的经验分享，收获很多，在看文献时对一些地方不是很了解，还请点拨一下！我们求出最优正交基和相关时间系数，第一模态，第二模态分别指的是什么？对前N节模态进行重构又指的是什么？感谢，感谢
...

具体代表的意思我明白，不知道如何用最优基矩阵和时间系数整理出一阶模态，二阶模态，和对前N阶模态进行重构？

发自小木虫Android客户端

赞一下

回复此楼

19楼2018-04-10 09:36:25

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

相关版块跳转我要订阅楼主 tjuxh 的主题更新

返回列表

最具人气热帖推荐 [查看全部]		作者	回/看	最后发表

[考研] 308求调剂 +20	倘若起风了呢 2026-04-05	20/1000	2026-04-10 01:14 by 学zh
[考研] 268分085602化学工程调剂 +22	月照花林。 2026-04-09	22/1100	2026-04-10 00:29 by 孙小小12457
[考研] 22408调剂求助 +3	毂12 2026-04-09	5/250	2026-04-09 23:21 by zhouyuwinner
[考研] 一志愿双非085400电子信息344 求调剂，对材料和化学方向也感兴趣 +7	无情的小羊 2026-04-09	8/400	2026-04-09 21:22 by wwwbobobo
[考研] 296求调剂 +11	汪！？！ 2026-04-08	11/550	2026-04-09 19:30 by 小小树2024
[考研] 332，085601求调剂 +12	ydfyh 2026-04-09	14/700	2026-04-09 17:28 by wp06
[考研] 一志愿郑州大学 22408 305分求调剂 +3	安小满zzz 2026-04-08	3/150	2026-04-09 16:16 by wp06
[考研] 070300化学学硕311分求调剂 +18	梁富贵险中求 2026-04-04	20/1000	2026-04-09 11:18 by 哒哒哒呱呱呱
[考研] 362求调剂 +8	我要考大 2026-04-06	12/600	2026-04-08 00:32 by JourneyLucky
[考研] 专硕085403，291分，有两篇专利，一国一奖 +3	哈吉咪哈吉咪 2026-04-07	3/150	2026-04-07 18:21 by 蓝云思雨
[考研] 22408 318分求调剂 +4	勤奋的小笼包 2026-04-06	6/300	2026-04-07 15:05 by 纸鹤555
[考研] 一志愿南航，数一英一学硕317求调剂！！ +6	Acaciad 2026-04-04	6/300	2026-04-06 12:13 by 考研学校招点人
[考研] 工科370求调剂 +3	溏心煎鸡蛋 2026-04-05	3/150	2026-04-06 10:55 by 这是一个无聊的�
[考研] 一志愿北交大材料工程总分358求调剂 +6	cs0106 2026-04-05	6/300	2026-04-05 16:34 by imissbao
[考研] 考研调剂 +3	mcbbc 2026-04-04	3/150	2026-04-05 10:03 by barlinike
[考研] 考研调剂 +11	小sun要好运 2026-04-04	11/550	2026-04-05 08:02 by qlm5820
[考研] 338求调剂 +7	晟功? 2026-04-03	7/350	2026-04-04 20:37 by 蓝云思雨
[考研] 325求调剂 +4	春风不借意 2026-04-04	4/200	2026-04-04 14:46 by 湘农储能材料
[考研] 一志愿沪985，326分求调剂 +3	刘墨墨 2026-04-03	3/150	2026-04-04 11:16 by 悲伤的芋头
[考研] 350一志愿北京航空航天大学08500材料科学与工程求调剂 +5	kjnasfss 2026-04-03	5/250	2026-04-03 22:29 by 无际的草原