24小时热门版块排行榜    

查看: 2764  |  回复: 12

hengxue

铜虫 (小有名气)

[求助] 有没有懂偏最小二乘法的? 已有1人参与

最近在写matlab程序,
可是怎么也看不懂偏最小二乘方法(大学时候,学的数学没有学好吧)
哪位大侠能够给小弟解释一下?
感激不尽


我看了《偏最小二乘回归方法和应用》(王惠文),始终没有理出个头绪
看了《现代近红外光谱分析技术(第二版)》(陆婉珍),对B=(T'T)-1 T'Y甚是怀疑,不知道怎么推导出来的
回复此楼

» 本帖附件资源列表

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

QQ:474933652
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

戴钢盔的猪头

木虫 (知名作家)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hengxue: 金币+30, ★★★很有帮助 2013-12-18 09:47:17
乃们这些家伙,人家楼主问的是偏最小二乘回归(partial least-squares regression),不是最小二乘法!!!
这个楼主你最好先从奇异值分解、主成分分析开始学起,否则理解PLSR很难。
12楼2013-12-17 23:51:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

向黔川好

铁虫 (初入文坛)

【答案】应助回帖

最小二乘法是一个求经验公式的方法,所谓经验公式就是通过已有数据推导出一个符合这些数据的函数。具体方法如下:1.先确定已有数据满足的函数形式(下文以一次函数为例)Y=aX+b,然后我们要确定参数a和b。2.这些参数如何确定呢?最理想的情形是选取这样的a和b,能使函数Y=aX+b满足所有已有数据。但实际上不可能的,因为这些数据只是近似的符合函数Y=aX+b。因此,我们只能希望选取这样的a.b,使得函数Y=aX+b在自变量X0,X1,X2,X3`````````````Xn处的函数值与实际数据Y1,Y2,Y3``````````Yn相差都很小,也就是要使偏差Yi—f(Xi)都很小。3.为了达到这一要求,我们注意到使偏差的和∑【Yi—f(Xi)】很小来保证每个偏差都很小是不可以的,因为偏差有正有负,在求和时可能互相抵消。为了避免这种情形,可对偏差取绝对值再求和,只要∑|【Yi—f(Xi)】|很小就可以保证每个偏差都很小。但是上式中出现了绝对值,不便于计算和进一步讨论。由于实数的平方都是正数或零,因此我们可以考虑a,b使M=∑【Yi—f(Xi)】*【Yi—f(Xi)】最小来保证偏差的绝对值最小。4。到此为止就转换成一个求多元函数最值问题。这种根据偏差的平方和为最小的条件来确定待定参数的方法叫做最小二乘法。
过火海vjkjtfj
6楼2012-12-22 22:21:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hengxue

铜虫 (小有名气)

引用回帖:
6楼: Originally posted by 向黔川好 at 2012-12-22 22:21:36
最小二乘法是一个求经验公式的方法,所谓经验公式就是通过已有数据推导出一个符合这些数据的函数。具体方法如下:1.先确定已有数据满足的函数形式(下文以一次函数为例)Y=aX+b,然后我们要确定参数a和b。2.这些参数 ...

大哥,还有个“偏”字呢
QQ:474933652
8楼2012-12-23 12:07:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ygjianqiang

铜虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
hengxue: 金币+30, 有帮助, 没有其他人回复,各给你们30吧 2012-12-18 19:56:15
建议你看一下研究生的数值分析教材,上面介绍的还是比较详细的。
网上也有不少使用最小二乘法编程的程序。
2楼2012-12-07 14:05:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

向黔川好

铁虫 (初入文坛)

【答案】应助回帖

最小二乘法是一个求经验公式的方法,所谓经验公式就是通过已有数据推导出一个符合这些数据的函数。具体方法如下:1.先确定已有数据满足的函数形式(下文以一次函数为例)Y=aX+b,然后我们要确定参数a和b。2.这些参数如何确定呢?最理想的情形是选取这样的a和b,能使函数Y=aX+b满足所有已有数据。但实际上不可能的,因为这些数据只是近似的符合函数Y=aX+b。因此,我们只能希望选取这样的a.b,使得函数Y=aX+b在自变量X0,X1,X2,X3`````````````Xn处的函数值与实际数据Y1,Y2,Y3``````````Yn相差都很小,也就是要使偏差Yi—f(Xi)都很小。3.为了达到这一要求,我们注意到使偏差的和∑【Yi—f(Xi)】很小来保证每个偏差都很小是不可以的,因为偏差有正有负,在求和时可能互相抵消。为了避免这种情形,可对偏差取绝对值再求和,只要∑|【Yi—f(Xi)】|很小就可以保证每个偏差都很小。但是上式中出现了绝对值,不便于计算和进一步讨论。由于实数的平方都是正数或零,因此我们可以考虑a,b使M=∑【Yi—f(Xi)】*【Yi—f(Xi)】最小来保证偏差的绝对值最小。4。到此为止就转换成一个求多元函数最值问题。这种根据偏差的平方和为最小的条件来确定待定参数的方法叫做最小二乘法。
过火海vjkjtfj
7楼2012-12-22 22:23:48
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

hengxue

铜虫 (小有名气)

引用回帖:
2楼: Originally posted by ygjianqiang at 2012-12-07 14:05:06
建议你看一下研究生的数值分析教材,上面介绍的还是比较详细的。
网上也有不少使用最小二乘法编程的程序。

可以给发个教材链接吗?
我下载的清华的,没有看到有讲偏最小二乘法的呀?

看着那本教材,好像和本科生的《数值计算方法》(马东升、雷勇军)(机械工业出版社)一样呢
QQ:474933652
3楼2012-12-07 15:05:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

kelffen2

金虫 (小有名气)

这个是回归分析中的内容。比如,人大,何晓群的 应用回归分析第3版中有讲到!
4楼2012-12-11 22:29:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hengxue

铜虫 (小有名气)

引用回帖:
4楼: Originally posted by kelffen2 at 2012-12-11 22:29:18
这个是回归分析中的内容。比如,人大,何晓群的 应用回归分析第3版中有讲到!

你好,你不是应助贴,无法给分
QQ:474933652
5楼2012-12-18 19:57:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

tinyfolk

新虫 (初入文坛)

只知道 最小二乘法的路过
9楼2012-12-25 04:07:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hyt365dn

木虫 (正式写手)

【答案】应助回帖

百度“算法大全‘
有一个PDF上面讲PLS比较全,我只看个八成懂,反正能编出程序来,慢慢熟悉它吧,等以后整体水平能够上去了,相信会好理解一点
10楼2013-10-31 00:34:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hengxue 的主题更新
信息提示
请填处理意见