24小时热门版块排行榜    

查看: 1179  |  回复: 8
【奖励】 本帖被评价4次,作者dnp增加金币 4
当前主题已经存档。

dnp

荣誉版主 (知名作家)


[资源] 数据平滑方法简介(二)

间隔两个星期,半个月,终于第二篇出来了,拖了这么长时间实在很抱歉。然而对于色谱中的平滑方法,似乎大家的兴趣不是很大,也可能是鄙人学识有限,对于数据处理的解释没有任何吸引力。因此,此篇帖子发出之后,暂停对化学计量学的介绍,将进行地下工作,潜心修炼。同时也多谢大家的支持。辜负于斑竹们的期望,实在惭愧。
      在这篇帖子中进行的主要内容是傅立叶变换以及小波变换。对于此二者,我想搞分析化学的并不陌生,而国内此方法应用于化学计量学做的最好的应该是南开大学的邵学广教授。呵呵,此文中如果对傅立叶变换与小波变换的说明有什么不妥之处,请多多指正。
      任何随时间变化的性质都可以分解为其谐波组分。通过正弦波与余弦波的叠加来对随时间变化的信号进行分解,得到这个信号的频率信息。而正弦波与余弦波的叠加,或者说是线性组合,正是傅立叶变换中最基本的概念,傅立叶级数。对于在时域中的信号,傅立叶变换用傅立叶级数作用于信号,通过积分得到该信号的频率信息。而将傅立叶用于数据平滑就是采用的这种思想。因为对于数据而言,噪声信号同物质信号的频率是不一样的,前者很高,后者很低,所以用傅立叶变换得到此信号的频率信息之后,如果可以将高频信号即噪声除去的话,那剩下的信号不就是我们的物质谱信号么?
      幸运的是,同样借助于傅立叶变换,我们也可以将频率信息转变为信号,这就是所谓的傅立叶逆变换。故,通过傅立叶变换得到信号的频率信息,剔除高频,利用傅立叶逆变换对低频信息进行变换,得到的就是剔除噪声之后的信号。然而,通过利用傅立叶变换对数据进行处理,得到的结果却不尽人意,因为存在比较严重的失真情况,如图1所示,虽然噪声剔除很明显,但是整个数据的信号响应值却发生了很大的变化。这个问题我暂时还没有得到一个满意的解答,如果有谁清楚,敬请答复,一起讨论一下。
       小波变换是目前非常火热的一块,邵学广教授将其应用于化学计量学取得了不错的成果。小波变换之所以能够取代傅立叶变换,其原因就是傅立叶变换应用于整个信号区域,在整个信号区域中使用的都是同一傅立叶级数以对整个信号区域进行分解。然而这样就会使其缺少对信号的一个分辨能力,即对分辨率的辨别(这个我在处理过程中没有发现,因此照搬分析化学第十分册的用语),如果有信号中有一个错误产生,就会殃及整个数据的分解结果。在这种情况下,小波变换被应用于信号处理之中,并且应用日益广泛。
       小波变换其实就是借小波变换中的多分辨特点来对数据进行分解,通过由Mallat提出的多分辨信号算法来实现对数据的逐层分解,最后得到原信号的低频信息,然而此过程亦非常复杂,希望有兴趣的可以借专门的书阅读理解。分解后利用反变换,对得到的低频信息进行还原(这个也是小波变换与傅立叶变换的特点,能够对分解之后的信号进行还原),滤掉高频信号,从而达到了具有噪声信号的平滑除噪的目的。小波的最主要特点就是多分辨特点,其就是对数据有一个观察,低频信号的分辨率低,高频信号的分辨率高,这就克服了傅立叶变换中对数据认识不够所产生的缺陷;同时,小波变换中有许多基函数可供选择,从而使小波具有很强的灵活性。
        傅立叶变换和小波变换通过matlab的函数可非常简便地实现,傅立叶变换用f=fft(x),逆变换用y=ifft(f,n)实现,通过变换得到的频率图和逆变换得到的平滑后的数据图如图1中的Fig 2所示,当我们滤去高频率部分后所得的平滑数据如图1中的Fig 3,4所示,前者滤去了频谱图中的频率大于15Hz的信号,后者滤去了频谱图中的频率大于20Hz的信号,似乎后者要好一点。                     
        对于小波变换,Matlab中有专门的小波变换工具箱,如果逐层分辨可以用离散小波变换函数y=dwt(x),一层一层得到最后的理想的平滑信号,而我这里用的是函数离散静态小波变换:y=swt(x,n,'wavefun'),其中,x是数据,n是层数,即逐层分解数,'wavefun'是小波基函数,图2是通过5层分解得到的平滑后的图,可见效果非常好,同时红框中的奇异峰也给消掉了。
        图3是一个信号响应非常低的GC-MS总离子流图,红色方框中是两个物质峰,通过傅立叶变换和小波变换都能够检测出来,但是失真情况两者却有很大差别。

[ Last edited by 佳怡 on 2009-4-24 at 20:50 ]
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dnp

荣誉版主 (知名作家)


此主题的有关链接:

关于建立化学计量学专题的倡议
http://muchong.com/bbs/viewthread.php?tid=655701

化学计量学专题 —— 内容概要
http://muchong.com/bbs/viewthread.php?tid=661345

化学计量学 —— 举例
http://muchong.com/bbs/viewthread.php?tid=661380

化学计量学基础 (一)—— 线性代数初步
http://muchong.com/bbs/viewthread.php?tid=664871

化学计量学中的一些必备的统计学习基础(作者:lhdcsu)
http://muchong.com/bbs/viewthread.php?tid=669567

[共享]主成分分析[已搜索无重复]
http://muchong.com/bbs/viewthread.php?tid=667180

[共享]电子书:化学计量学(评价不好)
http://muchong.com/bbs/viewthread.php?tid=667440

数据平滑方法简介(一)
http://muchong.com/bbs/viewthread.php?tid=675844
2楼2008-01-13 22:43:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yensh

金虫 (文坛精英)


★★★★★ 五星级,优秀推荐

效果不错,学习了!

两个主题建立相互链接~~~
3楼2008-01-13 22:44:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)


★★★★★ 五星级,优秀推荐

是不是来自俞、吴、梁等的实验室?
4楼2008-01-14 02:28:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dnp

荣誉版主 (知名作家)


4楼,您终于出现了,呵呵,目前搞化学计量学的就这么些个实验室了。
5楼2008-01-14 08:15:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

haiyan8410

银虫 (小有名气)


★★★★★ 五星级,优秀推荐

支持楼主
6楼2008-01-16 20:11:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

haiyan8410

银虫 (小有名气)


荧光光谱的数据可以平滑不
7楼2008-03-27 22:03:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dnp

荣誉版主 (知名作家)


引用回帖:
Originally posted by haiyan8410 at 2008-3-27 22:03:
荧光光谱的数据可以平滑不

只要是上述的信号,都可以进行平滑,但是平滑是以失真为代价的,如果你的信号不是很好的话,那得采用很多的方法来进行处理。
8楼2008-03-27 22:19:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 dnp 的主题更新
☆ 无星级 ★ 一星级 ★★★ 三星级 ★★★★★ 五星级
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 帮忙看看fileCode +4 wwncly 2026-08-10 7/350 2026-08-10 21:24 by Tide man
[基金申请] filecode +8 documentary 2026-08-10 8/400 2026-08-10 19:20 by loufangrui
[基金申请] 确定了,国自然21号放榜 +6 布布和一二 2026-08-10 7/350 2026-08-10 19:15 by 2000zf36392
[基金申请] 综述论文作为代表作会不会影响评审专家的印象分? +10 yufeiwaner 2026-08-09 11/550 2026-08-10 18:47 by yufeiwaner
[基金申请] 关于代码变化问题,想知道的进来 +17 且听虎啸 2026-08-07 24/1200 2026-08-10 18:35 by zhangduo2008
[基金申请] 我的国基提前知道中了,可是同事的操作让我实在接受不了,怎么会有这样的人 +8 家与远方 2026-08-10 11/550 2026-08-10 17:09 by 六两废铜
[基金申请] 关于Filecode分析方法 +3 majunge000 2026-08-10 3/150 2026-08-10 15:46 by lch2012
[基金申请] 奇怪,两个人的filecode固定段从头到尾一模一样 +4 布布和一二 2026-08-10 4/200 2026-08-10 14:50 by 医学老男孩
[基金申请] 8月时间戳变的,举个手。玩一下,释放压力 +11 archvillain 2026-08-04 13/650 2026-08-10 14:41 by seekfind
[基金申请] 这样的filecode谁见过 +11 布布和一二 2026-08-08 22/1100 2026-08-10 11:10 by wmfsnow
[基金申请] fileCode有新解读? +10 Tide man 2026-08-08 18/900 2026-08-09 12:55 by 仁砚薪传
[基金申请] 关于豆爷回答的JTJC与%2F数量 +5 yang182083 2026-08-06 7/350 2026-08-08 18:29 by zhanghaozhu
[基金申请] 国基金的申报应该改成非等额制,评价高的钱多评价低的钱少,但是增加资助率 +7 a089 2026-08-07 7/350 2026-08-08 18:05 by gltch
[基金申请] 基金中了 +14 laoda193707 2026-08-06 14/700 2026-08-08 00:23 by 实验小白ha
[基金申请] 听说今天filecode变了 +24 布布和一二 2026-08-06 47/2350 2026-08-07 16:02 by zhiyanjiang
[基金申请] 大家散了吧,后缀研究没有意义,别浪费时间了,过好目前的每一天,不要焦虑 +5 Tide man 2026-08-06 7/350 2026-08-07 13:11 by 医学老男孩
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
[基金申请] filecode +8 布布和一二 2026-08-06 11/550 2026-08-06 20:41 by tangpu318
[基金申请] 求各位大神看下 100+6 hpkpkpkp 2026-08-05 33/1650 2026-08-06 14:49 by zhiyanjiang
[基金申请] 好消息?这个有何含义??? +8 Tide man 2026-08-05 10/500 2026-08-05 16:14 by xmuxiaoyu
信息提示
请填处理意见