24小时热门版块排行榜    

查看: 1214  |  回复: 8
【奖励】 本帖被评价4次,作者dnp增加金币 4
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

dnp

荣誉版主 (知名作家)


[资源] 数据平滑方法简介(二)

间隔两个星期,半个月,终于第二篇出来了,拖了这么长时间实在很抱歉。然而对于色谱中的平滑方法,似乎大家的兴趣不是很大,也可能是鄙人学识有限,对于数据处理的解释没有任何吸引力。因此,此篇帖子发出之后,暂停对化学计量学的介绍,将进行地下工作,潜心修炼。同时也多谢大家的支持。辜负于斑竹们的期望,实在惭愧。
      在这篇帖子中进行的主要内容是傅立叶变换以及小波变换。对于此二者,我想搞分析化学的并不陌生,而国内此方法应用于化学计量学做的最好的应该是南开大学的邵学广教授。呵呵,此文中如果对傅立叶变换与小波变换的说明有什么不妥之处,请多多指正。
      任何随时间变化的性质都可以分解为其谐波组分。通过正弦波与余弦波的叠加来对随时间变化的信号进行分解,得到这个信号的频率信息。而正弦波与余弦波的叠加,或者说是线性组合,正是傅立叶变换中最基本的概念,傅立叶级数。对于在时域中的信号,傅立叶变换用傅立叶级数作用于信号,通过积分得到该信号的频率信息。而将傅立叶用于数据平滑就是采用的这种思想。因为对于数据而言,噪声信号同物质信号的频率是不一样的,前者很高,后者很低,所以用傅立叶变换得到此信号的频率信息之后,如果可以将高频信号即噪声除去的话,那剩下的信号不就是我们的物质谱信号么?
      幸运的是,同样借助于傅立叶变换,我们也可以将频率信息转变为信号,这就是所谓的傅立叶逆变换。故,通过傅立叶变换得到信号的频率信息,剔除高频,利用傅立叶逆变换对低频信息进行变换,得到的就是剔除噪声之后的信号。然而,通过利用傅立叶变换对数据进行处理,得到的结果却不尽人意,因为存在比较严重的失真情况,如图1所示,虽然噪声剔除很明显,但是整个数据的信号响应值却发生了很大的变化。这个问题我暂时还没有得到一个满意的解答,如果有谁清楚,敬请答复,一起讨论一下。
       小波变换是目前非常火热的一块,邵学广教授将其应用于化学计量学取得了不错的成果。小波变换之所以能够取代傅立叶变换,其原因就是傅立叶变换应用于整个信号区域,在整个信号区域中使用的都是同一傅立叶级数以对整个信号区域进行分解。然而这样就会使其缺少对信号的一个分辨能力,即对分辨率的辨别(这个我在处理过程中没有发现,因此照搬分析化学第十分册的用语),如果有信号中有一个错误产生,就会殃及整个数据的分解结果。在这种情况下,小波变换被应用于信号处理之中,并且应用日益广泛。
       小波变换其实就是借小波变换中的多分辨特点来对数据进行分解,通过由Mallat提出的多分辨信号算法来实现对数据的逐层分解,最后得到原信号的低频信息,然而此过程亦非常复杂,希望有兴趣的可以借专门的书阅读理解。分解后利用反变换,对得到的低频信息进行还原(这个也是小波变换与傅立叶变换的特点,能够对分解之后的信号进行还原),滤掉高频信号,从而达到了具有噪声信号的平滑除噪的目的。小波的最主要特点就是多分辨特点,其就是对数据有一个观察,低频信号的分辨率低,高频信号的分辨率高,这就克服了傅立叶变换中对数据认识不够所产生的缺陷;同时,小波变换中有许多基函数可供选择,从而使小波具有很强的灵活性。
        傅立叶变换和小波变换通过matlab的函数可非常简便地实现,傅立叶变换用f=fft(x),逆变换用y=ifft(f,n)实现,通过变换得到的频率图和逆变换得到的平滑后的数据图如图1中的Fig 2所示,当我们滤去高频率部分后所得的平滑数据如图1中的Fig 3,4所示,前者滤去了频谱图中的频率大于15Hz的信号,后者滤去了频谱图中的频率大于20Hz的信号,似乎后者要好一点。                     
        对于小波变换,Matlab中有专门的小波变换工具箱,如果逐层分辨可以用离散小波变换函数y=dwt(x),一层一层得到最后的理想的平滑信号,而我这里用的是函数离散静态小波变换:y=swt(x,n,'wavefun'),其中,x是数据,n是层数,即逐层分解数,'wavefun'是小波基函数,图2是通过5层分解得到的平滑后的图,可见效果非常好,同时红框中的奇异峰也给消掉了。
        图3是一个信号响应非常低的GC-MS总离子流图,红色方框中是两个物质峰,通过傅立叶变换和小波变换都能够检测出来,但是失真情况两者却有很大差别。

[ Last edited by 佳怡 on 2009-4-24 at 20:50 ]
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yensh

金虫 (文坛精英)


★★★★★ 五星级,优秀推荐

效果不错,学习了!

两个主题建立相互链接~~~
3楼2008-01-13 22:44:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 9 个回答

dnp

荣誉版主 (知名作家)


此主题的有关链接:

关于建立化学计量学专题的倡议
http://muchong.com/bbs/viewthread.php?tid=655701

化学计量学专题 —— 内容概要
http://muchong.com/bbs/viewthread.php?tid=661345

化学计量学 —— 举例
http://muchong.com/bbs/viewthread.php?tid=661380

化学计量学基础 (一)—— 线性代数初步
http://muchong.com/bbs/viewthread.php?tid=664871

化学计量学中的一些必备的统计学习基础(作者:lhdcsu)
http://muchong.com/bbs/viewthread.php?tid=669567

[共享]主成分分析[已搜索无重复]
http://muchong.com/bbs/viewthread.php?tid=667180

[共享]电子书:化学计量学(评价不好)
http://muchong.com/bbs/viewthread.php?tid=667440

数据平滑方法简介(一)
http://muchong.com/bbs/viewthread.php?tid=675844
2楼2008-01-13 22:43:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)


★★★★★ 五星级,优秀推荐

是不是来自俞、吴、梁等的实验室?
4楼2008-01-14 02:28:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dnp

荣誉版主 (知名作家)


4楼,您终于出现了,呵呵,目前搞化学计量学的就这么些个实验室了。
5楼2008-01-14 08:15:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
☆ 无星级 ★ 一星级 ★★★ 三星级 ★★★★★ 五星级
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 投票:  有多少人是今天查系统知道结果的? +17 爱看书的可乐 2026-08-26 19/950 2026-08-31 21:19 by xiangy672
[基金申请] 基金未中,这种答复是模板吗? +6 zhaosm1982 2026-08-27 7/350 2026-08-31 21:18 by qdxxmc
[基金申请] 哪位高人中了,把查询到的截图贴出来让我看看,让我长长见识 +6 yuleib84 2026-08-26 7/350 2026-08-31 19:46 by 鱼翔浅底1
[基金申请] 能否申诉? +7 echo8914667 2026-08-30 8/400 2026-08-31 17:00 by yihongxu
[基金申请] 中青基了要发朋友圈吗? +7 349506619 2026-08-28 7/350 2026-08-31 13:39 by 冼亮淀粉酶
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 国社科又开始会评了,不知道这次命运如何 +6 雨打竹帘 2026-08-30 10/500 2026-08-31 09:29 by huixian257
[考博] 找导师 +6 yuanjiabao 2026-08-29 7/350 2026-08-30 14:40 by 生科新手
[基金申请] 麻烦专家们看看评委们的意见(F口面上) +6 gdd2018 2026-08-28 11/550 2026-08-30 08:58 by 超级无敌华子
[基金申请] 国自然评审意见 +13 wangmingqi 2026-08-28 19/950 2026-08-29 10:22 by Poppy1104
[基金申请] 2026年叶企孙基金 +4 bud_bud 2026-08-27 7/350 2026-08-29 07:23 by foolishmani
[基金申请] 系统查不到 +11 董八千 2026-08-26 11/550 2026-08-28 18:06 by Leogzhya
[基金申请] 怎么查啊 +6 huang1991js 2026-08-26 6/300 2026-08-28 08:42 by winsaint
[基金申请] 面上合作单位盖章 +5 ssyjh 2026-08-27 5/250 2026-08-27 20:50 by gdfollow
[基金申请] 看板上这么多中的,有点像50人群里49个人都是骗子的那种感觉…… +5 a089 2026-08-26 6/300 2026-08-27 14:05 by jonewore
[基金申请] 怎么看青基中了没有啊 +5 叶九微 2026-08-26 5/250 2026-08-27 10:35 by l_zh2008
[基金申请] 为什么 国际(地区)合作与交流项目 没有放榜? 10+3 majunge000 2026-08-26 11/550 2026-08-27 08:42 by 北京莱茵编辑
[基金申请] 今天务委会开完了,明天出结果吗 +19 angus9576 2026-08-25 23/1150 2026-08-26 10:03 by zp519
[基金申请] 牛来!米来!面来! +8 beefly 2026-08-26 8/400 2026-08-26 08:37 by xuzhipiao
[基金申请] 在坚冰还盖着北海的时候,我看到了怒放的梅花。 (金币+10) +6 ziyangfang 2026-08-25 9/450 2026-08-25 20:26 by huagongfeihu
信息提示
请填处理意见