24小时热门版块排行榜    

Znn3bq.jpeg
查看: 2439  |  回复: 11
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

wswswws

银虫 (正式写手)

[交流] 数据挖掘的10个常见问题

Q1. Data Mining 和统计分析有什么不同?
硬要去区分Data Mining和Statistics的差异其实是没有太大意义的。一般将之定义为Data Mining技术的CART、CHAID或模糊计算等等理论方法,也都是由统计学者根据统计理论所发展衍生,换另一个角度看,Data Mining有相当大的比重是由高等统计学中的多变量分析所支撑。但是为什么Data Mining的出现会引发各领域的广泛注意呢?主要原因在相较于传统统计分析而言,Data Mining有下列几项特性:
1.处理大量实际资料更强势,且无须太专业的统计背景去使用Data Mining的工具;
2.资料分析趋势为从大型数据库抓取所需资料并使用专属计算机分析软件,Data Mining的工具更符合企业需求;
3. 纯就理论的基础点来看,Data Mining和统计分析有应用上的差别,毕竟Data Mining目的是方便企业末端用者使用而非给统计学家检测用的。

[ Last edited by 幻影无痕 on 2006-10-27 at 07:42 ]
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

幻影无痕

荣誉版主 (知名作家)

小木虫论坛总监

优秀版主

Q4. 完整的Data Mining 包含哪些步骤?


以下提供一个Data Mining的进行步骤以为参考:
1. 厘清目标与理解资料;
2. 获取相关技术与知识;
3. 整合与查核资料;
4. 去除错误或不一致及不完整的资料;
5. 由数据选取样本先行试验;
6. 研发模式(model)与型样(pattern);
7. 实际Data Mining的分析工作;
8. 测试与检核;
9. 找出假设并提出解释;
10. 持续应用于企业流程中。
由上述步骤可看出,Data Mining牵涉了大量的准备工作与规划过程,事实上许多专家皆认为整套Data Mining的进行有80﹪的时间精力是花费在资料前置作业阶段,其中包含资料的净化与格式转换甚或表格的连结。由此可知Data Mining只是信息挖掘过程中的一个步骤而已,在进行此步骤前还有许多的工作要先完成。
没能力危害祖国,没理由背离人民,没资本好逸恶劳,没本事损人利己,没机会见利忘义,没胆量违法乱纪,没钞票骄奢淫逸,只好愚昧无知了!
5楼2006-09-11 10:33:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 12 个回答

yuefour

金虫 (正式写手)

1

谢谢提供,不错,简单易懂
2楼2005-07-07 18:47:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

幻影无痕

荣誉版主 (知名作家)

小木虫论坛总监

优秀版主


sinapdb(金币+1):thanks for your sharing
Q2. Data Warehousing 和 Data Mining 的关系为何?


若将Data Warehousing(资料仓储)比喻作矿坑,Data Mining就是深入矿坑采矿的工作。毕竟Data Mining不是一种无中生有的魔术,也不是点石成金的炼金术,若没有够丰富完整的资料,是很难期待Data Mining能挖掘出什么有意义的信息的。
要将庞大的资料转换成为有用的信息,必须先有效率地收集信息。随着科技的进步,功能完善的数据库系统就成了最好的收集资料的工具。「资料仓储」,简单地说,就是搜集来自其它系统的有用资料,存放在一整合的储存区内。所以其实就是一个经过处理整合,且容量特别大的关系型数据库,用以储存决策支持系统(Design Support System)所需的资料,供决策支持或资料分析使用。从信息技术的角度来看,资料仓储的目标是在组织中,在正确的时间,将正确的资料交给正确的人。
许多人对于Data Warehousing和Data Mining时常混淆,不知如何分辨。其实,资料仓储是数据库技术的一个新主题,在资料科技日渐普及下,利用计算机系统帮助我们操作、计算和思考,让作业方式改变,决策方式也跟着改变。
资料仓储本身是一个非常大的数据库,它储存着由组织作业数据库中整合而来的资料,特别是指从线上交易系统OLTP(On-Line Transactional Processing)所得来的资料。将这些整合过的资料置放于资料仓储中,而公司的决策者则利用这些资料作决策;但是,这个转换及整合资料的过程,是建立一个资料仓储最大的挑战。因为将作业中的资料转换成有用的的策略性信息是整个资料仓储的重点。综上所述,资料仓储应该具有这些资料:整合性资料(integrated data)、详细和汇总性的资料(detailed and summarized data)、历史资料、解释资料的资料。从资料仓储挖掘出对决策有用的信息与知识,是建立资料仓储与使用Data Mining的最大目的,两者的本质与过程是两码子事。换句话说,资料仓储应先行建立完成,Data mining才能有效率的进行,因为资料仓储本身所含资料是干净(不会有错误的资料参杂其中)、完备,且经过整合的。因此两者关系或许可解读为「Data Mining是从巨大资料仓储中找出有用信息的一种过程与技术」。
没能力危害祖国,没理由背离人民,没资本好逸恶劳,没本事损人利己,没机会见利忘义,没胆量违法乱纪,没钞票骄奢淫逸,只好愚昧无知了!
3楼2006-09-11 10:31:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

幻影无痕

荣誉版主 (知名作家)

小木虫论坛总监

优秀版主

Q3. OLAP 能不能代替 Data Mining?


所谓OLAP(Online Analytical Process)意指由数据库所连结出来的线上查询分析程序。有些人会说:「我已经有OLAP的工具了,所以我不需要Data Mining。」事实上两者间是截然不同的,主要差异在于Data Mining用在产生假设,OLAP则用于查证假设。简单来说,OLAP是由使用者所主导,使用者先有一些假设,然后利用OLAP来查证假设是否成立;而Data Mining则是用来帮助使用者产生假设。所以在使用OLAP或其它Query的工具时,使用者是自己在做探索(Exploration),但Data Mining是用工具在帮助做探索。
举个例子来看,一市场分析师在为超市规划货品架柜摆设时,可能会先假设婴儿尿布和婴儿奶粉会是常被一起购买的产品,接着便可利用OLAP的工具去验证此假设是否为真,又成立的证据有多明显;但Data Mining则不然,执行Data Mining的人将庞大的结帐资料整理后,并不需要假设或期待可能的结果,透过Mining技术可找出存在于资料中的潜在规则,于是我们可能得到例如尿布和啤酒常被同时购买的意料外之发现,这是OLAP所做不到的。
Data Mining常能挖掘出超越归纳范围的关系,但OLAP仅能利用人工查询及可视化的报表来确认某些关系,是以Data Mining此种自动找出甚或不会被怀疑过的资料型样与关系的特性,事实上已超越了我们经验、教育、想象力的限制,OLAP可以和Data Mining互补,但这项特性是Data Mining无法被OLAP取代的。
没能力危害祖国,没理由背离人民,没资本好逸恶劳,没本事损人利己,没机会见利忘义,没胆量违法乱纪,没钞票骄奢淫逸,只好愚昧无知了!
4楼2006-09-11 10:32:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料工程281还有调剂机会吗 +30 xaw. 2026-04-11 31/1550 2026-04-13 08:42 by Sammy2
[考研] 327求调剂 +14 Xxjc1107. 2026-04-06 14/700 2026-04-13 08:31 by Delta2012
[考研] 一志愿安大生物学07初试322、本科二本、调剂求助 +10 李多米lee. 2026-04-12 11/550 2026-04-12 22:58 by yuyin1233
[考研] 食品与营养(0955)271求调剂 +7 升格阿达 2026-04-12 7/350 2026-04-12 22:56 by yuyin1233
[考研] 085600材料与化工,求调剂 +12 won_qii 2026-04-07 12/600 2026-04-12 17:02 by lhj2009
[考研] 296求调剂 +14 汪!?! 2026-04-10 16/800 2026-04-12 10:48 by zhouyuwinner
[基金申请] 山东省基金2026 +5 jerry681 2026-04-08 6/300 2026-04-12 08:33 by kudofaye
[考研] 22408调剂315分 +3 zhuangyan123 2026-04-09 3/150 2026-04-12 00:25 by 蓝云思雨
[考研] 求调剂 +11 月@163.com 2026-04-07 13/650 2026-04-11 22:55 by BruceLiu320
[考研] 农学0904 312求调剂 +3 Say Never 2026-04-11 3/150 2026-04-11 17:22 by daydayup2005
[考研] 0854调剂 +5 音像店听花鼓戏 2026-04-10 5/250 2026-04-11 10:49 by qingpingzhu
[考研] 还有化工二轮调剂的学校吗 5+14 化工人999 2026-04-09 48/2400 2026-04-11 10:27 by 89436494
[考研] 一志愿985机械学硕380求调剂 +5 关关雎鸠10 2026-04-11 5/250 2026-04-11 10:10 by 知念。A
[考研] 一志愿华南理工大学331分材料求调剂 +9 天下ww 2026-04-09 9/450 2026-04-10 22:58 by Ftglcn90
[考研] 297求调剂 +27 GENJIOW 2026-04-07 30/1500 2026-04-09 23:20 by wolf97
[考研] 085801 总分275 本科新能源 求调剂 +8 bradoner 2026-04-08 9/450 2026-04-09 13:43 by only周
[考研] 材料考研求调剂总分280 +30 mkjlz1 2026-04-06 35/1750 2026-04-08 21:25 by cyh—315
[考研] 求调剂,现在还能填的 +3 上岸小莹加油 2026-04-08 3/150 2026-04-08 14:30 by zhq0425
[考研] 生物学363调剂求助 +7 fanzhang6666 2026-04-06 9/450 2026-04-07 17:37 by lijunpoly
[考研] 一志愿西电085401求调剂 +4 sunw1306 2026-04-07 4/200 2026-04-07 16:40 by 啵啵啵0119
信息提示
请填处理意见