| 查看: 1889 | 回复: 4 | |||
gy_xmc2015铜虫 (小有名气)
|
[交流]
范剑青综述：大数据分析面临的机遇与挑战 已有4人参与
|
|
大数据分析面临的机遇与挑战 http://nsr.oxfordjournals.org/content/1/2/293.full http://paper.sciencenet.cn/htmlpaper/201482216131473434332.shtm 大数据分析给现代社会带来了新的机遇与挑战。一方面，与传统研究侧重于揭示事物的共性不同，大数据研究将有助于人们发现事物的个体特性，并针对每一个体的特性给出个体化的解决方案。同时，大数据研究也将使人们能够从大量个体的差异变化中，揭示其中存在的难以察觉的规律。另一方面，大数据的海量样本规模和高维数特征也引入以下显著特性：数据搜集的偏差性、数据产生的异母体性、计算成本、噪音的累积叠加、假关联性、外生性，以及测量误差等等。为了应对这些挑战，需要引入新的计算和统计方法。 由美国普林斯顿大学范剑青教授作为通讯作者撰写、发表于《国家科学评论》的综述文章“大数据分析面临的机遇与挑战”（http://nsr.oxfordjournals.org/content/1/2/293.full）阐述了大数据独有的特点及其对统计分析和计算体系结构的影响。 首先，从计算的角度来看，大数据提供的数据量巨大，这会给实施统计计算和最后完成统计估算和检验带来问题。比如，对于一个列数上百万的矩阵，一次简单的矩阵求逆操作在计算上都是困难的。该文概括性地介绍了Hadoop分布式文件系统、MapReduce编程模型、云计算、凸优化算法，以及随机投影技术，以解决海量数据的计算问题。其次，从统计分析的角度来看，大数据经常包含被抽样个体的大量特征信息，即样本的个异性和高维性。个异性和高维性给统计分析与计算带来诸多问题，包括异母体、噪音累积、假相关、内生性。以假相关性为例，高维数会增加发现欺骗性关联的风险。比如，在人类基因表达数据分析中，学者可能会认为第八对染色体上的某个重要致癌基因（MYC）和Y染色体性别决定基因（SRY）有很强的相关性。但是，这可能仅仅是因为考虑的基因数目太高，以至于有些高相关性的出现只是偶然事件。 该文也为大数据分析提供了新的展望。以高维数据下的统计推断为例，文中给出了高致信区间内的最稀疏解的一般解，并指出许多传统的理论所基于的外生性假设是不正确的，尤其可能导致错误的统计推断，并得出错误的科学结论。以内生性问题为例，范剑青教授和他的合作者指出，线性回归模型中的外生性假设在高维数下很可能是不正确的：当考虑的回归变量数目很大时，其中的一些回归量（自变量）很有可能和模型的误差项相关。他们发现，当内生性问题存在时，流行的高维回归方法（诸如lasso和SCAD）的估计值不具有相合性，即：随着样本数变大，估计量和母群体参数的差异不会趋近于零。本文介绍了一种新的、基于广义矩与高维回归的方法。这个方法可以克服内生性问题，并给出具有一致性的估计量。 |
回复此楼» 本帖附件资源列表
-
欢迎监督和反馈：小木虫仅提供交流平台，不对该内容负责。
本内容由用户自主发布，如果其内容涉及到知识产权问题，其责任在于用户本人，如对版权有异议，请联系邮箱：xiaomuchong@tal.com - 附件 1 : Natl_Sci_Rev-2014-Fan-293-314.pdf
2016-01-19 11:41:05, 1.57 M
» 本帖已获得的红花（最新10朵）
白白5286» 猜你喜欢
323求调剂
已经有6人回复
-
一志愿北京化工大学 070300 学硕 336分 求调剂
已经有4人回复
-
352求调剂
已经有3人回复
-
一志愿东华大学化学070300，求调剂
已经有8人回复
-
277材料科学与工程080500求调剂
已经有7人回复
-
317求调剂
已经有18人回复
-
293求调剂
已经有5人回复
-
280分求调剂 一志愿085802
已经有7人回复
-
0854电子信息求调剂
已经有3人回复
-
263求调剂
已经有4人回复
math2000
铁杆木虫 (职业作家)
- 应助: 239 (大学生)
- 金币: 5846.2
- 红花: 18
- 帖子: 4810
- 在线: 458.7小时
- 虫号: 235375
- 注册: 2006-04-01
- 专业: 概率论与随机分析
2楼2016-01-21 21:16:28
qwerty200696
木虫 (著名写手)
- 应助: 14 (小学生)
- 金币: 2242.6
- 散金: 60
- 红花: 14
- 沙发: 50
- 帖子: 1459
- 在线: 134.1小时
- 虫号: 4160456
- 注册: 2015-10-20
- 专业: 信号理论与信号处理
3楼2016-01-22 16:05:40
4楼2016-01-22 23:03:56
5楼2018-08-20 10:37:46
