大数据分析与统计有关吗(大数据分析与传统统计分析的区别)

大数据分析与传统统计分析的区别:其一是数据分析时不再进行抽样,而是采用全样本(n=all);其二是分析方法,不再采用传统的假设检验,我来为大家科普一下关于大数据分析与统计有关吗?以下内容希望对你有帮助!

大数据分析与统计有关吗(大数据分析与传统统计分析的区别)

大数据分析与统计有关吗

大数据分析与传统统计分析的区别:其一是数据分析时不再进行抽样,而是采用全样本(n=all);其二是分析方法,不再采用传统的假设检验。

一、统计方法:

大数据的应用,解决了一般统计方法上主要误差来源:抽取样本以及假设检验中使用的前提假设。

一般统计方法中依据的中值定理和大数定律阐明我们可以通过增大样本容量,且多次抽取样本使得结果更加精确,但这一结论成立的条件在于所有样本的抽取满足i.i.d.(independent and identically distributed,即假设变量分布独立且相同),而这一假设在现实中很难满足。样本的选择很难做到完全随机。一般商业案例中采用的隔多少位抽取样本的方法在统计学意义上不满足随机要求,所得结果误差在所难免。

类似,多大的样本才算足够大也存在争议,而大数据直接采用全样本(population)来进行分析可以消除这一部分造成的误差。

二、分析方法:

传统分析方法是对需要回答的问题作出一定的假设,例如教育背景对保险购买金额有影响,然后根据这一假设在所抽取的样本上进行检验。而检验假设这一方法就充满着现实数据不满足的前提假设,比如最著名的正态分布。正态分布是一个很好的假设,因为它能简化计算,而且通过对数据的各种变形,基本上也可以在一定置信区间内勉勉强强算为正态分布。

再次,假设检验的结果只能不否认原假设,并不能得出完全支持的结论。

但大数据的情况就不一样。对大数据进行分析时,我们并不需要对问题提出假设,而是通过算法找出变量之间的相关度。以上例子中,如果教育背景和保险购买额这两个变量间相关度高(e.g. 接近1),那么保险公司就应该更主要针对高教育背景的人推销保险。

大数据的应用可以说是在减少人类处理数据时带入的主观假设的影响,而完全依靠数据间的相关性来阐述。而由于消除人为因素带入的误差,已经分析人员作出假设的限制(如果教育背景和保险购买额是相关的,而分析人员没想到,那这个结论就不会被分析出来,这在实际案例中是很容易发生的),大数据的核心也就在于它能更充分的发掘数据的全部真实含义。

原文链接:

zhihu/question/23273263/answer/90758820

荐:

【中国风动漫】除了《哪吒》,这些良心国产动画也应该被更多人知道!

声明

来源:知乎,RAD极客会(ID:RAD_Geek_Club)推荐阅读,不代表RAD极客会立场,转载请注明,如涉及作品版权问题,请联系我们删除或做相关处理!

人工智能产业链联盟

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页