解锁数据分析的正确姿势:描述统计(2)

浏览: 1751

本文是《如何七周成为数据分析师》的第十三篇教程,如果想要了解写作初衷,可以先行阅读七周指南。温馨提示:如果您已经熟悉统计学,大可不必再看这篇文章,或只挑选部分。


描述统计学,往往研究数据的集中和离散。其中,各数据出现次数的情况,也是重要的一个研究方向。


频数分布表示互不重叠的组别中每一组项目的个数。在分类型数据中,频数分布就是各个分类类目的总数。


Clipboard Image.png


上图就是数据分析师的岗位,按城市统计出的频数表,即各个城市的岗位数量。从应用角度看,数据透视表是专门用来计算频数的。我们也能把频数转换成百分比占比,这更直观。


如果将其转换成图表,叫做条形图。饼图也可以描述频数,但是不常用。


Clipboard Image.png

数值型数据也适用于频数分布。以薪资数据为例,因为薪资千差万别,若粗暴地转换成条形图,就会丧失可读性。


数值型数据必须经过分组转换,将数据划分到一个个区间范围内,可以间接认为把数值其转换成了分类数据。从业务角度理解,18和18.1、17.9的差异并不大,为什么不视为一组呢?


组数划分一般选择5~20组,数据量越大,划分的组数就能越多。划分的不同区间范围叫做组宽,组宽是人为定义的,组宽最好等距。用1~80与81~100计算两组的频数,没什么意义。


组宽和组数的选择相辅相成,组数多,组宽相对小,反之亦然。组宽=(最大值-最小值)/组数。我们将案例数据的组宽定义为5,即0~4,5~9,10~14……


用Excel函数 = int(( salary +1)/5)即可正确获得分组后的结果,0代表0~4,1代表5~9。另外一种方式是用frequency( )函数,以数组形式输出。数据分析工具也能绘制频数表。


Clipboard Image.png

因为每一个数据只能属于一个组,所以要规定组的上下限。上文划归的0~4组宽,实际是零到除五之间的数值,包括4.99这类。因为数值型数据可以连续地划分,分类数据没有这顾虑。

分组的过程也叫数据分桶bin,它是常见的一种数据清洗过程。在机器学习中,能提高模型泛化能力。


将汇总的结果生成条形图,调整系列样式,系列重叠和间隙宽度均为0。它的正式名字叫直方图。


Clipboard Image.png


条形图和直方图最大的区别在于矩形的间隔。直方图的矩形没有间隔,之间完全重合(图中的白线是为了显示清楚才加上的)。因为数值型数据的特点是连续性,不能有空档造成断开。

图中的直方图并不标准,横坐标的数字应该为[0,5,10,15,20…]且位于白线下方。我这里略过了。

频数既能用相对数表示,也能用百分比表示。区别在于纵轴。后者用于方便对比。

直方图的一个重要应用是提供了分布信息。不同直方图代表的业务意义不同。需要注意的是,分组将直接影响直方图的外形。


Clipboard Image.png


标准型的形态往往是中间高,两边低,呈中间的集中趋势。它代表一种稳定正常的形态。

Clipboard Image.png

双峰型,一般是混合了多种数据源或者类别数据造成的。


Clipboard Image.png


锯齿型,一般是观察数据的手段和方法不稳定,才会造成直方图的波动。


Clipboard Image.png


孤岛型的直方图,一般是业务上的非正常错误,比如工程零部件出了问题、产品出现了某Bug,造成凸出一块。


Clipboard Image.png

陡峭型,往往是数据源缺失,或者被剔除一部分后,造成这种断崖式的折断。

Clipboard Image.png

偏峰型,分为左偏峰和右偏峰。我们也把它称呼为偏态,上图是一个右偏态。

偏态是分布形态中的一种重要数值度量。很多数据并不呈现完全对称的分布,比如中国工资。

在统计学上,众数和平均数之差可作为偏态的划分指标之一。如果平均数大于众数,称为正偏态/左偏态;相反,则称为负偏态/右偏态。

为了更好的描述偏态的倾斜程度,我们引入偏态系数sk,sk=0时不偏不斜。另外还有一个峰度系数ku,描述分布的扁平瘦窄,ku以3为标准基准。两者组合,当 sk=0,ku=3时,分布呈正态;sk>0时,分布呈正偏态,sk<0时,分布呈负偏态;ku>3时曲线比较陡峭,ku<3时曲线比较平坦。

Clipboard Image.png

偏度和峰度的具体计算,用Excel的skew和kurt函数。数据分析库的描述统计也行。

直方图的左右偏度,对应着不同的业务场景。左偏的典型业务场景就是考试成绩,大部分学生集中在60~90之间。而和钱有关的直方图,基本是右偏,比如销量、流水、消费等。


理论讲完了,继续用数据分析师的薪资实战,偷懒用python代码完成了,Excel作图真的很累的……


先观察整体的直方图,我们将其切分成二十组(和上文Excel图表的差异在于组宽组限的变化)。

Clipboard Image.png


这个数据同时呈现了双峰型和右偏型的分布。双峰型可能是因为我们混合了一二三线城市的数据,而右偏是因为薪资和钱有关,毕竟不是所有的数据分析师都能拿高薪。


单纯过滤出北京的数据。



分布还是呈现乱七八糟的样子,为什么呢?因为我们选取的薪资是网络爬虫获取的薪资范围求平均,并不是真实的水平(很多HR复制黏贴瞎设的),这是不可避免的误差,那应该怎么办呢?可以适当的调整组数。

Clipboard Image.png

组数为十后,分布正常了不少(实际工作中,可以把极大值排除再做直方图)。那么接下来进入分析的环节,之前我们用了箱线图,现在学习直方图吧。它的奥秘也在于对比,通过对比不同的频数,获得洞察。选择北京和上海看一下,纵轴改成百分比。

Clipboard Image.png

调成ggplot的色系更直观一些,红色代表北京,绿色代表上海。图中明显可以看出两地在10~30之间的薪资差异。上海集中在10~20间,北京则是20~30区域更多。组数调大,可以分析地更细。

Clipboard Image.png

城市换成上海和深圳,则是另外一种解读了。

到这里,描述统计的内容就结束了。描述统计是分析数据的一种技巧,包含数据的集中度量(平均数、中位数、众数)、数据的离散(方差、标准差)、数据的分布(箱线图、条形图、直方图)三块。


希望大家养成使用描述统计的习惯,下一章,开始概率的世界:为什么你认为的,都是错的。



————

案例数据,可以在秦路公众号后台会话中回复「练习数据」获得下载。

Clipboard Image.png

推荐 0
本文由 秦路 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

0 个评论

要回复文章请先登录注册