数据给你一双识破实质的眼睛,这里是《数据剖析思维课》。
前面我们讲了怎么从一个数据累计量当中,创造它的分布规律。但实在很多时候我们碰着的数据并不是累计的分布数据,而是连续的一些数据,并且我们须要基于这些数据做一些总结和推断,乃至是预测。
比如在事情中,我们要根据本钱和收入来预测下半年的投入和产出;在生活里,须要看下自己投资的基金、股票金额和回报的整体关系,又或者看自己体重增长和摄入热量的关系,这些实在都是要从数据当中去找趋势规律。
本日我就来教你一个最大略的创造数据趋势规律的工具,以及这个工具的利用方法——散点图和干系性剖析。
散点图的历史
散点图被称之为万图之王。在 1913 年,美国一个叫做亨利·诺利斯·罗素(Henry Norris Russell)的天文学家用散点图把宇宙的趋势给揭示了出来。怎么揭示的呢?罗素同学利用散点图把 2200 颗恒星按光谱和亮度两个参数进行剖析,将恒星光度(或绝对星等)为纵轴、以恒星的光谱类型(或表面温度)为横轴,就像下图这个样子。
通过这个散点图,罗素画出了一条趋势线,这条趋势线揭示了恒星从原恒星到红巨星到红白矮星、黑矮星的一个演化的过程,这便是著名的赫罗图。换句话说,这个散点图揭示了恒星这生平的秘密。
看,散点图可以帮我们阐明宇宙的秘密。但这还没有结束,后来哈勃(对,便是以他的名字命名哈勃天文望远镜那位),也利用散点图找到了大爆炸理论和解释宇宙膨胀思想的一个关键证据,如果你对这个故事感兴趣,可以去本节课的附录里进一步学习。
散点图的制作原则
散点图能够帮助科学家在这么繁芜的宇宙里找到一些客不雅观的规律,更不要说我们日常去预测发卖量和本钱投入之间的关系、剖析自己投资和回报的关系了。
那么我们若何做出一个精确的散点图呢?实在我们用 Excel 就可以非常方便地去做出散点图。我在后面的实操课程里会进一步手把手地带你去操作,我们本日先重点关注散点图的制作原则。
无论你用什么工具,做散点图有三个最基本的规则。
第一,散点图反响的是两个变量之间的关系。因此你要把两个变量分别放在 X 轴和 Y 轴上面,不要有第三个变量放进来进行稠浊。当然,散点图的变种——气泡图有更多维度,但是从趋势角度来看,还是要把最主要的两个变量分别放在 X 轴和 Y 轴。
第二,为了能够明确展示数据之间的趋势,我们的 Y 轴必须要从零开始。这点就和很多的柱状图不同了。很多柱状图的坐标轴为了表示数据的清晰,Y 轴可以从一半(比如说 500)开始。其余,散点图坐标轴颗粒度要得当,终极聚成一团或者散列太大,都会让我们无法快速找到趋势。
第三,为了表示趋势的清晰,我们一样平常都会添加一条趋势线来表明背后的规律。解释一个趋势的趋势线只能有一条,不能有多条特殊是涌现趋势相交的情形。可别鄙视这个趋势线,这便是画龙点睛的一笔,背后实在是你对业务、数据、算法深刻的理解和认知。画得好,你便是哈勃和罗素,画不好你就成了我接下来会讲到的得克萨斯的伪神枪手。
比如对网站广告投入本钱和发卖量增加的趋势来说,散点图是要让你看到发卖金额随着网站投放本钱投入增加逐步增长的情形。它该当有标准的横轴和纵轴,分别代表发卖金额和投放本钱投入,有每一个月份对应本钱和金额的离散点以及给出的趋势线。可能会有少部分点是离群点,离趋势线有一定的间隔,但属于正常情形,如下图所示。
这样我们可以看到何时我们投放网站最有效,而不是所谓的“增长黑洞”:一贯广告投入末了回报率很低。
通过散点图探求规律
有这三个原则的辅导,我们画出来的散点图一样平常不会错。但是光有图肯定弗成,我们如何在图中去找到数据之间的关系呢?下面我给你先容几个散点图里面最常见的数据趋势。
首先是正干系,这个你很随意马虎理解,它便是两个系数的变革基本上画出来往后都在一个直线分布上,此增彼涨,两个变量都一起增加,比如我们高下班的间隔和韶光。同样,负干系是一个此增彼减斜着向下的趋势,这种办法也比较随意马虎判断。
指数增长和上节课的指数分布有些类似,只不过指数分布打算的是一个加起来的累计分布值,而指数增长指的是两个详细数值的关系。这块如果你还是有些分不清楚的话,可以再复习一下上一节课。你看到这个曲线,一样平常会很高兴,由于它代表你捉住了一些别人没有的机会。指数级别的变革,一样平常背后都酝酿着极大的商机和机会。
正 U 型趋势和反 U 型趋势,这两个也是比较常见的趋势线。它的样子实在就像字母的 U,或者是倒过来的 U(从零开始从零结束)。一个比较著名的反 U 型趋势便是经济学里面的“拉弗曲线”( Laffer curve),这条曲线最范例地反响了政府税收收入和税率之间的关系。
当税率开始增加时,税收一开始也会随之增加,但是当增加到一定程度,大家就交不起税了,重税导致企业开始倒闭和破产,这时候整体税收反而开始减小,到终极税率为 100% 时,实在企业会全部破产,税收反而是 0 了。
U 型曲线在很多场合也适用,例如员工事情时长和公司收入的关系(适度 996,不要 007),客户满意度与公司利润的关系(没有口碑的公司破产了,不加掌握让客户全部高度满意的公司也都破产了)。
而数据剖析的艺术就在于通过数据剖析和管理履历找到反 U 型最高点,如果你能很好把握你所在公司的反 U 型曲线高点,你大概率是公司的管理层了。
还有一种情形便是所有的点全都分布在一条平行于 X 轴的横线两侧,就像下面这张图一样。实在这正好也表明了一个规律,便是这两个数据基本没有太大关系。也便是说不管 X 轴怎么变革,Y 轴的指标它便是我行我素,在这种情形下,如果 X 轴表示的是本钱投入,你就不要再自欺欺人说将来还可以有收入增长了。
末了一种情形便是散点图呈一个非常繁芜的图形。这个时候,我们不能轻易下结论,它须要我们根据所在的领域、行业的知识进行更细致的划分。
比如下面这张图便是挺著名的一幅散点图,这里面的数据分布就像一个心脏一样,心脏的两个旁边上角的点聚拢都比较密。但是你说它是什么趋势呢?貌似也看不出来。
这实在是当时美国大选进行民意调查时,选民主党和共产党的选民对 50 个不同调研问题的回答反馈总结出来的散点图。只管我们看不出来这里面的趋势规律,但是我们还是能明显看到共和党和民主党选民的不同。
将来给你在算法部分讲聚类算法的时候,会再去给你深入讲这种情形怎么去划分。它不是用大略的线性、指数、二次项式等等趋势来表明的,它背后规律须要更繁芜的打算机算法才能够揭示出来。
散点图的易错点
看了这些,你会不会觉得散点图彷佛真挺万能的。但是你要把稳,过度依赖散点图会造成你的判断缺点。
最常见的三个缺点便是趋势误判、得克萨斯神枪手谬误和幸存者偏差,接下来便是我们的“排雷韶光”。
趋势误判
趋势误判是指在你看到了一个数据之后,由于数据整体还不足完全,你缺点判断了这个数据的未来增长趋势。
这里我给你举个例子,曾经一位约翰斯·霍普金斯大学学者,给出了一个美国人体重增长趋势预测的散点图。这个散点图表示,在最近几十年内,美国人的超重征象越来越普遍。20 世纪 70 年代初,体重数超重的美国人不敷半数;到 90 年代初,超重人数靠近 60%;到 2008 年,险些有 3/4 的美国人都超重了。
这个学者进行线性回归,其剖析结果大致为:到 2048 年,这条线会达到 100%。因此,这个学者在论文中断言,如果这种趋势连续下去,到 2048 年,所有美国人都会超重,也便是 2048 年在美国每个人都会是胖子。这个论文受到了大肆吹捧,各种媒体都争相宣布,连中国媒体都进行了转载,你如果感兴趣的可以点击这里,进一步理解一下。
这明显是个缺点的结论。由于终极肥胖人群的增长趋势不是线性的,你现在看到的增长点彷佛是线性,但实在它会是一个像抛物线一样的数据趋势(如下图)。
你看看,对付环球这么著名大学的学者来说,如果缺点利用了散点图,都会得出错误的结论。以是当你在拿到一个散点图,要去判断它是哪种数据趋势的时候,一定要看终极的数字偏差和实际情形,才能做出准确判断。
趋势线这个画龙点睛的一笔,不是那么随意马虎给出的。通过散点图终极判断是什么模型是非常不随意马虎,很多时候须要非常多的数据和繁芜的模型,这也终极导致了人工智能算法的涌现,当然这是后话了。现在你只要记住,没有精确的数据验证,千万不要轻易下结论,要不你也会和这个学者一样,闹一个大笑话。
得克萨斯神枪手谬误
在说这个谬误之前,先给你分享一个故事。
当年在美国西部得克萨斯州创造一个神枪手,他常常在各地的民居的墙上练习射击,险些他所有的弹孔都集中在十环旁边这个中央的区域。他已经成为了神话,人们一贯在探求他。
但是当人们真的找到了这个神枪手后,创造他自己打枪实在一点都不准,也不敢跟其他人去决斗。那他墙上的这些靶子和子弹点是怎么形成的呢?后来人们才创造,原来他是先朝墙上开很多枪,然后在弹孔最密集的地方画上了十环的靶子,再把散布在其它地方的弹孔用原来的泥土补起来。这样看上去,他每个地方打的靶子都很准确,由于先有弹孔,再有靶子。
在我们日常生活当中也很随意马虎涌现这种情形,当你看到一个数据散点报告的时候,你一定要看清背后所蕴含的实际数据是不是涵盖了所有的数据,还是只给你看了最有这种数据规律的数据。
前者就像先有靶子来瞄准再去射击,后者就好比先射击完末了再画上靶子,这样结果会完备不同。依据数据决策很主要,但是也不要被数据给骗了。
幸存者偏差
幸存者偏差这点我们在前面提到过,这里我再基于散点图给你强调一下。
我们小的时候,邻居家的小孩永久比我们要更厉害,实在孩子都是差不多的,只不过末了我们看到的是邻居家小孩当中的那些良好者;自古红颜多薄命,也是由于我们只把目光放在了少数的红颜身上;天妒英才也是由于我们没有过多关注普通人究竟寿命几何。那对应到我们画散点图上也是一样的,你在剖析散点图的时候看到了规律,还要理解终极这个规律形成的缘故原由和背后的场景,不要大略通过一个图表就得出你的结论。
在事情和生活当中,每天都会有各种各样的事发生,如果我们只是关注事情本身,而没有看到背后的规律,那么我们就会像没有趋势线的散点图一样,都是零散的点,抓不住背后隐蔽的那根线,觉得每天都是忙劳碌碌,但实在自己无所作为。
画这根线便是要找到你生命里的规律,在数据科学里我们叫做算法,生活当中我们叫做哲学。小小预报一下,不才一章算法里,我会和你连续深入磋商数据和客不雅观天下背后的规律。
小结
好了,本日的这节课到这里也就靠近尾声了,末了我们来总结一下。本日给你讲的是万图之王——散点图。小到我们自己投资和回报,大到全体宇宙里面星体之间的分布,我们都可以通过散点图来找到背后隐蔽的规律。
要做一个精确的散点图,我们须要把稳三个要点:
确定两个变量坐标轴;坐标轴的起始值和颗粒度要得当;要找到得当的趋势线和趋势模型进行描述。紧接着我给你分享了几个在利用散点图时,随意马虎犯的缺点:
利用散点图做深入数据剖析的时候不要轻易下结论(身高和体重在成长期是成正比的,你成年了自然也就不会再是正比了);不能由现有结果给出趋势判断(干工作无论成功了还是失落败了,都不要用上天的安排来麻痹自己),还须要理解规律形成的终极缘故原由和背后的场景。不要用片面的数据来证明你的规律(不要片面看问题,别人家的孩子真的不比我们好多少);你不妨试试用最近 48 个月投资股票和基金的累计回报来画出一个散点图。你来看看自己的投资的散点图到底是正干系、负干系、无干系还是指数增长呢?结合前面学习的大数定律,这个散点图也就会见告我们处于投资履历的哪个阶段。
我们要根据实际自己的业务领域知识以及后面讲到的算法模型找到靠近事实的最佳解,这样才能够帮助你去预测这个天下,而不要缺点利用模型末了导致我们涌现缺点的决策。
数据给你一双识破实质的眼睛,希望你可以通过散点图加上准确的数据模型和业务知识,真的让数据帮助到你的日常生活和事情决策。数据知识学无止境,让我们一起持续学习,一起共勉。
思考
你过去履历里,还有哪些是利用散点图创造的规律?哪些是缺点利用散点图的教训?你生活中最常见的散点图是什么?欢迎分享给大家,我们一起学习。
附录 - 哈勃定律
哈勃(对,便是以他的名字命名哈勃天文望远镜那位) 也是用散点图展示了星系的退行速率和他们离地球间隔之间的关系。下图里横轴是这些星系与地球的间隔,纵轴是这些星系的退行速率。
这个散点图里图上每个点都代表了一个星系,通过这个图哈勃创造,与地球间隔越远的这些星系退行速率越大,也造诣了哈勃在天文学里找到的最主要的天文规律之一——哈勃定律。哈勃定律认为,星系可见的退行速率与它们和地球的间隔成正比。总结出来的公式便是:退行速率 =H0 × 间隔,个中 H0 便是哈勃常数。这个定律是支持大爆炸理论和解释宇宙膨胀思想的一个关键证据,也让哈勃成为近代最著名的天文学家之一。
关注致用教诲,我们共同发展