且构网

分享程序员开发的那些事...
且构网 - 分享程序员编程开发的那些事

《大数据分析原理与实践》一一3.3 相关分析

更新时间:2022-09-18 19:30:10

3.3 相关分析
相关关系是一种非确定性的关系,例如,以X和Y分别表示一个人的身高和体重,或分别表示每公顷施肥量与每公顷小麦产量,则X与Y显然有关系,而又没有确切到可由其中的一个去精确地决定另一个的程度,这就是相关关系。在一些问题中,不仅经常需要考察两个变量之间的相关程度,而且还经常需要考察多个变量与多个变量之间即两组变量之间的相关关系。典型相关分析就是研究两组变量之间相关程度的一种多元统计分析方法。
典型相关分析是研究两组变量之间相关关系的一种统计分析方法。为了研究两组变量X1,X2,…,Xp和Y1,Y2,…,Yq之间的相关关系,采用类似于主成分分析(将在9.2节中介绍)的方法,在两组变量中,分别选取若干有代表性的变量组成有代表性的综合指数,通过研究这两组变量之间的相关关系,来代替这两组变量之间的相关关系,这些综合指数称为典型变量。
其基本思想是,首先在每组变量中找到变量的线性组合,使得两组线性组合之间具有最大的相关系数。然后选取和最初挑选的这对线性组合不相关的线性组合,使其配对,并选取相关系数最大的一对,如此继续下去,直到两组变量之间的相关性被提取完毕为止。被选取的线性组合配对称为典型变量,它们的相关系数称为典型相关系数。典型相关系数度量了这两组变量之间联系的强度。《大数据分析原理与实践》一一3.3 相关分析

我们用一个例子说明相关分析。为了研究家庭特征与家庭消费之间的关系,调查了70个家庭的下面两组变量之间的关系,见表3-6~表3-10。
x1:每年去餐馆就餐的频率,x2:每年外出看电影的频率。
y1:户主的年龄,y2:家庭的年收入,y3:户主受教育程度。
U1=0.7689x1+0.2721x2 V1=0.0491y1+0.8975y2+0.1900y3
U2=-1.4787x1+1.6443x2 V2=1.0003y1-0.5837y2+0.2956y3
两个反映消费的指标与第一对典型变量中U1的相关系数分别为0.9866和0.8872,可以看出U1可以作为消费特性的指标,第一对典型变量中V1与y2之间的相关系数为0.9822,可见典型变量V1主要代表了家庭收入,U1和V1的相关系数为0.6879,这就说明家庭的消费与一个家庭的收入之间关系是很密切的;第二对典型变量中U2和x2的相关系数为0.4614,可以看出U2可以作为文化消费特性的指标,第二对典型变量中V2与y1和y3之间的相关系数分别为0.8464和0.3013,可见典型变量V2主要代表了家庭成员的年龄特征和教育程度,U2和V2的相关系数是0.1869,说明文化程度与年龄和受教育程度之间的相关性。《大数据分析原理与实践》一一3.3 相关分析

基于阿里云的相关分析
下面我们用一个例子来说明如何基于阿里云平台进行相关分析。
Center for World University Rankings组织对全世界大部分大学进行了排名,其排名根据教育质量、教师质量、毕业生就业情况、出版刊物数量等一系列指标进行评分。我们获取该数据集并对其中的特征进行相关分析,从而了解每个特征之间的关系。前10条数据以及部分特征如表3-10所示。
《大数据分析原理与实践》一一3.3 相关分析

我们想要计算出数值型特征之间的相关关系,首先进行数据导入。新建项目,自定义表名cwurdata,在“添加字段页面”添加相应的字段及字段类型(一旦表建成,字段名及字段类型不可变。此后的字段信息设置均参考此处),如图3-17所示。
建表成功后,在阿里云大数据开发平台“数据开发”层级下,单击“更多功能”按钮, 选择“导入本地数据”(注意:本地数据中字段值内不能含有分隔符,阿里云平台无法智能识别)如图3-18所示。
《大数据分析原理与实践》一一3.3 相关分析

图3-17 添加字段及字段类型
《大数据分析原理与实践》一一3.3 相关分析

图3-18 本地数据导入
若本地数据文件中的字段与表中字段不匹配,需手动进行字段匹配,如图3-19所示。
最后提示导入成功。
其分析组件布局如图3-20所示。其中,在相关系数矩阵组件中选择想要进行相关系数计算的列。设置完毕后,运行组件。运行成功后,在相关系数矩阵组件上右击,选择“查看数据”得到相关系数矩阵,如图3-21所示。
从结果数据可以看出,学校得分与教师质量最为相关,教育质量与教师质量最为相关,毕业生就业情况与教育质量最为相关,影响力与出版刊物数量最为相关。
《大数据分析原理与实践》一一3.3 相关分析

图3-19 字段匹配
《大数据分析原理与实践》一一3.3 相关分析
《大数据分析原理与实践》一一3.3 相关分析

图3-21 相关系数矩阵