主成分分析原理及详解 下载本文

内容发布更新时间 : 2024/6/4 1:13:46星期一 下面是文章的全部内容请认真阅读。

第14章 主成分分析

1 概述

1.1 基本概念

1.1.1 定义

主成分分析是根据原始变量之间的相互关系,寻找一组由原变量组成、而彼此不相关的综合变量,从而浓缩原始数据信息、简化数据结构、压缩数据规模的一种统计方法。 1.1.2 举例

为什么叫主成分,下面通过一个例子来说明。

假定有N 个儿童的两个指标x1与x2,如身高和体重。x1与x2有显著的相关性。当N较大时,N观测量在平面上形成椭圆形的散点分布图,每一个坐标点即为个体x1与x2的取值,如果把通过该椭圆形的长轴取作新坐标轴的横轴Z1,在此轴的原点取一条垂直于Z1的直线定为新坐标轴的Z2,于是这N个点在新坐标轴上的坐标位置发生了改变;同时这N个点的性质也发生了改变,他们之间的关系不再是相关的。很明显,在新坐标上Z1与N个点分布的长轴一致,反映了N个观测量个体间离差的大部分信息,若Z1反映了原始数据信息的80%,则Z2只反映总信息的20%。这样新指标Z1称为原指标的第

358

一主成分,Z2称为原指标的第二主成分。所以如果要研究N个对象的变异,可以只考虑Z1这一个指标代替原来的两个指标(x1与x2),这种做法符合PCA提出的基本要求,即减少指标的个数,又不损失或少损失原来指标提供的信息。 1.1.3 函数公式

通过数学的方法可以求出Z1和Z2与x1与x2之间的关系。 Z1=l11x1+ l12x2 Z2=l21x1+ l22x2

即新指标Z1和Z2是原指标x1与x2的线性函数。在统计学上称为第一主成分和第二主成分。

若原变量有3个,且彼此相关,则N个对象在3维空间成椭圆球分布,见图14-1。

通过旋转和改变原点(坐标0点),就可以得到第一主成分、第二主成分和第三主成分。如果第二主成分和第三主成分与第一主成高度相关,或者说第二主成分和第三主成分相对于第一主成分来说变异很小,即N个对象在新坐标的三维空间分布成一长杆状时,则只需用一个综合指标便能反映原始数据中3个变量的基本特征。

359

1.2 PCA满足条件

1.2.1 一般条件

一般来说,N个对象观察p个指标,可以得到N*p个数据(矩阵)。

只要p个指标之间存在有相关关系,就可以通过数学的方法找到一组新的指标,它们需要满足的条件如下。

(1) Z i是原指标的线性函数,且它们相互垂直; (2) 各个Z i互不相关;

(3) 各个Z i加起来提供原指标所含的全部的信息,且Z1提供信息最多,Z2

次之,依次类推。

1.2.2 PCA的一般步骤

(1) 输入或打开数据文件; (2) 数据进行标准化处理; (3) 计算矩阵的相关系数;

(4) 求相关矩阵的特征根λ1、λ2、λ3,并将它们按大小排序。 (5) 求特征向量和各主成分; (6) 计算各主成分的贡献率; (7) 解释各主成分的含义

上述的步骤大部分由SPSS执行,用户需要选择观测对象、选择变量,收集数据,将数据输入SPSS程序,最后选择需要多少个主成分,解释各主成分的实际意义。

1.3 SPSS运行主要选择项

1.3.1 操作步骤

Analyzes/data reduction/factor/open factor analyzes/对话框,主要有5个对话框,下面简要介绍。

因子分析主对话框。主要用来选择变量、选择输出结果内容和多少、选择PCA有关

360