典型相关

在统计学中，典型相关分析(Canonical Correlation Analysis)是对互协方差矩阵的一种理解。如果我们有两个随机变量向量 X = (X₁, ..., Xₙ) 和 Y = (Y₁, ..., Yₘ) 并且它们是相关的，那么典型相关分析会找出Xᵢ 和 Yⱼ 的相互相关最大的线性组合。T·R·Knapp指出“几乎所有常见的参数测试的意义可视为特殊情况的典型相关分析，这是研究两组变量之间关系的一般步骤。” 这个方法在1936年由哈罗德·霍特林首次引入。

定义

给定两个带有限矩的随机变量的列向量  和 ，我们可以定义互协方差矩阵  为  的矩阵，其中  是协方差 。实际上，我们可以基于 和  的采样数据来估计协方差矩阵。(如从一对数据矩阵)。
典型相关分析求出向量 和  使得随机变量 和  的相关性  最大。随机变量 和  是 第一对典型变量。然后寻求一个依然最大化相关但与第一对典型变量不相关的向量；这样就得到了第二对典型变量。 这个步骤会进行 次。