主成分分析由皮爾遜首先引入，后來被霍特林發展了。主成分分析是一種通過降維技術把多個變量化為少數幾個主成分（綜合變量）的統計分析方法。這些主成分能夠反映原始變量的絕大部分信息，它們通常表示為原始變量的某種線性組合。為了實現最有效率的降維，應使這些主成分所含的信息（在線性關系的意義上）互不重疊，也就是要求它們之間互不相干。簡言之，主成分分析就是一種用一組較少的不相關（綜合）變量來代替大量相關變量的統計降維方法。