Факторный анализ — это статистический метод, используемый для описания изменчивости наблюдаемых коррелирующих переменных с точки зрения потенциально меньшего числа ненаблюдаемых переменных, называемых факторами . Например, возможно, что вариации шести наблюдаемых переменных в основном отражают вариации двух ненаблюдаемых (основных) переменных. Факторный анализ ищет такие совместные вариации в ответ на ненаблюдаемые скрытые переменные . Наблюдаемые переменные моделируются как линейные комбинации потенциальных факторов плюс « ошибочные » члены, поэтому факторный анализ можно рассматривать как частный случай моделей ошибок в переменных . [1]
Проще говоря, факторная нагрузка переменной определяет степень, в которой переменная связана с данным фактором. [2]
Общее обоснование методов факторного анализа заключается в том, что информация, полученная о взаимозависимости между наблюдаемыми переменными, может быть использована позже для сокращения набора переменных в наборе данных. Факторный анализ обычно используется в психометрии , психологии личности , биологии, маркетинге , управлении продуктами , исследованиях операций , финансах и машинном обучении . Это может помочь в работе с наборами данных, в которых имеется большое количество наблюдаемых переменных, которые, как считается, отражают меньшее количество основных/скрытых переменных. Это один из наиболее часто используемых методов взаимозависимости, который используется, когда соответствующий набор переменных демонстрирует систематическую взаимозависимость, и цель состоит в том, чтобы выяснить скрытые факторы, которые создают общность.
Модель пытается объяснить набор наблюдений у каждого из людей набором общих факторов ( ), где на единицу приходится меньше факторов, чем наблюдений на единицу ( ). У каждого человека есть свои общие факторы, и они связаны с наблюдениями через матрицу факторной нагрузки ( ) для одного наблюдения, согласно
где
В матричной записи
где матрица наблюдения , матрица нагрузки , матрица факторов , матрица терминов ошибок и матрица средних значений, при этом й элемент представляет собой просто .
Также мы наложим следующие предположения на :
Предполагать . Затем
и поэтому из условий 1 и 2, наложенных выше, и , давая
или, установив ,
Обратите внимание, что для любой ортогональной матрицы , если мы установим и , критерии факторности и факторной нагрузки по-прежнему сохраняются. Следовательно, набор факторов и факторных нагрузок уникален только с точностью до ортогонального преобразования .
Предположим, у психолога есть гипотеза о том, что существует два вида интеллекта : «вербальный интеллект» и «математический интеллект», ни один из которых непосредственно не наблюдается. [примечание 1] Подтверждение гипотезы ищется в экзаменационных баллах 1000 студентов по каждой из 10 различных академических областей. Если каждый учащийся выбирается случайным образом из большой выборки , то 10 баллов каждого учащегося являются случайными величинами. Гипотеза психолога может заключаться в том, что для каждой из 10 академических областей средний балл по группе всех студентов, которые разделяют некоторую общую пару значений вербального и математического «интеллекта», в несколько раз превышает их уровень вербального интеллекта плюс еще раз в константу. их уровень математического интеллекта, т. е. он представляет собой линейную комбинацию этих двух «факторов». Числа для конкретного субъекта, на которые умножаются два вида интеллекта для получения ожидаемого балла, согласно гипотезе, одинаковы для всех пар уровней интеллекта и называются «факторной нагрузкой» для этого субъекта. [ необходимы разъяснения ] Например, гипотеза может заключаться в том, что прогнозируемые средние способности студента в области астрономии
Числа 10 и 6 — это факторные нагрузки, связанные с астрономией. Другие учебные предметы могут иметь другие факторные нагрузки.
Предполагается, что два студента имеют одинаковую степень вербального и математического интеллекта, но могут иметь разные измеренные способности к астрономии, поскольку индивидуальные способности отличаются от средних способностей (предсказанных выше), а также из-за самой ошибки измерения. Такие различия составляют то, что в совокупности называется «ошибкой» — статистический термин, который означает величину, на которую измеренный человек отличается от того, что является средним или прогнозируемым на основе его или ее уровня интеллекта (см. ошибки и остатки в статистике) . ).
Наблюдаемые данные, которые используются в факторном анализе, будут представлять собой 10 баллов каждого из 1000 студентов, всего 10 000 чисел. Факторные нагрузки и уровни двух видов интеллекта каждого учащегося должны быть выведены из данных.
Далее матрицы будут обозначаться индексированными переменными. «Предметные» индексы обозначаются буквами , и , со значениями от до , равными в приведенном выше примере. Индексы «факторов» будут обозначаться буквами , и , со значениями, идущими от до , которые равны в приведенном выше примере. Индексы «экземпляра» или «выборки» обозначаются буквами , и , со значениями от до . В приведенном выше примере, если в экзаменах участвовала выборка студентов , оценка th студента за th экзамен будет равна . Цель факторного анализа — охарактеризовать корреляции между переменными , которые являются конкретным примером или набором наблюдений. Чтобы переменные были равноправными, их нормализуют в стандартные баллы :
где выборочное среднее:
а выборочная дисперсия определяется выражением:
Модель факторного анализа для этой конкретной выборки выглядит следующим образом:
или, более кратко:
где
В матричной записи имеем
Заметьте, что удвоение шкалы, по которой измеряется «вербальный интеллект» (первый компонент в каждом столбце), и одновременное уменьшение вдвое факторных нагрузок для вербального интеллекта не изменят модель. Таким образом, никакая общность не теряется, если предположить, что стандартное отклонение факторов вербального интеллекта равно 0,000 . То же самое и с математическим интеллектом. Более того, по тем же причинам не теряется общность, если предположить, что эти два фактора не коррелируют друг с другом. Другими словами:
где – дельта Кронекера ( когда и когда ). Предполагается, что ошибки не зависят от факторов:
Обратите внимание: поскольку любое вращение решения также является решением, интерпретация факторов затрудняется. См. недостатки ниже. В этом конкретном примере, если мы заранее не знаем, что два типа интеллекта не коррелируют, мы не можем интерпретировать эти два фактора как два разных типа интеллекта. Даже если они некоррелированы, мы не можем без внешнего аргумента сказать, какой фактор соответствует вербальному интеллекту, а какой — математическому.
Значения нагрузок , средних и дисперсий «ошибок» необходимо оценивать по наблюдаемым данным и (предположение об уровнях факторов фиксировано для заданного ). «Основная теорема» может быть выведена из приведенных выше условий:
Член слева — это -член корреляционной матрицы ( матрицы, полученной как произведение матрицы стандартизированных наблюдений с ее транспонированием) наблюдаемых данных, а ее диагональные элементы будут s. Второй член справа будет диагональной матрицей с членами меньше единицы. Первый член справа представляет собой «приведенную корреляционную матрицу» и будет равен корреляционной матрице, за исключением ее диагональных значений, которые будут меньше единицы. Эти диагональные элементы сокращенной корреляционной матрицы называются «общинами» (которые представляют собой долю дисперсии наблюдаемой переменной, объясняемую факторами):
Данные выборки не будут точно подчиняться фундаментальному уравнению, приведенному выше, из-за ошибок выборки, неадекватности модели и т. д. Целью любого анализа вышеуказанной модели является поиск факторов и нагрузок , которые обеспечивают «наилучшее соответствие» данным. . В факторном анализе наилучшее соответствие определяется как минимум среднеквадратической ошибки недиагональных остатков корреляционной матрицы: [3]
Это эквивалентно минимизации недиагональных компонентов ковариации ошибок, которые в уравнениях модели имеют ожидаемые значения, равные нулю. Это следует противопоставить анализу главных компонент, который стремится минимизировать среднеквадратическую ошибку всех остатков. [3] До появления высокоскоростных компьютеров значительные усилия были направлены на поиск приближенных решений проблемы, особенно при оценке сообществ другими способами, что затем значительно упрощает проблему, давая известную сокращенную корреляционную матрицу. Затем это использовалось для оценки факторов и нагрузок. С появлением высокоскоростных компьютеров задача минимизации может решаться итеративно с достаточной скоростью, а сообщества вычисляются в процессе, а не заранее. Алгоритм MinRes особенно подходит для решения этой проблемы, но вряд ли является единственным итеративным средством поиска решения.
Если факторам решения разрешено коррелировать (например, при «облиминном» вращении), то соответствующая математическая модель использует асимметричные координаты , а не ортогональные координаты.
Параметрам и переменным факторного анализа можно дать геометрическую интерпретацию. Данные ( ), факторы ( ) и ошибки ( ) можно рассматривать как векторы в -мерном евклидовом пространстве (пространстве выборки), представленном как , и соответственно. Поскольку данные стандартизированы, векторы данных имеют единичную длину ( ). Фактор-векторы определяют -мерное линейное подпространство (т.е. гиперплоскость) в этом пространстве, на которое векторы данных проецируются ортогонально. Это следует из модельного уравнения
и независимость факторов и ошибок: . В приведенном выше примере гиперплоскость — это просто двумерная плоскость, определяемая двумя фактор-векторами. Проекция векторов данных на гиперплоскость определяется выражением
а ошибки представляют собой векторы от этой проецируемой точки к точке данных и перпендикулярны гиперплоскости. Цель факторного анализа — найти гиперплоскость, которая в некотором смысле «наилучшим образом соответствует» данным, поэтому не имеет значения, как выбираются векторы факторов, определяющие эту гиперплоскость, если они независимы и лежат в гиперплоскость. Мы можем указать их как ортогональные, так и нормальные ( ) без потери общности. После того, как подходящий набор факторов найден, их также можно произвольно вращать внутри гиперплоскости, так что любое вращение векторов факторов будет определять одну и ту же гиперплоскость и также будет решением. В результате в приведенном выше примере, в котором подходящая гиперплоскость является двумерной, если мы заранее не знаем, что два типа интеллекта не коррелируют, то мы не можем интерпретировать эти два фактора как два разных типа интеллекта. Даже если они некоррелированы, мы не можем без внешнего аргумента сказать, какой фактор соответствует вербальному интеллекту, а какой — математическому, или являются ли эти факторы линейными комбинациями того и другого.
Векторы данных имеют единичную длину. Записи корреляционной матрицы для данных имеют вид . Матрицу корреляции можно геометрически интерпретировать как косинус угла между двумя векторами данных и . Диагональные элементы, очевидно, будут s, а недиагональные элементы будут иметь абсолютные значения, меньшие или равные единице. «Приведенная корреляционная матрица» определяется как
Цель факторного анализа состоит в том, чтобы выбрать подгоночную гиперплоскость так, чтобы приведенная корреляционная матрица как можно точнее воспроизводила корреляционную матрицу, за исключением диагональных элементов корреляционной матрицы, которые, как известно, имеют единичное значение. Другими словами, цель состоит в том, чтобы как можно точнее воспроизвести взаимные корреляции в данных. В частности, для аппроксимирующей гиперплоскости среднеквадратическая ошибка недиагональных компонентов
должен быть минимизирован, и это достигается путем минимизации его по отношению к набору ортонормированных фактор-векторов. Видно, что
Член справа — это просто ковариация ошибок. В модели ковариация ошибок заявлена как диагональная матрица, и поэтому описанная выше задача минимизации фактически дает «наилучшее соответствие» модели: она дает выборочную оценку ковариации ошибок, которая имеет недиагональные компоненты. минимизирована в среднеквадратическом смысле. Можно видеть, что, поскольку это ортогональные проекции векторов данных, их длина будет меньше или равна длине проецируемого вектора данных, которая равна единице. Квадраты этих длин представляют собой не что иное, как диагональные элементы приведенной корреляционной матрицы. Эти диагональные элементы сокращенной корреляционной матрицы известны как «сообщества»:
Большие значения общностей будут указывать на то, что подходящая гиперплоскость довольно точно воспроизводит корреляционную матрицу. Средние значения факторов также должны быть равны нулю, из чего следует, что средние значения ошибок также будут равны нулю.
Исследовательский факторный анализ (EFA) используется для выявления сложных взаимосвязей между элементами и группировки элементов, которые являются частью единых концепций. [4] Исследователь не делает априорных предположений о взаимосвязях между факторами. [4]
Подтверждающий факторный анализ (CFA) — это более сложный подход, который проверяет гипотезу о том, что элементы связаны с конкретными факторами. [4] CFA использует моделирование структурными уравнениями для проверки модели измерения, при этом нагрузка на факторы позволяет оценить взаимосвязи между наблюдаемыми переменными и ненаблюдаемыми переменными. [4] Подходы к моделированию структурными уравнениями могут учитывать ошибки измерения и являются менее ограничительными, чем оценка методом наименьших квадратов . [4] Гипотетические модели проверяются на реальных данных, и анализ должен продемонстрировать нагрузку наблюдаемых переменных на скрытые переменные (факторы), а также корреляцию между скрытыми переменными. [4]
Анализ главных компонентов (PCA) — это широко используемый метод извлечения факторов, который является первым этапом EFA. [4] Веса факторов рассчитываются для извлечения максимально возможной дисперсии, при этом последовательный факторинг продолжается до тех пор, пока не останется никакой значимой дисперсии. [4] Затем факторную модель необходимо повернуть для анализа. [4]
Канонический факторный анализ, также называемый каноническим факторингом Рао, представляет собой другой метод расчета той же модели, что и PCA, который использует метод главной оси. Канонический факторный анализ ищет факторы, которые имеют самую высокую каноническую корреляцию с наблюдаемыми переменными. На канонический факторный анализ не влияет произвольное масштабирование данных.
Анализ общих факторов, также называемый анализом главных факторов (PFA) или факторингом по главной оси (PAF), ищет наименьшее количество факторов, которые могут объяснить общую дисперсию (корреляцию) набора переменных.
Факторинг изображений основан на матрице корреляции прогнозируемых переменных, а не фактических переменных, где каждая переменная прогнозируется на основе других с использованием множественной регрессии .
Альфа-факторинг основан на максимизации надежности факторов при условии, что переменные выбираются случайным образом из множества переменных. Все остальные методы предполагают выборку случаев и фиксирование переменных.
Модель факторной регрессии представляет собой комбинаторную модель факторной модели и модели регрессии; или, альтернативно, ее можно рассматривать как гибридную факторную модель [5] , факторы которой частично известны.
Баллы каждого случая (строки) по каждому фактору (столбцу). Чтобы вычислить оценку фактора для данного случая для данного фактора, нужно взять стандартизированную оценку случая по каждой переменной, умножить на соответствующие нагрузки переменной для данного фактора и суммировать эти произведения. Вычисление оценок факторов позволяет искать выбросы факторов. Кроме того, оценки факторов могут использоваться в качестве переменных при последующем моделировании.
Исследователи хотят избежать таких субъективных или произвольных критериев сохранения факторов, как «это имело для меня смысл». Для решения этой проблемы был разработан ряд объективных методов, позволяющих пользователям определить подходящий диапазон решений для исследования. [7] Однако эти разные методы часто расходятся во мнениях относительно количества факторов, которые следует сохранить. Например, параллельный анализ может предложить 5 факторов, тогда как MAP Велисера предлагает 6, поэтому исследователь может запросить как 5-, так и 6-факторные решения и обсудить каждое с точки зрения их связи с внешними данными и теорией.
Параллельный анализ Хорна (PA): [8] Метод моделирования на основе Монте-Карло, который сравнивает наблюдаемые собственные значения с значениями, полученными из некоррелированных нормальных переменных. Фактор или компонент сохраняется, если соответствующее собственное значение превышает 95-й процентиль распределения собственных значений, полученных на основе случайных данных. PA является одним из наиболее часто рекомендуемых правил для определения количества сохраняемых компонентов, [7] [9], но многие программы не включают эту опцию (заметным исключением является R ). [10] Однако Форман предоставил как теоретические, так и эмпирические доказательства того, что его применение может быть неподходящим во многих случаях, поскольку на его эффективность существенно влияют размер выборки , дискриминация элементов и тип коэффициента корреляции . [11]
Тест MAP Велисера (1976) [12] , описанный Кортни (2013) [13], «включает в себя полный анализ главных компонентов с последующим исследованием серии матриц частных корреляций» (стр. 397 (хотя обратите внимание, что эта цитата не имеет значения). не встречается в Velicer (1976), а цитируемый номер страницы находится за пределами страниц цитаты). Квадрат корреляции для шага «0» (см. рисунок 4) представляет собой средний квадрат недиагональной корреляции для нечастной корреляционной матрицы на шаге. 1, первый главный компонент и связанные с ним элементы разделяются на части. После этого для шага 1 вычисляется средний квадрат недиагональной корреляции для последующей корреляционной матрицы. На шаге 2 первые два главных компонента разделяются и получается результат. Снова вычисляется среднеквадратическая недиагональная корреляция. Вычисления выполняются для k минус один шаг (k представляет общее количество переменных в матрице). После этого все среднеквадратические корреляции для каждого шага выстраиваются в ряд и определяется шаг. Число в анализе, который привел к наименьшему среднеквадратическому частичному корреляцию, определяет количество компонентов или факторов, которые необходимо сохранить. [12] С помощью этого метода компоненты сохраняются до тех пор, пока дисперсия в корреляционной матрице представляет собой систематическую дисперсию, а не дисперсию остатков или ошибок. Хотя методологически метод MAP похож на анализ главных компонентов, было показано, что метод MAP довольно хорошо работает при определении количества факторов, которые необходимо сохранить в множественных исследованиях моделирования. [7] [14] [15] [16] Эта процедура доступна через пользовательский интерфейс SPSS, [13] , а также пакет psych для языка программирования R. [17] [18]
Критерий Кайзера: Правило Кайзера состоит в том, чтобы отбросить все компоненты с собственными значениями ниже 1,0 – это собственное значение, равное информации, учитываемой средним отдельным элементом. [19] Критерий Кайзера используется по умолчанию в SPSS и большинстве статистических программ , но его не рекомендуется использовать в качестве единственного критерия отсечения для оценки количества факторов, поскольку он имеет тенденцию к чрезмерному извлечению факторов. [20] Был создан вариант этого метода, при котором исследователь рассчитывает доверительные интервалы для каждого собственного значения и сохраняет только те факторы, весь доверительный интервал которых превышает 1,0. [14] [21]
График осыпи : [22] Тест осыпи Кеттелла отображает компоненты по оси X, а соответствующие собственные значения — по оси Y. При движении вправо, к более поздним компонентам, собственные значения падают. Когда падение прекращается и кривая поворачивает в сторону менее крутого падения, тест осыпи Кеттелла требует отбросить все дальнейшие компоненты после того, который начинается с колена. Это правило иногда критикуют за то, что оно допускает «фальсификацию», контролируемую исследователями. То есть, поскольку выбор «локтя» может быть субъективным, поскольку кривая имеет несколько колен или представляет собой плавную кривую, у исследователя может возникнуть соблазн установить пороговое значение на количестве факторов, требуемых его исследовательской программой. [ нужна цитата ]
Критерии объяснения дисперсии: некоторые исследователи просто используют правило сохранения достаточного количества факторов, чтобы объяснить 90% (иногда 80%) вариации. Если целью исследователя является экономия (объяснение дисперсии с помощью как можно меньшего количества факторов), критерий может составлять всего 50%.
Поместив априорное распределение по количеству скрытых факторов и затем применив теорему Байеса, байесовские модели могут вернуть распределение вероятностей по количеству скрытых факторов. Это было смоделировано с использованием индийского процесса «шведского стола» [23] , но его можно смоделировать и проще, поместив любой дискретный априор (например, отрицательное биномиальное распределение ) на количество компонентов.
Результат PCA максимизирует дисперсию, учитываемую сначала первым фактором, затем вторым фактором и т. д. Недостаток этой процедуры заключается в том, что большинство элементов загружаются на ранние факторы, в то время как очень немногие элементы загружаются на более поздние переменные. Это затрудняет интерпретацию факторов путем чтения списка вопросов и нагрузок, поскольку каждый вопрос сильно коррелирует с несколькими первыми компонентами, в то время как очень немногие вопросы сильно коррелируют с несколькими последними компонентами.
Вращение служит для облегчения интерпретации вывода. Выбирая другую основу для одних и тех же главных компонентов, то есть выбирая разные факторы для выражения одной и той же корреляционной структуры, можно создать переменные, которые легче интерпретировать.
Вращения могут быть ортогональными или наклонными; наклонные вращения позволяют факторам коррелировать. [24] Повышенная гибкость означает, что возможно большее количество ротаций, некоторые из которых могут быть лучше для достижения указанной цели. Однако это также может затруднить интерпретацию факторов, поскольку некоторая информация «учитывается дважды» и включается несколько раз в разные компоненты; некоторые факторы могут даже оказаться почти дублирующими друг друга.
Существуют два широких класса ортогональных вращений: те, которые ищут разреженные строки (где каждая строка представляет собой случай, т.е. субъект), и те, которые ищут разреженные столбцы (где каждый столбец является переменной).
Может быть сложно интерпретировать факторную структуру, когда каждая переменная нагружает несколько факторов. Небольшие изменения в данных иногда могут нарушить баланс критерия ротации факторов, в результате чего будет получена совершенно другая ротация факторов. Это может затруднить сравнение результатов различных экспериментов. Эта проблема иллюстрируется сравнением различных исследований мировых культурных различий. В каждом исследовании использовались разные меры культурных переменных и были получены по-разному повернутые результаты факторного анализа. Авторы каждого исследования считали, что открыли что-то новое, и изобретали новые названия обнаруженным факторам. Более позднее сравнение исследований показало, что результаты были довольно схожими при сравнении неротированных результатов. Обычная практика ротации факторов скрыла сходство между результатами различных исследований. [25]
Факторный анализ высшего порядка — это статистический метод, состоящий из повторяющихся этапов факторного анализа — наклонного вращения — факторного анализа повёрнутых факторов. Его достоинство состоит в том, что он дает возможность исследователю увидеть иерархическую структуру изучаемых явлений. Чтобы интерпретировать результаты, необходимо действовать либо путем последующего умножения матрицы шаблонов первичных факторов на матрицы шаблонов факторов более высокого порядка (Горсач, 1983) и, возможно, применения вращения Варимакса к результату (Томпсон, 1990), либо с помощью метода Шмид- Решение Леймана (SLS, Schmid & Leiman, 1957, также известное как преобразование Шмида-Леймана), которое приписывает изменение от первичных факторов факторам второго порядка.
Факторный анализ связан с анализом главных компонентов (PCA), но они не идентичны. [26] В этой области возникли серьезные разногласия по поводу различий между этими двумя методами. PCA можно рассматривать как более базовую версию исследовательского факторного анализа (EFA), которая была разработана еще до появления высокоскоростных компьютеров. И PCA, и факторный анализ направлены на уменьшение размерности набора данных, но подходы, используемые для этого, различны для этих двух методов. Факторный анализ явно разработан с целью выявить определенные ненаблюдаемые факторы из наблюдаемых переменных, тогда как PCA напрямую не решает эту задачу; в лучшем случае PCA обеспечивает приближение к требуемым коэффициентам. [27] С точки зрения исследовательского анализа, собственные значения PCA представляют собой завышенные нагрузки компонентов, т. е. загрязнены дисперсией ошибок. [28] [29] [30] [31] [32] [33]
Хотя в некоторых областях статистики ОДВ и PCA рассматриваются как синонимичные методы, это подвергается критике. [34] [35] Факторный анализ «имеет дело с предположением о лежащей в основе причинной структуре : [он] предполагает, что ковариация в наблюдаемых переменных обусловлена присутствием одной или нескольких скрытых переменных (факторов), которые оказывают причинное влияние на эти переменные». наблюдаемые переменные». [36] Напротив, PCA не предполагает и не зависит от такой основной причинной связи. Исследователи утверждают, что различия между этими двумя методами могут означать, что существует объективная выгода от предпочтения одного метода другому, исходя из аналитической цели. Если факторная модель сформулирована неправильно или предположения не выполняются, то факторный анализ даст ошибочные результаты. Факторный анализ успешно использовался там, где адекватное понимание системы позволяет правильно сформулировать первоначальную модель. PCA использует математическое преобразование исходных данных без каких-либо предположений о форме ковариационной матрицы. Целью PCA является определение линейных комбинаций исходных переменных и выбор нескольких из них, которые можно использовать для суммирования набора данных без потери большой информации. [37]
Фабригар и др. (1999) [34] рассматривают ряд причин, по которым можно предположить, что PCA не эквивалентен факторному анализу:
Факторный анализ учитывает случайную ошибку , присущую измерению, тогда как PCA этого не делает. Эту точку зрения иллюстрирует Браун (2009), [38] , который указал, что в отношении корреляционных матриц, участвующих в расчетах:
«В PCA 1,00 ставятся по диагонали, что означает, что должна быть учтена вся дисперсия в матрице (включая дисперсию, уникальную для каждой переменной, дисперсию, общую для всех переменных, и дисперсию ошибок). Таким образом, это будет по определению , включают всю дисперсию переменных. Напротив, в EFA общности расположены по диагонали, что означает, что учитывается только дисперсия, общая с другими переменными (исключая дисперсию, уникальную для каждой переменной, и дисперсию ошибки). следовательно, по определению будет включать только дисперсию, которая является общей для всех переменных».
- Браун (2009), Анализ основных компонентов и исследовательский факторный анализ. Определения, различия и выбор.
По этой причине Браун (2009) рекомендует использовать факторный анализ, когда существуют теоретические идеи о взаимосвязях между переменными, тогда как PCA следует использовать, если целью исследователя является изучение закономерностей в своих данных.
Различия между PCA и факторным анализом (FA) дополнительно иллюстрируются Suhr (2009): [35]
Чарльз Спирмен был первым психологом, который обсудил анализ общих факторов [39] и сделал это в своей статье 1904 года. [40] В нем содержалось мало подробностей о его методах и речь шла об однофакторных моделях. [41] Он обнаружил, что результаты школьников по широкому кругу, казалось бы, несвязанных между собой предметов положительно коррелируют, что привело его к предположению, что одна общая умственная способность, или g , лежит в основе и формирует когнитивные способности человека.
Первоначальное развитие общего факторного анализа с множественными факторами было дано Луи Терстоном в двух статьях в начале 1930-х годов, [42] [43] обобщено в его книге 1935 года «Вектор разума» . [44] Терстоун представил несколько важных концепций факторного анализа, включая общность, уникальность и ротацию. [45] Он выступал за «простую структуру» и разработал методы ротации, которые можно было использовать как способ достижения такой структуры. [39]
В методологии Q Уильям Стивенсон , ученик Спирмена, различал R- факторный анализ, ориентированный на изучение межиндивидуальных различий, и Q -факторный анализ, ориентированный на субъективные внутрииндивидуальные различия. [46] [47]
Рэймонд Кеттелл был ярым сторонником факторного анализа и психометрии и использовал многофакторную теорию Терстоуна для объяснения интеллекта. Кеттелл также разработал тест осыпи и коэффициенты подобия.
Факторный анализ используется для выявления «факторов», объясняющих различные результаты различных тестов. Например, исследования интеллекта показали, что люди, получившие высокие баллы по тесту на вербальные способности, также хорошо справляются с другими тестами, требующими вербальных способностей. Исследователи объяснили это тем, что использовали факторный анализ для выделения одного фактора, часто называемого вербальным интеллектом, который отражает степень способности человека решать проблемы, связанные с вербальными навыками. [ нужна цитата ]
Факторный анализ в психологии чаще всего связан с исследованиями интеллекта. Однако он также использовался для поиска факторов в широком диапазоне областей, таких как личность, отношения, убеждения и т. д. Он связан с психометрикой , поскольку может оценить достоверность инструмента, определяя, действительно ли этот инструмент измеряет постулируемые факторы. [ нужна цитата ]
Факторный анализ – часто используемый метод в кросс-культурных исследованиях. Он служит цели извлечения культурных измерений . Наиболее известные модели культурных измерений разработаны Гертом Хофстеде , Рональдом Инглхартом , Кристианом Вельцелем , Шаломом Шварцем и Майклом Минковым. Популярной визуализацией является культурная карта мира Инглхарта и Вельцеля . [25]
В исследовании начала 1965 года политические системы по всему миру изучаются с помощью факторного анализа для построения соответствующих теоретических моделей и исследований, сравнения политических систем и создания типологических категорий. [50] Для этих целей в этом исследовании определены семь основных политических измерений, которые связаны с широким спектром политического поведения: эти измерения: доступ, дифференциация, консенсус, секционализм, легитимация, интерес и теория и исследования лидерства.
Другие политологи исследуют измерение внутренней политической эффективности, используя четыре новых вопроса, добавленных в Национальное исследование выборов 1988 года. Здесь используется факторный анализ, чтобы обнаружить, что эти вопросы измеряют единую концепцию, отличную от внешней эффективности и политического доверия, и что эти четыре вопроса обеспечивают наилучшую меру внутренней политической эффективности на тот момент времени. [51]
Основные шаги:
Этап сбора данных обычно выполняется специалистами по маркетинговым исследованиям. В вопросах опроса респонденту предлагается оценить образец продукта или описание концепции продукта по ряду характеристик. Выбирается от пяти до двадцати атрибутов. Они могут включать такие вещи, как простота использования, вес, точность, долговечность, красочность, цена или размер. Выбранные атрибуты будут различаться в зависимости от изучаемого продукта. Тот же вопрос задается обо всех продуктах в исследовании. Данные для нескольких продуктов кодируются и вводятся в статистические программы, такие как R , SPSS , SAS , Stata , STATISTICA , JMP и SYSTAT.
Анализ позволит выделить основные факторы, которые объясняют данные, используя матрицу ассоциаций. [52] Факторный анализ – это метод взаимозависимости. Рассмотрена полная совокупность взаимозависимых отношений. Не существует спецификации зависимых переменных, независимых переменных или причинно-следственной связи. Факторный анализ предполагает, что все рейтинговые данные по различным атрибутам можно свести к нескольким важным параметрам. Такое сокращение возможно, поскольку некоторые атрибуты могут быть связаны друг с другом. Рейтинг, присвоенный какому-либо одному атрибуту, частично является результатом влияния других атрибутов. Статистический алгоритм деконструирует рейтинг (называемый исходной оценкой) на различные компоненты и реконструирует частичные оценки в оценки основных факторов. Степень корреляции между исходной исходной оценкой и окончательной оценкой фактора называется факторной нагрузкой .
Факторный анализ также широко используется в физических науках, таких как геохимия , гидрохимия , [53] астрофизика и космология , а также в биологических науках, таких как экология , молекулярная биология , нейробиология и биохимия .
При управлении качеством подземных вод важно связать пространственное распределение различных химических параметров с различными возможными источниками, имеющими разные химические характеристики. Например, сульфидная шахта, скорее всего, будет связана с высоким уровнем кислотности, растворенными сульфатами и переходными металлами. Эти сигнатуры могут быть идентифицированы как факторы с помощью факторного анализа в R-режиме, а расположение возможных источников можно определить путем контурирования оценок факторов. [54]
В геохимии разным минеральным ассоциациям и, следовательно, минерализации могут соответствовать разные факторы. [55]
Факторный анализ можно использовать для обобщения данных микрочипов ДНК олигонуклеотидов высокой плотности на уровне зонда для Affymetrix GeneChips. В этом случае латентная переменная соответствует концентрации РНК в образце. [56]
Факторный анализ был реализован в нескольких программах статистического анализа с 1980-х годов:
{{cite journal}}
: Требуется цитировать журнал |journal=
( помощь )