Отбеливание трансформации

Метод декорреляции, преобразующий ковариационную матрицу набора выборок в единичную матрицу.

Преобразование отбеливания или сферическое преобразование — это линейное преобразование , которое преобразует вектор случайных величин с известной ковариационной матрицей в набор новых переменных, ковариация которых является единичной матрицей , что означает, что они некоррелированы и каждая имеет дисперсию 1. [ ^1] Преобразование называется «отбеливанием», поскольку оно превращает входной вектор в вектор белого шума .

С отбеливанием тесно связаны и другие трансформации:

1. преобразование декорреляции удаляет только корреляции, но оставляет дисперсии нетронутыми,
2. преобразование стандартизации устанавливает дисперсию в 1, но оставляет корреляции нетронутыми,
3. преобразование раскраски преобразует вектор белых случайных величин в случайный вектор с заданной ковариационной матрицей. ^[2]

Определение

Предположим, это случайный вектор (столбец) с неособой ковариационной матрицей и средним значением . Тогда преобразование с матрицей отбеливания, удовлетворяющей условию , дает выбеленный случайный вектор с единичной диагональной ковариацией. ${\displaystyle X}$ ${\displaystyle \Sigma }$ ${\displaystyle 0}$ ${\displaystyle Y=WX}$ ${\displaystyle W}$ ${\displaystyle W^{\mathrm {T} }W=\Sigma ^{-1}}$ ${\displaystyle Y}$

Существует бесконечно много возможных матриц отбеливания , каждая из которых удовлетворяет вышеуказанному условию. Обычно используемые варианты: (отбеливание Махаланобиса или ZCA), где - разложение Холецкого (отбеливание Холецкого), ^[3] или собственная система (отбеливание PCA). ^[4] ${\displaystyle W}$ ${\displaystyle W=\Sigma ^{-1/2}}$ ${\displaystyle W=L^{T}}$ ${\displaystyle L}$ ${\displaystyle \Sigma ^{-1}}$ ${\displaystyle \Sigma }$

Оптимальные преобразования отбеливания можно выделить путем исследования перекрестной ковариации и взаимной корреляции и . ^[3] Например, уникальное оптимальное преобразование отбеливания, обеспечивающее максимальную покомпонентную корреляцию между исходным и отбеленным, производится с помощью матрицы отбеливания, где – матрица корреляции и матрица отклонений. ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle W=P^{-1/2}V^{-1/2}}$ ${\displaystyle P}$ ${\displaystyle V}$

Отбеливание матрицы данных

Отбеливание матрицы данных происходит так же, как и для случайных величин. Эмпирическое преобразование отбеливания получается путем оценки ковариации (например, по максимальному правдоподобию ) и последующего построения соответствующей оцененной матрицы отбеливания (например, путем разложения Холецкого ).

Высокомерное отбеливание

Эта модальность является обобщением процедуры предварительного отбеливания, распространенной на более общие пространства, где обычно предполагается случайная функция или другие случайные объекты в гильбертовом пространстве . Одна из основных проблем распространения отбеливания на бесконечные измерения заключается в том, что ковариационный оператор имеет неограниченный обратный оператор по . Тем не менее, если предположить, что условие Пикара выполняется в пространстве значений ковариационного оператора, отбеливание становится возможным. ^[5] Затем оператор отбеливания может быть определен на основе факторизации Мура-Пенроуза, обратного ковариационному оператору, который имеет эффективное отображение на разложениях типа Карунена-Лоэва . Преимущество этих преобразований отбеливания заключается в том, что их можно оптимизировать в соответствии с основными топологическими свойствами данных (гладкость, непрерывность и непрерывность), создавая тем самым более надежные представления отбеливания. Многомерные характеристики данных можно использовать с помощью регрессоров ядра или систем базисных функций. ^[6] ${\displaystyle X}$ ${\displaystyle H}$ ${\displaystyle H}$ ${\displaystyle X}$ ${\displaystyle X}$

реализация R

Реализация нескольких процедур отбеливания в R , включая ZCA-отбеливание и PCA-отбеливание, а также CCA-отбеливание , доступна в «отбеливающем» пакете R ^[7], опубликованном на CRAN . Пакет R «pfica» ^[8] позволяет рассчитывать многомерные представления отбеливания с использованием систем базисных функций ( B-сплайны , базис Фурье и т. д.).

Смотрите также

• Декорреляция
• Анализ главных компонентов
• Взвешенные наименьшие квадраты
• Каноническая корреляция
• Расстояние Махаланобиса (после преобразования В. является евклидовым).

Рекомендации

1. Койвунен, AC; Костинский, AB (1999). «Возможность отбеливания данных для улучшения характеристик метеорологического радара». Журнал прикладной метеорологии . 38 (6): 741–749. Бибкод : 1999JApMe..38..741K. doi : 10.1175/1520-0450(1999)038<0741:TFODWT>2.0.CO;2 . ISSN  1520-0450.
2. Хоссейн, Милиха. «Преобразования отбеливания и окраски для многомерных гауссовских случайных величин». Проект Рея . Проверено 21 марта 2016 г.
3. Кесси, А.; Левин, А.; Стриммер, К. (2018). «Оптимальное отбеливание и декорреляция». Американский статистик . 72 (4): 309–314. arXiv : 1512.00809 . дои : 10.1080/00031305.2016.1277159. S2CID  55075085.
4. Фридман, Дж. (1987). «Исследовательская проекция» (PDF) . Журнал Американской статистической ассоциации . 82 (397): 249–266. дои : 10.1080/01621459.1987.10478427. ISSN  0162-1459. JSTOR  2289161. ОСТИ  1447861.
5. Видаль, М.; Агилера, AM (2022). «Новые подходы к отбеливанию в функциональных условиях». СТАТ . 12 (1): е516. дои : 10.1002/sta4.516 . hdl : 1854/LU-8770510 .
6. Рамзи, Джо; Сильверман, Дж.О. (2005). Функциональный анализ данных. Спрингер Нью-Йорк, штат Нью-Йорк. дои : 10.1007/b98888. ISBN 978-0-387-40080-8.
7. «Пакет отбеливания R» . Проверено 25 ноября 2018 г.
8. "Пакет pfica R" . Проверено 11 февраля 2023 г.

Внешние ссылки

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• Преобразование отбеливания ZCA. Приложение А « Изучение нескольких слоев объектов по крошечным изображениям», автор А. Крижевский.