Распределение произведения — это распределение вероятностей, построенное как распределение произведения случайных величин, имеющих два других известных распределения. При наличии двух статистически независимых случайных величин X и Y распределение случайной величины Z , которое формируется как произведение, является распределением произведения .
Распределение продукта — это PDF продукта выборочных значений. Это не то же самое, что продукт их PDF, хотя концепции часто двусмысленно называются как «продукт гауссианов».
Алгебра случайных величин
Произведение — это один из типов алгебры для случайных величин: С распределением произведения связаны распределение отношения , распределение суммы (см. Список сверток распределений вероятностей ) и распределение разности. В более общем смысле можно говорить о комбинациях сумм, разностей, произведений и отношений.
Многие из этих распределений описаны в книге Мелвина Д. Спрингера 1979 года «Алгебра случайных величин» . [1]
Вывод для независимых случайных величин
Если и — две независимые непрерывные случайные величины, описываемые функциями плотности вероятности , то функция плотности вероятности равна [2]
Найдем искомую функцию плотности вероятности, взяв производную обеих сторон по . Поскольку в правой части появляется только в пределах интегрирования, производная легко вычисляется с помощью фундаментальной теоремы исчисления и цепного правила . (Обратите внимание на отрицательный знак, который необходим, когда переменная появляется в нижнем пределе интегрирования.)
где абсолютное значение используется для удобного объединения двух терминов. [3]
Альтернативное доказательство
Более быстрое и компактное доказательство начинается с того же шага — записи кумулятивного распределения, начиная с его определения:
где — ступенчатая функция Хевисайда , которая служит для ограничения области интегрирования значениями и , удовлетворяющими .
Найдем искомую функцию плотности вероятности, взяв производную от обеих частей по .
Более наглядное описание процедуры показано на рисунке ниже. Совместная pdf существует в - плоскости, а дуга постоянного значения показана в виде заштрихованной линии. Чтобы найти предельную вероятность на этой дуге, проинтегрируйте по приращениям площади на этом контуре.
Начиная с , имеем . Таким образом, приращение вероятности равно . Поскольку подразумевает , мы можем связать приращение вероятности с -приращением , а именно . Тогда интегрирование по , дает .
Байесовская интерпретация
Пусть будет случайной выборкой, взятой из распределения вероятностей . Масштабирование по генерирует выборку из масштабированного распределения , которую можно записать как условное распределение .
Пусть будет случайной величиной с pdf , распределение масштабированной выборки становится и интегрируя мы получаем так что выводится из этого распределения . Однако, подставляя определение мы также имеем , которое имеет ту же форму, что и распределение произведения выше. Таким образом, байесовское апостериорное распределение является распределением произведения двух независимых случайных выборок и .
Для случая, когда одна переменная является дискретной, пусть имеет вероятность на уровнях с . Условная плотность равна . Следовательно .
Математическое ожидание произведения случайных величин
Когда две случайные величины статистически независимы, ожидание их произведения равно произведению их ожиданий . Это можно доказать с помощью закона полного ожидания :
Во внутреннем выражении Y — константа. Следовательно:
Это верно, даже если X и Y статистически зависимы, в этом случае это функция Y. В особом случае, когда X и Y статистически независимы, это константа, независимая от Y. Следовательно:
Дисперсия произведения независимых случайных величин
Пусть — некоррелированные случайные величины со средними и дисперсиями . Если, кроме того, случайные величины и некоррелированы, то дисперсия произведения XY равна [4]
В случае произведения более двух переменных, если они статистически независимы, то [5] дисперсия их произведения равна
Характеристическая функция произведения случайных величин
Предположим, что X , Y — независимые случайные величины. Характеристическая функция X равна , а распределение Y известно. Тогда из закона полного ожидания имеем [6]
Если характеристические функции и распределения как X , так и Y известны, то, как вариант, также имеет место.
Преобразование Меллина
Преобразование Меллина распределения с носителем только на и имеющим случайную выборку имеет вид
Обратное преобразование:
если — две независимые случайные выборки из разных распределений, то преобразование Меллина их произведения равно произведению их преобразований Меллина:
Если s ограничено целыми значениями, более простой результат будет
Таким образом, моменты случайного произведения являются произведением соответствующих моментов , и это распространяется на нецелые моменты, например
Дальнейший результат заключается в том, что для независимых X , Y
Пример гамма-распределения Чтобы проиллюстрировать, как произведение моментов дает гораздо более простой результат, чем нахождение моментов распределения произведения, пусть будет выбрано из двух гамма-распределений с параметрами ,
моменты которых
Перемножение соответствующих моментов дает результат преобразования Меллина
Независимо известно, что произведение двух независимых гамма-распределенных выборок (~Gamma(α,1) и Gamma(β,1)) имеет K-распределение :
Чтобы найти эти моменты, сделаем замену переменной , упростив подобные интегралы до:
таким образом
Определенный интеграл
хорошо документировано и мы наконец-то
который после некоторых трудностей согласился с результатом текущего продукта выше.
Если X , Y рисуются независимо из гамма-распределений с параметрами формы , то
Этот тип результата является универсально верным, поскольку для двумерных независимых переменных, таким образом,
или, что то же самое, ясно, что являются независимыми переменными.
Особые случаи
Логнормальное распределение
Распределение произведения двух случайных величин, имеющих логнормальное распределение, снова является логнормальным. Это само по себе является частным случаем более общего набора результатов, где логарифм произведения может быть записан как сумма логарифмов. Таким образом, в случаях, когда простой результат может быть найден в списке сверток распределений вероятностей , где распределения, которые должны быть свернуты, являются распределениями логарифмов компонентов произведения, результат может быть преобразован для предоставления распределения произведения. Однако этот подход полезен только там, где логарифмы компонентов произведения находятся в некоторых стандартных семействах распределений.
Пусть будет произведением двух независимых переменных, каждая из которых равномерно распределена на интервале [0,1], возможно, результатом преобразования копулы . Как отмечено в разделе "Логнормальные распределения" выше, операции свертки PDF в логарифмическом домене соответствуют произведению выборочных значений в исходном домене. Таким образом, выполняя преобразование , таким образом, что , каждая переменная распределяется независимо на u как
.
а свертка двух распределений — это автосвертка
Далее преобразуем переменную обратно, получая распределение
на интервале [0,1]
Для произведения нескольких (> 2) независимых выборок маршрут характеристической функции благоприятен. Если мы определим то выше будет гамма-распределение формы 1 и масштабного фактора 1, , и его известная CF равна . Обратите внимание, что якобиан преобразования равен единице.
Свертка независимых выборок из имеет, таким образом, КФ , которая, как известно, является КФ гамма-распределения формы :
.
Выполните обратное преобразование , чтобы извлечь PDF-функцию произведения n выборок:
Следующий, более традиционный вывод из Stackexchange [7] согласуется с этим результатом. Прежде всего, позволив его CDF быть
Плотность
Умножение на третью независимую выборку дает функцию распределения
Взяв производную, получаем
Автор заметки предполагает, что в целом
Рисунок иллюстрирует природу интегралов выше. Площадь выделения в пределах единичного квадрата и ниже линии z = xy представляет собой CDF z. Она делится на две части. Первая для 0 < x < z, где приращение площади в вертикальной щели как раз равно dx . Вторая часть лежит ниже линии xy , имеет y -высоту z/x и приращение площади dx z/x .
Независимые центрально-нормальные распределения
Произведение двух независимых нормальных выборок следует модифицированной функции Бесселя . Пусть будут независимыми выборками из нормального (0,1) распределения и . Тогда
Дисперсию этого распределения можно было бы определить, в принципе, определенным интегралом из Гредшейна и Рыжика, [8]
таким образом
Гораздо более простой результат, изложенный в разделе выше, заключается в том, что дисперсия произведения независимых выборок с нулевым средним равна произведению их дисперсий. Поскольку дисперсия каждой нормальной выборки равна единице, дисперсия произведения также равна единице.
Произведение двух гауссовых выборок часто путают с произведением двух гауссовых PDF. Последнее просто приводит к двумерному гауссовскому распределению.
Случай продукта коррелированных нормальных выборок недавно рассматривался Надараджахой и Погани. [9]
Пусть будет нулевым средним, единичной дисперсией, нормально распределенными переменными с коэффициентом корреляции
Затем
Среднее и дисперсия : Для среднего мы имеем из определения коэффициента корреляции. Дисперсию можно найти, преобразуя из двух единичных дисперсий нулевого среднего некоррелированных переменных U, V. Пусть
Тогда X, Y — это переменные единичной дисперсии с коэффициентом корреляции и
Удалив члены нечетной степени, чьи ожидания, очевидно, равны нулю, получаем
Так как у нас есть
Асимптота высокой корреляции
В случае высокой корреляции произведение сходится к квадрату одной выборки. В этом случае асимптота
и
Несколько коррелированных выборок . Надараджаха и др. далее показывают, что если случайные величины iid выбраны из и являются их средним значением, то
где W — функция Уиттекера, а .
Используя тождество , см., например, компиляцию DLMF. eqn(13.13.9), [10] это выражение можно несколько упростить до
PDF дает предельное распределение выборочной двумерной нормальной ковариации, результат также показан в статье Распределение Уишарта. Приблизительное распределение коэффициента корреляции можно найти с помощью преобразования Фишера .
Множественные нецентральные коррелированные выборки . Распределение произведения коррелированных нецентральных нормальных выборок было получено Куи и др. [11] и принимает форму бесконечного ряда модифицированных функций Бесселя первого рода.
Моменты произведения коррелированных центральных нормальных выборок
Распределение произведения нецентрально коррелированных нормальных выборок было получено Куи и др. [11] и имеет форму бесконечного ряда.
Эти распределения произведений в некоторой степени сопоставимы с распределением Уишарта . Последнее является совместным распределением четырех элементов (на самом деле только трех независимых элементов) матрицы ковариации выборки. Если являются выборками из двумерного временного ряда, то является матрицей Уишарта с K степенями свободы. Распределения произведений выше являются безусловным распределением совокупности K > 1 выборок .
Пусть будут независимыми выборками из нормального (0,1) распределения. Задание — независимые комплексные нормальные выборки с нулевым средним и круговой симметрией. Их комплексные дисперсии равны
Переменная явно подчиняется закону хи-квадрат с двумя степенями свободы и имеет плотность распределения
Уэллс и др. [13] показывают, что функция плотности распределения равна
и кумулятивная функция распределения равна
Таким образом, полярное представление произведения двух некоррелированных комплексных гауссовых выборок равно
.
Первый и второй моменты этого распределения можно найти из интеграла в разделе «Нормальные распределения» выше.
Таким образом, его дисперсия равна .
Далее, плотность соответствует произведению двух независимых выборок хи-квадрат, каждая с двумя степенями свободы. Записывая их как масштабированные гамма-распределения , затем из гамма-продуктов ниже, плотность продукта равна
Произведение нецентральных независимых комплексных гауссианов описано О'Донохью и Моурой [14] и образует двойной бесконечный ряд модифицированных функций Бесселя первого и второго типов.
Гамма-распределения
Произведение двух независимых гамма-выборок, определяющее , следует [15]
Бета-распределения
Нагар и др. [16] определяют коррелированное двумерное бета-распределение
где
Тогда функция PDF Z = XY определяется как
где — гипергеометрическая функция Гаусса, определяемая интегралом Эйлера
Обратите внимание, что многомерные распределения, как правило, не являются уникальными, за исключением гауссовского случая, и могут существовать альтернативы.
Равномерное и гамма-распределение
Распределение произведения случайной величины, имеющей равномерное распределение на (0,1), на случайную величину, имеющую гамма-распределение с параметром формы, равным 2, является экспоненциальным распределением . [17] Более общий случай этого касается распределения произведения случайной величины, имеющей бета-распределение, на случайную величину, имеющую гамма-распределение : для некоторых случаев, когда параметры двух компонентных распределений связаны определенным образом, результатом снова является гамма-распределение, но с измененным параметром формы. [17]
K-распределение является примером нестандартного распределения, которое можно определить как распределение произведений (где оба компонента имеют гамма-распределение).
Гамма-распределение и распределение Парето
Произведение n Гамма и m Парето-независимых выборок было получено Надараджой. [18]
^ Springer, Melvin Dale (1979). Алгебра случайных величин . Wiley . ISBN 978-0-471-01406-5. Получено 24 сентября 2012 г.
^ Рохатги, В. К. (1976). Введение в теорию вероятностей и математическую статистику . Wiley Series in Probability and Statistics. Нью-Йорк: Wiley. doi : 10.1002/9781118165676. ISBN978-0-19-853185-2.
^ Гримметт, GR; Стирзакер, DR (2001). Вероятность и случайные процессы. Оксфорд: Oxford University Press. ISBN978-0-19-857222-0. Получено 4 октября 2015 г.
^ Сарвате, Дилип (9 марта 2013 г.). «Дисперсия произведения нескольких случайных величин». Stack Exchange .
^ "Как найти характеристическую функцию произведения случайных величин". Stack Exchange . 3 января 2013 г.
^ heropup (1 февраля 2014 г.). "распределение произведений двух равномерных распределений, а как насчет 3 или более". Stack Exchange .
^ Градшейн, И.С.; Рыжик, И.М. (1980). Таблицы интегралов, рядов и произведений . Academic Press. С. раздел 6.561.
^ Надараджа, Саралис; Погани, Тибор (2015). «О распределении произведения коррелированных нормальных случайных величин». Comptes Rendus de l'Académie des Sciences, Série I. 354 (2): 201–204. дои : 10.1016/j.crma.2015.10.019 .
^ Equ(13.18.9). "Цифровая библиотека математических функций". NIST: Национальный институт стандартов и технологий .{{cite web}}: CS1 maint: numeric names: authors list (link)
^ ab Cui, Guolong (2016). «Точное распределение для произведения двух коррелированных гауссовских случайных величин». IEEE Signal Processing Letters . 23 (11): 1662–1666. Bibcode : 2016ISPL...23.1662C. doi : 10.1109/LSP.2016.2614539. S2CID 15721509.
^ Кан, Рэймонд (2008). «От моментов суммы к моментам произведения». Журнал многомерного анализа . 99 (3): 542–554. doi : 10.1016/j.jmva.2007.01.013 .
^ Уэллс, РТ; Андерсон, РЛ; Селл, Дж. В. (1962). «Распределение произведения двух центральных или нецентральных хи-квадрат переменных». Анналы математической статистики . 33 (3): 1016–1020. doi : 10.1214/aoms/1177704469 .
^ O'Donoughue, N; Moura, JMF (март 2012 г.). «О произведении независимых комплексных гауссианов». IEEE Transactions on Signal Processing . 60 (3): 1050–1063. Bibcode : 2012ITSP...60.1050O. doi : 10.1109/TSP.2011.2177264. S2CID 1069298.
^ Wolfies (август 2017 г.). "PDF-файл произведения двух независимых случайных величин гамма-распределения". stackexchange .
^ Нагар, Д.К.; Ороско-Кастаньеда, Дж.М.; Гупта, АК (2009). «Произведение и частное коррелированных бета-переменных». Applied Mathematics Letters . 22 : 105–109. doi : 10.1016/j.aml.2008.02.014 .
^ ab Джонсон, Норман Л.; Коц, Сэмюэл; Балакришнан, Н. (1995). Непрерывные одномерные распределения, том 2, второе издание. Wiley. стр. 306. ISBN978-0-471-58494-0. Получено 24 сентября 2012 г.
^ Nadarajah, Saralees (июнь 2011 г.). «Точное распределение произведения n гамма- и m случайных величин Парето». Журнал вычислительной и прикладной математики . 235 (15): 4496–4512. doi : 10.1016/j.cam.2011.04.018 .
Ссылки
Springer, Melvin Dale; Thompson, WE (1970). «Распределение произведений бета-, гамма- и гауссовых случайных величин». Журнал SIAM по прикладной математике . 18 (4): 721–737. doi :10.1137/0118065. JSTOR 2099424.
Springer, Melvin Dale; Thompson, WE (1966). «Распределение произведений независимых случайных величин». Журнал SIAM по прикладной математике . 14 (3): 511–526. doi :10.1137/0114046. JSTOR 2946226.