Логистическое распределение

Непрерывное распределение вероятностей

В теории вероятностей и статистике логистическое распределение представляет собой непрерывное распределение вероятностей . Его кумулятивная функция распределения — это логистическая функция , которая появляется в логистической регрессии и нейронных сетях прямого распространения . По форме оно напоминает нормальное распределение , но имеет более тяжелые хвосты (более высокий эксцесс ). Логистическое распределение является частным случаем лямбда-распределения Тьюки .

Спецификация

Функция плотности вероятности

Когда параметр местоположения  μ равен 0, а параметр масштаба  s равен 1, тогда функция плотности вероятности логистического распределения определяется выражением

${\displaystyle {\begin{aligned}f(x;0,1)&={\frac {e^{-x}}{(1+e^{-x})^{2}}}\\[4pt]&={\frac {1}{(e^{x/2}+e^{-x/2})^{2}}}\\[5pt]&={\frac {1}{4}}\operatorname {sech} ^{2}\left({\frac {x}{2}}\right).\end{aligned}}}$

Таким образом, в общем случае плотность равна:

${\displaystyle {\begin{aligned}f(x;\mu ,s)&={\frac {e^{-(x-\mu )/s}}{s\left(1+e^{-(x-\mu )/s}\right)^{2}}}\\[4pt]&={\frac {1}{s\left(e^{(x-\mu )/(2s)}+e^{-(x-\mu )/(2s)}\right)^{2}}}\\[4pt]&={\frac {1}{4s}}\operatorname {sech} ^{2}\left({\frac {x-\mu }{2s}}\right).\end{aligned}}}$

Поскольку эту функцию можно выразить через квадрат гиперболической секущей функции «sech», ее иногда называют распределением sech-square(d) . ^[2] (См. также: гиперболическое секансное распределение ).

Кумулятивная функция распределения

Логистическое распределение получило свое название от своей кумулятивной функции распределения , которая является экземпляром семейства логистических функций. Кумулятивная функция распределения логистического распределения также является масштабированной версией гиперболического тангенса .

${\displaystyle F(x;\mu ,s)={\frac {1}{1+e^{-(x-\mu )/s}}}={\frac {1}{2}}+{\frac {1}{2}}\operatorname {tanh} \left({\frac {x-\mu }{2s}}\right).}$

В этом уравнении µ — среднее значение , а s — параметр масштаба, пропорциональный стандартному отклонению .

Квантильная функция

Обратная кумулятивная функция распределения ( функция квантиля ) логистического распределения является обобщением логит- функции. Ее производная называется функцией плотности квантиля. Они определяются следующим образом:

${\displaystyle Q(p;\mu ,s)=\mu +s\ln \left({\frac {p}{1-p}}\right).}$

${\displaystyle Q'(p;s)={\frac {s}{p(1-p)}}.}$

Альтернативная параметризация

Альтернативную параметризацию логистического распределения можно получить, выразив параметр масштаба , через стандартное отклонение, используя замену , где . Альтернативные формы вышеупомянутых функций достаточно просты. ${\displaystyle s}$ ${\displaystyle \sigma }$ ${\displaystyle s\,=\,q\,\sigma }$ ${\displaystyle q\,=\,{\sqrt {3}}/{\pi }\,=\,0.551328895\ldots }$

Приложения

Логистическое распределение — и S-образная структура его кумулятивной функции распределения ( логистическая функция ) и функции квантиля ( логит-функция ) — широко использовались во многих различных областях.

Логистическая регрессия

Одним из наиболее распространенных приложений является логистическая регрессия , которая используется для моделирования категориальных зависимых переменных (например, выбор «да-нет» или выбор из 3 или 4 возможностей), так же, как стандартная линейная регрессия используется для моделирования непрерывных переменных (например, доход или численность населения). В частности, модели логистической регрессии можно сформулировать как модели скрытых переменных , в которых переменные ошибок следуют логистическому распределению. Эта формулировка распространена в теории моделей дискретного выбора , где логистическое распределение играет ту же роль в логистической регрессии, что и нормальное распределение в пробит-регрессии . Действительно, логистическое и нормальное распределения имеют весьма схожую форму. Однако логистическое распределение имеет более тяжелые хвосты , что часто повышает надежность основанного на нем анализа по сравнению с использованием нормального распределения.

Физика

PDF этого распределения имеет ту же функциональную форму, что и производная функции Ферми . В теории свойств электронов в полупроводниках и металлах эта производная устанавливает относительный вес различных энергий электронов в их вкладе в электронный транспорт. Те уровни энергии, энергии которых наиболее близки к «среднему» распределению ( уровню Ферми ), доминируют в таких процессах, как электронная проводимость, с некоторым размытием, вызванным температурой. ^{[3] : 34} Однако обратите внимание, что соответствующее распределение вероятностей в статистике Ферми – Дирака на самом деле представляет собой простое распределение Бернулли с коэффициентом вероятности, определяемым функцией Ферми.

Логистическое распределение возникает как предельное распределение затухающего случайного движения с конечной скоростью, описываемого телеграфным процессом, в котором случайные моменты времени между последовательными изменениями скорости имеют независимые экспоненциальные распределения с линейно возрастающими параметрами. ^[4]

Гидрология

Подобрано кумулятивное логистическое распределение октябрьских осадков с использованием CumFreq , см. также Подбор распределения.

В гидрологии распределение долговременного речного стока и осадков (например, месячные и годовые суммы, состоящие из суммы 30 или 360 дневных значений) часто считается почти нормальным в соответствии с центральной предельной теоремой . ^[5] Однако нормальное распределение нуждается в числовом приближении . Поскольку логистическое распределение, которое можно решить аналитически, похоже на нормальное распределение, его можно использовать вместо него. Синее изображение иллюстрирует пример подбора логистического распределения к ранжированным октябрьским осадкам, которые распределяются почти нормально, и показывает 90% доверительный интервал , основанный на биномиальном распределении . Данные об осадках представлены в виде координат на графике в рамках кумулятивного частотного анализа .

Шахматные рейтинги

Федерация шахмат США и ФИДЕ переключили свою формулу расчета шахматных рейтингов с нормального распределения на логистическое; см. статью о рейтинговой системе Эло (которая сама основана на нормальном распределении).

Связанные дистрибутивы

• Логистическое распределение имитирует распределение sech .
• Если тогда . ${\displaystyle X\sim \mathrm {Logistic} (\mu ,s)}$ ${\displaystyle kX+\ell \sim \mathrm {Logistic} (k\mu +\ell ,|k|s)}$
• Если U(0,1) , то . ${\displaystyle X\sim }$ ${\displaystyle \mu +s(\log X-\log(1-X))\sim \mathrm {Logistic} (\mu ,s)}$
• Если и самостоятельно, то . ${\displaystyle X\sim \mathrm {Gumbel} (\mu _{X},\beta )}$ ${\displaystyle Y\sim \mathrm {Gumbel} (\mu _{Y},\beta )}$ ${\displaystyle X-Y\sim \mathrm {Logistic} (\mu _{X}-\mu _{Y},\beta )\,}$
• Если и то (Сумма не является логистическим распределением). Обратите внимание, что . ${\displaystyle X}$ ${\displaystyle Y\sim \mathrm {Gumbel} (\mu ,\beta )}$ ${\displaystyle X+Y\nsim \mathrm {Logistic} (2\mu ,\beta )\,}$ ${\displaystyle E(X+Y)=2\mu +2\beta \gamma \neq 2\mu =E\left(\mathrm {Logistic} (2\mu ,\beta )\right)}$
• Если X ~ Logistic( , s ) , то exp( X ) ~ LogLogistic , а exp( X ) + γ ~ сдвинут log-logistic . ${\displaystyle \left(\alpha =e^{\mu },\beta ={\frac {1}{s}}\right)}$ ${\displaystyle \left(\alpha =e^{\mu },\beta ={\frac {1}{s}},\gamma \right)}$
• Если X ~ Экспонента (1) , то

${\displaystyle \mu +s\log(e^{X}-1)\sim \operatorname {Logistic} (\mu ,s).}$

• Если X , Y ~ Экспонента(1), то

${\displaystyle \mu -s\log \left({\frac {X}{Y}}\right)\sim \operatorname {Logistic} (\mu ,s).}$

• Металогическое распределение представляет собой обобщение логистического распределения, в котором логистические параметры и меняются в степенные ряды по . Полученная металог-квантильная функция обладает высокой гибкостью формы, имеет простую замкнутую форму и может быть адаптирована к данным с помощью линейного метода наименьших квадратов. ${\displaystyle p}$ ${\displaystyle \mu }$ ${\displaystyle \sigma }$

Выводы

Моменты высшего порядка

Центральный момент n -го порядка можно выразить через функцию квантиля:

${\displaystyle {\begin{aligned}\operatorname {E} [(X-\mu )^{n}]&=\int _{-\infty }^{\infty }(x-\mu )^{n}\,dF(x)\\&=\int _{0}^{1}{\big (}Q(p)-\mu {\big )}^{n}\,dp=s^{n}\int _{0}^{1}\left[\ln \!\left({\frac {p}{1-p}}\right)\right]^{n}\,dp.\end{aligned}}}$

Этот интеграл хорошо известен ^[6] и может быть выражен через числа Бернулли :

${\displaystyle \operatorname {E} [(X-\mu )^{n}]=s^{n}\pi ^{n}(2^{n}-2)\cdot |B_{n}|.}$

Смотрите также

• обобщенное логистическое распределение
• Лямбда-распределение Тьюки
• логистика-распределение
• полулогистическое распределение
• логистическая регрессия
• сигмовидная функция

Примечания

1. Нортон, Мэтью; Хохлов, Валентин; Урясев, Стэн (2019). «Расчет CVaR и bPOE для распространенных распределений вероятностей с применением для оптимизации портфеля и оценки плотности» (PDF) . Анналы исследования операций . Спрингер. 299 (1–2): 1281–1315. дои : 10.1007/s10479-019-03373-1 . Проверено 27 февраля 2023 г.
2. Джонсон, Коц и Балакришнан (1995, стр.116).
3. Дэвис, Джон Х. (1998). Физика низкоразмерных полупроводников: Введение . Издательство Кембриджского университета. ISBN 9780521484916.
4. А. Ди Крещенцо, Б. Мартинуччи (2010) «Затухающий телеграфный случайный процесс с логистическим стационарным распределением», J. Appl. Проб. , том. 47, стр. 84–96.
5. Ритзема, HP, изд. (1994). Частотный и регрессионный анализ. Глава 6 в: Принципы и применение дренажа, Публикация 16, Международный институт мелиорации и улучшения земель (ILRI), Вагенинген, Нидерланды. стр. 175–224. ISBN 90-70754-33-9.
6. ОЭИС : A001896

Рекомендации

• Джон С. деКани и Роберт А. Стайн (1986). «Заметка о получении информационной матрицы логистического распределения». Американский статистик . Американская статистическая ассоциация. 40 : 220–222. дои : 10.2307/2684541.
• Н., Балакришнан (1992). Справочник по логистическому распределению . Марсель Деккер, Нью-Йорк. ISBN 0-8247-8587-8.
• Джонсон, Нидерланды; Коц, С.; Н., Балакришнан (1995). Непрерывные одномерные распределения . Том. 2 (2-е изд.). ISBN 0-471-58494-0.

• Модис, Теодор (1992) Предсказания: характерные черты общества раскрывают прошлое и предсказывают будущее , Саймон и Шустер, Нью-Йорк. ISBN 0-671-75917-5