Логистическое распределение

Непрерывное распределение вероятностей

В теории вероятностей и статистике логистическое распределение — это непрерывное распределение вероятностей . Его кумулятивная функция распределения — это логистическая функция , которая появляется в логистической регрессии и нейронных сетях прямого распространения . По форме оно напоминает нормальное распределение , но имеет более тяжёлые хвосты (более высокий эксцесс ). Логистическое распределение — это частный случай лямбда-распределения Тьюки .

Спецификация

Кумулятивная функция распределения

Логистическое распределение получило свое название от своей кумулятивной функции распределения , которая является примером семейства логистических функций. Кумулятивная функция распределения логистического распределения также является масштабированной версией гиперболического тангенса .

${\displaystyle F(x;\mu ,s)={\frac {1}{1+e^{-(x-\mu )/s}}}={\frac {1}{2}}+{\frac {1}{2}}\operatorname {tanh} \left({\frac {x-\mu }{2s}}\right).}$

В этом уравнении μ — среднее значение , а s — параметр масштаба, пропорциональный стандартному отклонению .

Функция плотности вероятности

Функция плотности вероятности является частной производной кумулятивной функции распределения:

${\displaystyle {\begin{aligned}f(x;\mu ,s)&={\frac {\partial F(x;\mu ,s)}{\partial x}}={\frac {e^{-(x-\mu )/s}}{s\left(1+e^{-(x-\mu )/s}\right)^{2}}}\\[4pt]&={\frac {1}{s\left(e^{(x-\mu )/(2s)}+e^{-(x-\mu )/(2s)}\right)^{2}}}\\[4pt]&={\frac {1}{4s}}\operatorname {sech} ^{2}\left({\frac {x-\mu }{2s}}\right).\end{aligned}}}$

Когда параметр местоположения  μ равен 0, а параметр масштаба  s равен 1, то функция плотности вероятности логистического распределения определяется выражением

${\displaystyle {\begin{aligned}f(x;0,1)&={\frac {e^{-x}}{(1+e^{-x})^{2}}}\\[4pt]&={\frac {1}{(e^{x/2}+e^{-x/2})^{2}}}\\[5pt]&={\frac {1}{4}}\operatorname {sech} ^{2}\left({\frac {x}{2}}\right).\end{aligned}}}$

Поскольку эта функция может быть выражена через квадрат функции гиперболического секанса «sech», ее иногда называют распределением sech-square(d) ^[2] (См. также: распределение гиперболического секанса ) .

Функция квантиля

Обратная кумулятивная функция распределения ( функция квантиля ) логистического распределения является обобщением функции логита . Ее производная называется функцией плотности квантиля. Они определяются следующим образом:

${\displaystyle Q(p;\mu ,s)=\mu +s\ln \left({\frac {p}{1-p}}\right).}$

${\displaystyle Q'(p;s)={\frac {s}{p(1-p)}}.}$

Альтернативная параметризация

Альтернативную параметризацию логистического распределения можно получить, выразив параметр масштаба, , через стандартное отклонение, , используя подстановку , где . Альтернативные формы приведенных выше функций достаточно просты. ${\displaystyle s}$ ${\displaystyle \sigma }$ ${\displaystyle s\,=\,q\,\sigma }$ ${\displaystyle q\,=\,{\sqrt {3}}/{\pi }\,=\,0.551328895\ldots }$

Приложения

Логистическое распределение и S-образная модель его кумулятивной функции распределения ( логистическая функция ) и квантильной функции ( логит-функция ) широко используются во многих различных областях.

Логистическая регрессия

Одно из наиболее распространенных применений — логистическая регрессия , которая используется для моделирования категориальных зависимых переменных (например, выбор «да-нет» или выбор из 3 или 4 возможностей), подобно тому, как стандартная линейная регрессия используется для моделирования непрерывных переменных (например, доход или население). В частности, модели логистической регрессии можно сформулировать как модели скрытых переменных с переменными ошибок, следующими за логистическим распределением. Эта формулировка распространена в теории моделей дискретного выбора , где логистическое распределение играет ту же роль в логистической регрессии, что и нормальное распределение в пробит-регрессии . Действительно, логистическое и нормальное распределения имеют довольно похожую форму. Однако логистическое распределение имеет более тяжелые хвосты , что часто повышает надежность анализов, основанных на нем, по сравнению с использованием нормального распределения.

Физика

PDF этого распределения имеет ту же функциональную форму, что и производная функции Ферми . В теории электронных свойств в полупроводниках и металлах эта производная устанавливает относительный вес различных энергий электронов в их вкладе в электронный транспорт. Те энергетические уровни, энергии которых наиболее близки к «среднему» распределению ( уровень Ферми ), доминируют в таких процессах, как электронная проводимость, с некоторым размыванием, вызванным температурой. ^{[3] : 34} Однако соответствующее распределение вероятностей в статистике Ферми–Дирака на самом деле является простым распределением Бернулли с фактором вероятности, заданным функцией Ферми.

Логистическое распределение возникает как предельное распределение затухающего случайного движения с конечной скоростью, описываемого телеграфным процессом, в котором случайные времена между последовательными изменениями скорости имеют независимые экспоненциальные распределения с линейно возрастающими параметрами. ^[4]

Гидрология

Подогнанное кумулятивное логистическое распределение осадков в октябре с использованием CumFreq , см. также Подгонка распределения

В гидрологии распределение долгосрочного речного стока и осадков (например, ежемесячные и годовые итоги, состоящие из суммы 30 и соответственно 360 суточных значений) часто считается почти нормальным в соответствии с центральной предельной теоремой . ^[5] Однако нормальное распределение требует численного приближения. Поскольку логистическое распределение, которое можно решить аналитически, похоже на нормальное распределение, его можно использовать вместо него. Синяя картинка иллюстрирует пример подгонки логистического распределения к ранжированным октябрьским осадкам, которые распределены почти нормально, и она показывает 90% доверительный пояс на основе биномиального распределения . Данные об осадках представлены путем построения позиций в рамках кумулятивного частотного анализа .

Рейтинги шахмат

Шахматная федерация США и ФИДЕ изменили формулу расчета шахматных рейтингов с нормального распределения на логистическое распределение; см. статью о системе рейтинга Эло (которая сама основана на нормальном распределении).

Связанные дистрибутивы

• Логистическое распределение имитирует распределение Сеча ; это различные случаи распределения Чамперноуна .
• Если тогда . ${\displaystyle X\sim \mathrm {Logistic} (\mu ,s)}$ ${\displaystyle kX+\ell \sim \mathrm {Logistic} (k\mu +\ell ,|k|s)}$
• Если U(0, 1), то , где — логарифмическая функция. ${\displaystyle X\sim }$ ${\displaystyle \mu +s\cdot {\text{logit}}(X)\sim \mathrm {Logistic} (\mu ,s)}$ ${\displaystyle {\text{logit}}(X)=\log X-\log(1-X)}$
• Если и независимо, то . ${\displaystyle X\sim \mathrm {Gumbel} (\mu _{X},\beta )}$ ${\displaystyle Y\sim \mathrm {Gumbel} (\mu _{Y},\beta )}$ ${\displaystyle X-Y\sim \mathrm {Logistic} (\mu _{X}-\mu _{Y},\beta )\,}$
• Если и то (Сумма не является логистическим распределением). . ${\displaystyle X}$ ${\displaystyle Y\sim \mathrm {Gumbel} (\mu ,\beta )}$ ${\displaystyle X+Y\nsim \mathrm {Logistic} (2\mu ,\beta )\,}$ ${\displaystyle E(X+Y)=2\mu +2\beta \gamma \neq 2\mu =E\left(\mathrm {Logistic} (2\mu ,\beta )\right)}$
• Если X ~ Logistic( μ , s ), то exp( X ) ~ LogLogistic , а exp( X ) + γ ~ сдвинутый лог-логистический . ${\displaystyle \left(\alpha =e^{\mu },\beta ={\frac {1}{s}}\right)}$ ${\displaystyle \left(\alpha =e^{\mu },\beta ={\frac {1}{s}},\gamma \right)}$
• Если X ~ Экспоненциальный(1), то

${\displaystyle \mu +s\log(e^{X}-1)\sim \operatorname {Logistic} (\mu ,s).}$

• Если X , Y ~ Exponential(λ) независимо, то

${\displaystyle \mu +s\log \left({\frac {X}{Y}}\right)\sim \operatorname {Logistic} (\mu ,s).}$

• Распределение металогарифма является обобщением логистического распределения, в котором разложения степенного ряда по заменяются на логистические параметры и . Полученная функция квантиля металогарифма обладает высокой гибкостью формы, имеет простую замкнутую форму и может быть подогнана к данным с помощью линейного метода наименьших квадратов. ${\displaystyle p}$ ${\displaystyle \mu }$ ${\displaystyle \sigma }$

Производные

Моменты высшего порядка

Центральный момент n -го порядка можно выразить через функцию квантиля:

${\displaystyle {\begin{aligned}\operatorname {E} [(X-\mu )^{n}]&=\int _{-\infty }^{\infty }(x-\mu )^{n}\,dF(x)\\&=\int _{0}^{1}{\big (}Q(p)-\mu {\big )}^{n}\,dp=s^{n}\int _{0}^{1}\left[\ln \!\left({\frac {p}{1-p}}\right)\right]^{n}\,dp.\end{aligned}}}$

Этот интеграл хорошо известен ^[6] и может быть выражен через числа Бернулли :

${\displaystyle \operatorname {E} [(X-\mu )^{n}]=s^{n}\pi ^{n}(2^{n}-2)\cdot |B_{n}|.}$

Смотрите также

• обобщенное логистическое распределение
• Распределение лямбда Тьюки
• лог-логистическое распределение
• полулогистическое распределение
• логистическая регрессия
• сигмовидная функция

Примечания

1. Нортон, Мэтью; Хохлов, Валентин; Урясев, Стэн (2019). «Расчет CVaR и bPOE для общих распределений вероятностей с применением к оптимизации портфеля и оценке плотности» (PDF) . Annals of Operations Research . 299 (1–2). Springer: 1281–1315. doi :10.1007/s10479-019-03373-1. Архивировано из оригинала (PDF) 1 марта 2023 г. . Получено 27 февраля 2023 г. .
2. Джонсон, Коц и Балакришнан (1995, стр. 116).
3. Дэвис, Джон Х. (1998). Физика низкоразмерных полупроводников: Введение . Издательство Кембриджского университета. ISBN 9780521484916.
4. А. Ди Крещенцо, Б. Мартинуччи (2010) «Затухающий телеграфный случайный процесс с логистическим стационарным распределением», J. Appl. Prob. , т. 47, стр. 84–96.
5. Ritzema, HP, ред. (1994). Анализ частоты и регрессии. Глава 6 в: Принципы и применение дренажа, публикация 16, Международный институт мелиорации и улучшения земель (ILRI), Вагенинген, Нидерланды. стр. 175–224. ISBN 90-70754-33-9.
6. OEIS : A001896

Ссылки

• Джон С. деКани и Роберт А. Стайн (1986). «Заметка о выводе информационной матрицы для логистического распределения». Американский статистик . 40. Американская статистическая ассоциация: 220–222. doi :10.2307/2684541.
• Н., Балакришнан (1992). Справочник по логистической дистрибуции . Марсель Деккер, Нью-Йорк. ISBN 0-8247-8587-8.
• Джонсон, Н. Л.; Коц, С.; Н., Балакришнан (1995). Непрерывные одномерные распределения . Том 2 (2-е изд.). ISBN 0-471-58494-0.

• Модис, Теодор (1992) Предсказания: подпись общества, которая выдает прошлое и предсказывает будущее , Simon & Schuster, Нью-Йорк. ISBN 0-671-75917-5