процесс Бернулли

Случайный процесс двоичных (булевых) случайных величин

В теории вероятности и статистики процесс Бернулли (названный в честь Якоба Бернулли ) представляет собой конечную или бесконечную последовательность двоичных случайных величин , поэтому это дискретный во времени стохастический процесс , который принимает только два значения, канонически 0 и 1. Компонентные переменные Бернулли X _i одинаково распределены и независимы . Прозаически процесс Бернулли представляет собой повторяющееся подбрасывание монеты , возможно, с нечестной монетой (но с последовательной нечестностью). Каждая переменная X _i в последовательности связана с испытанием или экспериментом Бернулли . Все они имеют одно и то же распределение Бернулли . Многое из того, что можно сказать о процессе Бернулли, также можно обобщить на более чем два результата (например, процесс для шестигранной игральной кости); это обобщение известно как схема Бернулли .

Задачу определения процесса, учитывая лишь ограниченную выборку испытаний Бернулли, можно назвать задачей проверки честности монеты .

Определение

Процесс Бернулли — это конечная или бесконечная последовательность независимых случайных величин X ₁ ,  X ₂ ,  X ₃ , ..., такая, что

• для каждого i значение X _i равно 0 или 1;
• для всех значений вероятность p того, что X _i  = 1, одинакова. ${\textstyle i}$

Другими словами, процесс Бернулли представляет собой последовательность независимых одинаково распределенных испытаний Бернулли .

Независимость испытаний подразумевает, что процесс не имеет памяти . Учитывая, что вероятность p известна, прошлые результаты не дают никакой информации о будущих результатах. (Однако, если p неизвестно, прошлое информирует о будущем косвенно, через выводы о  p .)

Если процесс бесконечен, то с любой точки будущие испытания образуют процесс Бернулли, идентичный всему процессу, свойство нового старта.

Интерпретация

Два возможных значения каждого X _i часто называются «успехом» и «неудачей». Таким образом, когда результат выражается числом 0 или 1, его можно назвать числом успехов в i -м «испытании».

Две другие распространенные интерпретации значений — это истина или ложь и да или нет. При любой интерпретации двух значений отдельные переменные X _i можно назвать испытаниями Бернулли с параметром p.

Во многих приложениях время проходит между испытаниями, поскольку индекс i увеличивается. По сути, испытания X ₁ ,  X ₂ , ...  X _i , ... происходят в "моменты времени" 1, 2, ...,  i , .... Однако этот ход времени и связанные с ним понятия "прошлого" и "будущего" не являются необходимыми. В общем случае любые X _i и X _j в процессе являются просто двумя из набора случайных величин, индексированных {1, 2, ...,  n }, конечные случаи, или {1, 2, 3, ...}, бесконечные случаи.

Один эксперимент только с двумя возможными результатами, часто называемыми «успех» и «неудача», обычно кодируемыми как 1 и 0, можно смоделировать как распределение Бернулли . ^[1] Несколько случайных величин и распределений вероятностей помимо распределения Бернулли могут быть получены из процесса Бернулли:

• Число успехов в первых n испытаниях, которое имеет биномиальное распределение B( n ,  p )
• Число неудач, необходимое для получения r успехов, которое имеет отрицательное биномиальное распределение NB( r ,  p )
• Число неудач, необходимое для получения одного успеха, которое имеет геометрическое распределение NB(1,  p ), частный случай отрицательного биномиального распределения.

Отрицательные биномиальные переменные можно интерпретировать как случайное время ожидания .

Формальное определение

Процесс Бернулли можно формализовать на языке вероятностных пространств как случайную последовательность независимых реализаций случайной величины, которая может принимать значения орла или решки. Пространство состояний для отдельного значения обозначается как ${\displaystyle 2=\{H,T\}.}$

алгебра Бореля

Рассмотрим счетно бесконечное прямое произведение копий . Обычно рассматривают либо односторонний набор , либо двусторонний набор . На этом пространстве существует естественная топология , называемая топологией произведения . Множества в этой топологии представляют собой конечные последовательности подбрасываний монеты, то есть строки конечной длины из H и T ( H обозначает орел, а T обозначает решку), при этом остальная часть (бесконечно длинная) последовательности рассматривается как «безразлично». Эти множества конечных последовательностей называются цилиндрическими множествами в топологии произведения. Множество всех таких строк образует сигма-алгебру , в частности, алгебру Бореля . Затем эта алгебра обычно записывается как , где элементы представляют собой последовательности конечной длины подбрасываний монеты (цилиндрические множества). ${\displaystyle 2=\{H,T\}}$ ${\displaystyle \Omega =2^{\mathbb {N} }=\{H,T\}^{\mathbb {N} }}$ ${\displaystyle \Omega =2^{\mathbb {Z} }}$ ${\displaystyle (\Omega ,{\mathcal {B}})}$ ${\displaystyle {\mathcal {B}}}$

Мера Бернулли

Если шансы выпадения орла или решки задаются вероятностями , то можно определить естественную меру на пространстве произведений, заданную (или для двустороннего процесса). Другими словами, если дискретная случайная величина X имеет распределение Бернулли с параметром p , где 0 ≤ p ≤ 1, а ее функция массы вероятности задается как ${\displaystyle \{p,1-p\}}$ ${\displaystyle P=\{p,1-p\}^{\mathbb {N} }}$ ${\displaystyle P=\{p,1-p\}^{\mathbb {Z} }}$

${\displaystyle pX(1)=P(X=1)=p}$и . ${\displaystyle pX(0)=P(X=0)=1-p}$

Обозначим это распределение через Ber( p ). ^[1]

При наличии набора цилиндров, то есть определенной последовательности результатов подбрасывания монеты в определенное время , вероятность наблюдения этой конкретной последовательности определяется выражением ${\displaystyle [\omega _{1},\omega _{2},\cdots \omega _{n}]}$ ${\displaystyle 1,2,\cdots ,n}$

${\displaystyle P([\omega _{1},\omega _{2},\cdots ,\omega _{n}])=p^{k}(1-p)^{n-k}}$

где k — это количество раз, когда H появляется в последовательности, а n − k — это количество раз, когда T появляется в последовательности. Существует несколько различных видов обозначений для вышеизложенного; наиболее распространенным является запись

${\displaystyle P(X_{1}=x_{1},X_{2}=x_{2},\cdots ,X_{n}=x_{n})=p^{k}(1-p)^{n-k}}$

где каждый из них является двоичной случайной величиной с обозначением в скобках Айверсона , что означает либо если, либо если . Эта вероятность обычно называется мерой Бернулли . ^[2] ${\displaystyle X_{i}}$ ${\displaystyle x_{i}=[\omega _{i}=H]}$ ${\displaystyle 1}$ ${\displaystyle \omega _{i}=H}$ ${\displaystyle 0}$ ${\displaystyle \omega _{i}=T}$ ${\displaystyle P}$

Обратите внимание, что вероятность любой конкретной, бесконечно длинной последовательности подбрасываний монеты равна нулю; это происходит потому , что для любого . Вероятность, равная 1, подразумевает, что любая заданная бесконечная последовательность имеет меру ноль . Тем не менее, можно все равно сказать, что некоторые классы бесконечных последовательностей подбрасываний монеты гораздо более вероятны, чем другие, это задается свойством асимптотического равнораспределения . ${\displaystyle \lim _{n\to \infty }p^{n}=0}$ ${\displaystyle 0\leq p<1}$

Чтобы завершить формальное определение, процесс Бернулли задается вероятностной тройкой , как определено выше. ${\displaystyle (\Omega ,{\mathcal {B}},P)}$

Закон больших чисел, биномиальное распределение и центральная предельная теорема

Предположим, что канонический процесс с представлен и представлен . Закон больших чисел гласит, что среднее значение последовательности, т. е. , почти наверняка приблизится к ожидаемому значению , то есть события, которые не удовлетворяют этому пределу, имеют нулевую вероятность. Ожидаемое значение подбрасывания орла , предположительно представленное 1, определяется как . Фактически, можно ${\displaystyle H}$ ${\displaystyle 1}$ ${\displaystyle T}$ ${\displaystyle 0}$ ${\displaystyle {\bar {X}}_{n}:={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ ${\displaystyle p}$

${\displaystyle \mathbb {E} [X_{i}]=\mathbb {P} ([X_{i}=1])=p,}$

для любой заданной случайной величины из бесконечной последовательности испытаний Бернулли, составляющих процесс Бернулли. ${\displaystyle X_{i}}$

Часто бывает интересно узнать, как часто можно наблюдать H в последовательности из n подбрасываний монеты. Это можно сделать простым подсчетом: если задано n последовательных подбрасываний монеты, то есть, если задано множество всех возможных строк длины n , число N ( k , n ) таких строк, которые содержат k вхождений H, определяется биномиальным коэффициентом

${\displaystyle N(k,n)={n \choose k}={\frac {n!}{k!(n-k)!}}}$

Если вероятность выпадения орла равна p , то общая вероятность увидеть строку длины n с k орлами равна

${\displaystyle \mathbb {P} ([S_{n}=k])={n \choose k}p^{k}(1-p)^{n-k},}$

где . Определенная таким образом мера вероятности известна как биномиальное распределение . ${\displaystyle S_{n}=\sum _{i=1}^{n}X_{i}}$

Как мы видим из приведенной выше формулы, если n=1, биномиальное распределение превратится в распределение Бернулли . Таким образом, мы можем знать, что распределение Бернулли является в точности частным случаем биномиального распределения, когда n равно 1.

Особый интерес представляет вопрос о значении для достаточно длинной последовательности подбрасываний монеты, то есть для предела . В этом случае можно воспользоваться приближением Стирлинга к факториалу и записать ${\displaystyle S_{n}}$ ${\displaystyle n\to \infty }$

${\displaystyle n!={\sqrt {2\pi n}}\;n^{n}e^{-n}\left(1+{\mathcal {O}}\left({\frac {1}{n}}\right)\right)}$

Подставляя это в выражение для P ( k , n ), получаем нормальное распределение ; это содержание центральной предельной теоремы , и это простейший ее пример.

Сочетание закона больших чисел вместе с центральной предельной теоремой приводит к интересному и, возможно, удивительному результату: свойству асимптотического равнораспределения . Говоря неформально, можно заметить, что, да, за много подбрасываний монеты, мы будем наблюдать H ровно p долю времени, и что это точно соответствует пику гауссианы. Свойство асимптотического равнораспределения по сути утверждает, что этот пик бесконечно острый, с бесконечным спадом с обеих сторон. То есть, учитывая набор всех возможных бесконечно длинных строк H и T , встречающихся в процессе Бернулли, этот набор разбивается на две части: те строки, которые встречаются с вероятностью 1, и те, которые встречаются с вероятностью 0. Это разбиение известно как закон Колмогорова 0-1 .

Размер этого множества также интересен и может быть определен явно: его логарифм в точности равен энтропии процесса Бернулли. Еще раз рассмотрим множество всех строк длины n . Размер этого множества равен . Из них только определенное подмножество вероятно; размер этого множества равен . Используя приближение Стирлинга, подставляя его в выражение для P ( k , n ), решая для местоположения и ширины пика и, наконец, взяв, находим, что ${\displaystyle 2^{n}}$ ${\displaystyle 2^{nH}}$ ${\displaystyle H\leq 1}$ ${\displaystyle n\to \infty }$

${\displaystyle H=-p\log _{2}p-(1-p)\log _{2}(1-p)}$

Это значение — энтропия Бернулли процесса Бернулли. Здесь H обозначает энтропию; не путать с тем же символом H, обозначающим головы .

Джон фон Нейман поставил вопрос о процессе Бернулли относительно возможности того, что данный процесс изоморфен другому , в смысле изоморфизма динамических систем . Вопрос долгое время не поддавался анализу, но был окончательно и полностью решен теоремой Орнштейна об изоморфизме . Этот прорыв привел к пониманию того, что процесс Бернулли уникален и универсален ; в определенном смысле это единственный наиболее случайный процесс из возможных; нет ничего «более» случайного, чем процесс Бернулли (хотя следует быть осторожным с этим неформальным утверждением; безусловно, системы, которые являются перемешивающими , в определенном смысле «сильнее», чем процесс Бернулли, который является просто эргодическим, но не перемешивающим. Однако такие процессы не состоят из независимых случайных величин: действительно, многие чисто детерминированные, неслучайные системы могут быть перемешивающими).

Динамические системы

Процесс Бернулли также можно понимать как динамическую систему , как пример эргодической системы и, в частности, динамической системы, сохраняющей меру , одним из нескольких различных способов. Один способ — как сдвиговое пространство , а другой — как одометр . Они рассматриваются ниже.

сдвиг Бернулли

Один из способов создания динамической системы из процесса Бернулли — это сдвиговое пространство . Существует естественная симметрия переноса на пространстве произведений, заданная оператором сдвига ${\displaystyle \Omega =2^{\mathbb {N} }}$

${\displaystyle T(X_{0},X_{1},X_{2},\cdots )=(X_{1},X_{2},\cdots )}$

Мера Бернулли, определенная выше, является трансляционно-инвариантной; то есть, для любого набора цилиндров имеем ${\displaystyle \sigma \in {\mathcal {B}}}$

${\displaystyle P(T^{-1}(\sigma ))=P(\sigma )}$

и, таким образом , мера Бернулли является мерой Хаара ; это инвариантная мера на пространстве произведений.

Вместо вероятностной меры рассмотрим некоторую произвольную функцию . ${\displaystyle P:{\mathcal {B}}\to \mathbb {R} }$ ${\displaystyle f:{\mathcal {B}}\to \mathbb {R} }$

${\displaystyle f\circ T^{-1}}$

определяется как снова некоторая функция Таким образом, отображение индуцирует другое отображение на пространстве всех функций То есть, учитывая некоторое , можно определить ${\displaystyle \left(f\circ T^{-1}\right)(\sigma )=f(T^{-1}(\sigma ))}$ ${\displaystyle {\mathcal {B}}\to \mathbb {R} .}$ ${\displaystyle T}$ ${\displaystyle {\mathcal {L}}_{T}}$ ${\displaystyle {\mathcal {B}}\to \mathbb {R} .}$ ${\displaystyle f:{\mathcal {B}}\to \mathbb {R} }$

${\displaystyle {\mathcal {L}}_{T}f=f\circ T^{-1}}$

Отображение является линейным оператором , как (очевидно) и для функций и констант . Этот линейный оператор называется оператором переноса или оператором Рюэля–Фробениуса–Перрона . Этот оператор имеет спектр , то есть набор собственных функций и соответствующих собственных значений. Наибольшее собственное значение — это собственное значение Фробениуса–Перрона , и в этом случае оно равно 1. Соответствующий собственный вектор — это инвариантная мера: в этом случае это мера Бернулли. То есть, ${\displaystyle {\mathcal {L}}_{T}}$ ${\displaystyle {\mathcal {L}}_{T}(f+g)={\mathcal {L}}_{T}(f)+{\mathcal {L}}_{T}(g)}$ ${\displaystyle {\mathcal {L}}_{T}(af)=a{\mathcal {L}}_{T}(f)}$ ${\displaystyle f,g}$ ${\displaystyle a}$ ${\displaystyle {\mathcal {L}}_{T}(P)=P.}$

Если ограничиться действием на многочлены, то собственными функциями будут (как ни странно) многочлены Бернулли ! ^{[3] [4]} Это совпадение названий, по-видимому, не было известно Бернулли. ${\displaystyle {\mathcal {L}}_{T}}$

Карта 2x mod 1

Отображение T  : [0,1) → [0,1) сохраняет меру Лебега . ${\displaystyle x\mapsto 2x{\bmod {1}}}$

Вышесказанное можно сделать более точным. Дана бесконечная строка двоичных цифр, напишите ${\displaystyle b_{0},b_{1},\cdots }$

${\displaystyle y=\sum _{n=0}^{\infty }{\frac {b_{n}}{2^{n+1}}}.}$

Результатом является действительное число в единичном интервале Сдвиг индуцирует гомоморфизм , также называемый , на единичном интервале. Поскольку можно видеть, что Это отображение называется диадическим преобразованием ; для двойной бесконечной последовательности битов индуцированный гомоморфизм является отображением Бейкера . ${\displaystyle y}$ ${\displaystyle 0\leq y\leq 1.}$ ${\displaystyle T}$ ${\displaystyle T}$ ${\displaystyle T(b_{0},b_{1},b_{2},\cdots )=(b_{1},b_{2},\cdots ),}$ ${\displaystyle T(y)=2y{\bmod {1}}.}$ ${\displaystyle \Omega =2^{\mathbb {Z} },}$

Рассмотрим теперь пространство функций в . При условии, что кто-то может найти, что ${\displaystyle y}$ ${\displaystyle f(y)}$

${\displaystyle \left[{\mathcal {L}}_{T}f\right](y)={\frac {1}{2}}f\left({\frac {y}{2}}\right)+{\frac {1}{2}}f\left({\frac {y+1}{2}}\right)}$

Ограничивая действие оператора функциями, являющимися полиномами, можно обнаружить, что он имеет дискретный спектр , заданный выражением ${\displaystyle {\mathcal {L}}_{T}}$

${\displaystyle {\mathcal {L}}_{T}B_{n}=2^{-n}B_{n}}$

где — полиномы Бернулли . Действительно, полиномы Бернулли подчиняются тождеству ${\displaystyle B_{n}}$

${\displaystyle {\frac {1}{2}}B_{n}\left({\frac {y}{2}}\right)+{\frac {1}{2}}B_{n}\left({\frac {y+1}{2}}\right)=2^{-n}B_{n}(y)}$

Множество Кантора

Обратите внимание, что сумма

${\displaystyle y=\sum _{n=0}^{\infty }{\frac {b_{n}}{3^{n+1}}}}$

дает функцию Кантора , как это обычно определяется. Это одна из причин, почему набор иногда называют набором Кантора . ${\displaystyle \{H,T\}^{\mathbb {N} }}$

Одометр

Другой способ создания динамической системы — определить одометр . Неформально это именно то, на что это похоже: просто «добавьте единицу» к первой позиции и позвольте одометру «перевернуться», используя биты переноса по мере того, как одометр переворачивается. Это не более чем сложение по основанию два на множестве бесконечных строк. Поскольку сложение образует группу (математику) , а процессу Бернулли уже была задана топология выше, это дает простой пример топологической группы .

В этом случае преобразование задается выражением ${\displaystyle T}$

${\displaystyle T\left(1,\dots ,1,0,X_{k+1},X_{k+2},\dots \right)=\left(0,\dots ,0,1,X_{k+1},X_{k+2},\dots \right).}$

Он оставляет меру Бернулли инвариантной только для особого случая («честной монеты»); в противном случае — нет. Таким образом, является динамической системой, сохраняющей меру , в противном случае это просто консервативная система . ${\displaystyle p=1/2}$ ${\displaystyle T}$

последовательность Бернулли

Термин последовательность Бернулли часто неформально используется для обозначения реализации процесса Бернулли. Однако этот термин имеет совершенно иное формальное определение, как указано ниже.

Предположим, что процесс Бернулли формально определен как одна случайная величина (см. предыдущий раздел). Для каждой бесконечной последовательности x подбрасываний монеты существует последовательность целых чисел

${\displaystyle \mathbb {Z} ^{x}=\{n\in \mathbb {Z} :X_{n}(x)=1\}\,}$

называется последовательностью Бернулли ^{[ требуется проверка ]} связанной с процессом Бернулли. Например, если x представляет собой последовательность подбрасываний монеты, то соответствующая последовательность Бернулли — это список натуральных чисел или моментов времени, для которых результатом подбрасывания монеты является орел .

Определенная таким образом последовательность Бернулли также является случайным подмножеством множества индексов, натуральных чисел . ${\displaystyle \mathbb {Z} ^{x}}$ ${\displaystyle \mathbb {N} }$

Почти все последовательности Бернулли являются эргодическими последовательностями . ^{[ требуется проверка ]} ${\displaystyle \mathbb {Z} ^{x}}$

Извлечение случайности

Из любого процесса Бернулли можно вывести процесс Бернулли с p  = 1/2 с помощью экстрактора фон Неймана , самого раннего экстрактора случайности , который фактически извлекает равномерную случайность.

Базовый экстрактор фон Неймана

Представьте наблюдаемый процесс в виде последовательности нулей и единиц, или битов, и сгруппируйте этот входной поток в неперекрывающиеся пары последовательных битов, например (11)(00)(10)... Затем для каждой пары,

• если биты равны, отбросить;
• если биты не равны, вывести первый бит.

В этой таблице приведены результаты расчетов.

Например, входной поток из восьми бит 10011011 будет сгруппирован в пары как (10)(01)(10)(11) . Затем, согласно таблице выше, эти пары преобразуются в вывод процедуры: (1)(0)(1)() (= 101 ).

В выходном потоке 0 и 1 равновероятны, как 10 и 01 равновероятны в оригинале, оба имеют вероятность p (1− p ) = (1− p ) p . Это извлечение равномерной случайности не требует, чтобы входные испытания были независимыми, а только некоррелированными . В более общем смысле, это работает для любой заменяемой последовательности битов: все последовательности, которые являются конечными перестановками, равновероятны.

Экстрактор фон Неймана использует два входных бита для получения либо нуля, либо одного выходного бита, поэтому выход короче входного по меньшей мере в 2 раза. В среднем вычисление отбрасывает пропорцию p ²  + (1 −  p ) ² входных пар (00 и 11), которая близка к единице, когда p близка к нулю или единице, и минимизируется до 1/4, когда p  = 1/2 для исходного процесса (в этом случае выходной поток в среднем составляет 1/4 длины входного потока).

Псевдокод основной операции фон Неймана (классический) :

если (Бит1 ≠ Бит2) { выход (Бит1)}

Итерированный экстрактор фон Неймана

Это снижение эффективности или потеря случайности, присутствующей во входном потоке, может быть смягчена путем итерации алгоритма по входным данным. Таким образом, выход может быть сделан "произвольно близким к границе энтропии". ^[5]

Итерированная версия алгоритма фон Неймана, также известная как усовершенствованная многоуровневая стратегия (AMLS), ^[6] была представлена ​​Ювалем Пересом в 1992 году. ^[5] Она работает рекурсивно, перерабатывая «тратящуюся впустую случайность» из двух источников: последовательности отбрасывания-неотбрасывания и значений отброшенных пар (0 для 00 и 1 для 11). Она основана на том факте, что, учитывая уже сгенерированную последовательность, оба этих источника по-прежнему являются взаимозаменяемыми последовательностями битов и, таким образом, пригодны для другого раунда извлечения. Хотя такая генерация дополнительных последовательностей может быть итерирована бесконечно для извлечения всей доступной энтропии, требуется бесконечное количество вычислительных ресурсов, поэтому количество итераций обычно фиксируется на низком значении — это значение либо фиксируется заранее, либо рассчитывается во время выполнения.

Более конкретно, на входной последовательности алгоритм потребляет входные биты парами, генерируя выходные данные вместе с двумя новыми последовательностями, () дает бумажную нотацию AMLS:

(Если длина входных данных нечетная, последний бит полностью отбрасывается.) Затем алгоритм применяется рекурсивно к каждой из двух новых последовательностей, пока входные данные не станут пустыми.

Пример: Входной поток из статьи AMLS, 11001011101110, использующий 1 для H и 0 для T, обрабатывается следующим образом:

Начиная с шага 1, входные данные представляют собой конкатенацию последовательности 2 и последовательности 1 из предыдущего шага (порядок произвольный, но должен быть фиксированным). Окончательный вывод — ()()(1)()(1)()(1)(1)()()(0)(0)()(0)(1)(1)()(1) (= 1111000111 ), так что из 14 бит ввода было сгенерировано 10 бит вывода, в отличие от 3 бит только через алгоритм фон Неймана. Постоянный вывод ровно 2 бита за раунд на пару бит (по сравнению с переменной none на 1 бит в классическом VN) также позволяет реализовать реализации с постоянным временем, которые устойчивы к атакам по времени .

Псевдокод основной операции фон Неймана–Переса (итеративный):

если (Бит1 ≠ Бит2) { вывод(1, Последовательность1) выход (Бит1)} еще { выход(0, Последовательность1) выход (Бит1, Последовательность2)}

Еще одно изменение было представлено в 2016 году, основанное на наблюдении, что канал Sequence2 не обеспечивает большой пропускной способности, и аппаратная реализация с конечным числом уровней может выиграть от его более раннего отказа в обмен на обработку большего количества уровней Sequence1. ^[7]

Ссылки

1. Деккинг, FM; Краайкамп, К.; Лопухаа, Х.П.; Мистер, Л.Е. (2005). Современное введение в вероятность и статистику . стр. 45–46. ISBN 9781852338961.
2. Кленке, Ахим (2006). Теория вероятностей . Springer-Verlag. ISBN 978-1-84800-047-6.
3. Пьер Гаспар, « r -адические одномерные отображения и формула суммирования Эйлера», Journal of Physics A , 25 (письмо) L483-L485 (1992).
4. Дин Дж. Дрибе, Полностью хаотические карты и нарушенная симметрия времени, (1999) Kluwer Academic Publishers, Дордрехт, Нидерланды ISBN 0-7923-5564-4 
5. Peres, Yuval (март 1992 г.). «Итерация процедуры фон Неймана для извлечения случайных битов». Анналы статистики . 20 (1): 590–597. doi : 10.1214/aos/1176348543 .
6. "Бросание необъективной монеты" (PDF) . eecs.harvard.edu. Архивировано (PDF) из оригинала 2010-03-31 . Получено 2018-07-28 .
7. Rožić, Владимир; Yang, Bohan; Dehaene, Wim; Verbauwhede, Ingrid (3–5 мая 2016 г.). Итерация постобработки фон Неймана в условиях аппаратных ограничений (PDF) . Международный симпозиум IEEE 2016 года по аппаратно-ориентированной безопасности и доверию (HOST). Маклин, Вирджиния, США. doi : 10.1109/HST.2016.7495553. Архивировано (PDF) из оригинала 12.02.2019.

Дальнейшее чтение

• Карл В. Хелстром, Вероятность и стохастические процессы для инженеров , (1984) Macmillan Publishing Company, Нью-Йорк ISBN 0-02-353560-1 . 

Внешние ссылки

• Использование диаграммы двоичного дерева для описания процесса Бернулли