В древней истории понятия случайности и хаотичности были переплетены с понятием судьбы. Многие древние народы бросали кости, чтобы определить судьбу, и это позже превратилось в азартные игры . В то же время большинство древних культур использовали различные методы гадания , чтобы попытаться обойти случайность и судьбу. [1] [2] Помимо религии и азартных игр , случайность была засвидетельствована для жеребьевки, по крайней мере, со времен древней афинской демократии в форме клеротериона . [3]
Формализация шансов и случайностей, возможно, была впервые сделана китайцами 3000 лет назад. Греческие философы подробно обсуждали случайность, но только в неколичественных формах. Только в шестнадцатом веке итальянские математики начали формализовать шансы, связанные с различными азартными играми. Изобретение современного исчисления оказало положительное влияние на формальное изучение случайности. В девятнадцатом веке в физику было введено понятие энтропии .
В начале двадцатого века наблюдался быстрый рост формального анализа случайности, и были введены математические основы вероятности, что привело к ее аксиоматизации в 1933 году. В то же время появление квантовой механики изменило научную точку зрения на определенность . В середине и конце двадцатого века идеи алгоритмической теории информации ввели новые измерения в эту область через концепцию алгоритмической случайности .
Хотя случайность часто рассматривалась как препятствие и помеха на протяжении многих столетий, в двадцатом веке специалисты по компьютерам начали понимать, что преднамеренное введение случайности в вычисления может быть эффективным инструментом для разработки лучших алгоритмов. В некоторых случаях такие рандомизированные алгоритмы способны превзойти лучшие детерминированные методы.
Дохристианские люди вдоль Средиземноморья бросали кости, чтобы определить судьбу, и это позже превратилось в азартные игры. [4] Также есть свидетельства азартных игр, в которые играли древние египтяне, индусы и китайцы, датируемые 2100 годом до нашей эры. [5] Китайцы использовали кости раньше европейцев и имеют долгую историю азартных игр. [6]
Более 3000 лет назад проблемы, связанные с подбрасыванием нескольких монет, рассматривались в « И Цзин» , одном из старейших китайских математических текстов, который, вероятно, датируется 1150 годом до нашей эры. Два основных элемента инь и ян были объединены в «И Цзин» в различных формах для получения перестановок «Орел и Решка» типа HH, TH, HT и т. д., и китайцы, похоже, знали о треугольнике Паскаля задолго до того, как европейцы формализовали его в 17 веке. [7] Однако западная философия сосредоточилась на нематематических аспектах случая и случайности вплоть до 16 века.
Развитие концепции случайности на протяжении всей истории было очень постепенным. Историки задавались вопросом, почему прогресс в области случайности был таким медленным, учитывая, что люди сталкивались со случайностью с древних времен. Дебора Дж. Беннетт предполагает, что обычные люди сталкиваются с неотъемлемой трудностью в понимании случайности, хотя эта концепция часто воспринимается как очевидная и самоочевидная. Она цитирует исследования Канемана и Тверски ; они пришли к выводу, что статистические принципы не изучаются из повседневного опыта, потому что люди не уделяют внимания деталям, необходимым для получения таких знаний. [8]
Греческие философы были первыми западными мыслителями, которые обратились к случайности и хаотичности. Около 400 г. до н. э. Демокрит представил взгляд на мир, управляемый недвусмысленными законами порядка, и считал случайность субъективной концепцией, которая возникла только из-за неспособности людей понимать природу событий. Он использовал пример двух мужчин, которые одновременно посылали своих слуг за водой, чтобы заставить их встретиться. Слуги, не зная о плане, считали встречу случайной. [9]
Аристотель рассматривал случайность и необходимость как противоположные силы. Он утверждал, что природа имеет богатые и постоянные закономерности, которые не могут быть результатом одной лишь случайности, но что эти закономерности никогда не демонстрируют машиноподобного единообразия необходимого детерминизма. Он рассматривал случайность как подлинную и широко распространенную часть мира, но как подчиненную необходимости и порядку. [10] Аристотель классифицировал события на три типа: определенные события, которые происходят обязательно; вероятные события, которые происходят в большинстве случаев; и непознаваемые события, которые происходят по чистой случайности. Он считал исход азартных игр непознаваемым. [11]
Около 300 г. до н. э. Эпикур предложил концепцию, согласно которой случайность существует сама по себе, независимо от человеческого знания. Он считал, что в атомном мире атомы будут отклоняться наугад по своим траекториям, вызывая случайность на более высоких уровнях. [12]
В течение нескольких столетий после этого идея случая продолжала переплетаться с судьбой. Гадание практиковалось во многих культурах, используя различные методы. Китайцы анализировали трещины в панцирях черепах, в то время как германцы, которые, по словам Тацита, с большим уважением относились к жребию и предзнаменованиям, использовали полоски коры. [13] В Римской империи случай олицетворяла богиня Фортуна . Римляне принимали участие в азартных играх, чтобы смоделировать то, что решила бы Фортуна. В 49 г. до н. э. Юлий Цезарь якобы принял свое судьбоносное решение перейти Рубикон , бросив кости. [14] [ ненадежный источник? ]
Классификация Аристотеля событий на три класса: определенные , вероятные и непознаваемые была принята римскими философами, но им пришлось согласовать ее с детерминистскими христианскими учениями, в которых даже события, непознаваемые человеком, считались предопределенными Богом. Около 960 года епископ Вибольд из Камбре правильно перечислил 56 различных результатов (без перестановок) игры с тремя костями. Никаких упоминаний об игральных картах не было найдено в Европе до 1350 года. Церковь проповедовала против карточных игр, и карточные игры распространялись гораздо медленнее, чем игры, основанные на костях. [15] Христианская церковь специально запрещала гадания ; и везде, куда бы ни пришло христианство, гадания теряли большую часть своей прежней силы. [16] [17]
На протяжении столетий многие христианские ученые боролись с конфликтом между верой в свободу воли и ее подразумеваемой случайностью, и идеей о том, что Бог знает все, что происходит. Святые Августин и Фома Аквинский пытались достичь соглашения между предвидением и свободной волей, но Мартин Лютер выступил против случайности и занял позицию, что всеведение Бога делает человеческие действия неизбежными и определенными. [18] В 13 веке Фома Аквинский рассматривал случайность не как результат одной причины, а как результат нескольких причин, объединенных случайно. Хотя он верил в существование случайности, он отвергал ее как объяснение направленности природы на цель, поскольку он видел слишком много закономерностей в природе, чтобы они могли быть получены случайно. [19]
Греки и римляне не замечали величин относительных частот азартных игр. На протяжении столетий случай обсуждался в Европе без математического обоснования, и только в XVI веке итальянские математики начали обсуждать результаты азартных игр как отношения. [20] [21] [22] В своей книге Liber de Lude Aleae 1565 года (руководство для игроков, опубликованное после его смерти) Джероламо Кардано написал один из первых официальных трактатов, в котором анализировались шансы на выигрыш в различных играх. [23]
Около 1620 года Галилей написал статью под названием «Об открытии, касающемся игральных костей» , в которой использовалась ранняя вероятностная модель для решения конкретных вопросов. [24] В 1654 году, под влиянием интереса шевалье де Мере к азартным играм, Блез Паскаль переписывался с Пьером де Ферма , и была заложена большая часть основ теории вероятностей. Пари Паскаля было отмечено ранним использованием концепции бесконечности и первым формальным использованием теории принятия решений . Работы Паскаля и Ферма повлияли на работу Лейбница по исчислению бесконечно малых , что, в свою очередь, дало дополнительный импульс формальному анализу вероятности и случайности.
Первое известное предложение рассматривать случайность с точки зрения сложности было сделано Лейбницем в малоизвестном документе 17-го века, обнаруженном после его смерти. Лейбниц спрашивал, как можно узнать, был ли набор точек на листе бумаги выбран случайным образом (например, путем разбрызгивания чернил) или нет. Учитывая, что для любого набора конечных точек всегда существует математическое уравнение, которое может описать точки (например, с помощью интерполяции Лагранжа ), вопрос фокусируется на том, как точки выражаются математически. Лейбниц считал точки случайными, если функция, описывающая их, должна была быть чрезвычайно сложной. Три столетия спустя та же концепция была формализована как алгоритмическая случайность А. Н. Колмогоровым и Грегори Хайтиным как минимальная длина компьютерной программы, необходимая для описания конечной строки как случайной. [25]
«Доктрина вероятностей» , первый учебник по теории вероятностей, был опубликован в 1718 году, и с тех пор эта область продолжала развиваться. [26] Подход теории частот к вероятности был впервые разработан Робертом Эллисом и Джоном Венном в конце 19 века.
В то время как математическая элита достигала прогресса в понимании случайности с 17 по 19 век, широкая публика продолжала полагаться на такие практики, как гадание, в надежде укротить случай. Предсказания судьбы делались множеством способов как на Востоке (где гадание позже было названо зависимостью), так и в Европе цыганами и другими. [27] [28] Английские практики, такие как чтение яиц, брошенных в стакан, были экспортированы в пуританские общины в Северной Америке. [29]
«Я едва ли знаю что-либо, способное так поразить воображение, как замечательная форма космического порядка, выраженная «Законом частоты ошибок». Этот закон был бы олицетворен греками и обожествлен, если бы они знали о нем. Он царит с безмятежностью и полным самоуничижением среди самого дикого беспорядка. Чем больше толпа и чем больше кажущаяся анархия, тем совершеннее ее власть. Это высший закон Безрассудства. Всякий раз, когда большой образец хаотических элементов берется в руки и выстраивается в порядке их величины, неожиданная и самая прекрасная форма регулярности оказывается скрытой все это время. Вершины выстроенного ряда образуют плавную кривую неизменных пропорций; и каждый элемент, когда он сортируется на своем месте, находит, так сказать, предопределенную нишу, точно приспособленную для него » .
Гальтон (1894) [30]
Термин «энтропия» , который в настоящее время является ключевым элементом в изучении случайности, был придуман Рудольфом Клаузиусом в 1865 году, когда он изучал тепловые двигатели в контексте второго закона термодинамики . Клаузиус был первым, кто заявил, что «энтропия всегда увеличивается». [31]
Со времен Ньютона и примерно до 1890 года считалось, что если знать начальное состояние системы с большой точностью и если все силы, действующие на систему, можно сформулировать с одинаковой точностью, то в принципе можно делать предсказания состояния Вселенной на бесконечно долгое время. Пределы таких предсказаний в физических системах стали ясны еще в 1893 году, когда Анри Пуанкаре показал, что в задаче трех тел в астрономии небольшие изменения начального состояния могут привести к большим изменениям траекторий во время численного интегрирования уравнений. [32]
В 19 веке, по мере формализации и лучшего понимания теории вероятностей, отношение к «случайности как помехе» стало подвергаться сомнению. Гёте писал:
Ткань мира создана из необходимости и случайности; интеллект человека помещает себя между ними и может контролировать их; он учитывает необходимость и причину своего существования; он знает, как можно управлять случайностью, контролировать ее и использовать.
Слова Гете оказались пророческими, когда в 20 веке были обнаружены рандомизированные алгоритмы как мощные инструменты. [33] К концу 19 века модель механической вселенной Ньютона начала угасать, поскольку статистический взгляд на столкновение молекул в газах изучался Максвеллом и Больцманом . [34] Уравнение Больцмана S = k log e W (начертанное на его надгробии) впервые связало энтропию с логарифмами .
В течение 20-го века пять основных интерпретаций теории вероятностей (например, классическая , логическая , частотная , склонности и субъективная ) стали лучше поняты, обсуждались, сравнивались и противопоставлялись. [35] В этом столетии было разработано значительное количество областей применения, от финансов до физики. В 1900 году Луи Башелье применил броуновское движение для оценки опционов на акции , эффективно запустив области финансовой математики и стохастических процессов .
Эмиль Борель был одним из первых математиков, официально обратившихся к случайности в 1909 году, и ввел нормальные числа . [36] В 1919 году Рихард фон Мизес дал первое определение алгоритмической случайности через невозможность игровой системы . Он выдвинул частотную теорию случайности в терминах того, что он назвал коллективом , т. е. случайной последовательностью . [37] Фон Мизес рассматривал случайность коллектива как эмпирический закон, установленный опытом. Он связывал «беспорядок» или случайность коллектива с отсутствием успеха попыток игровых систем. Этот подход привел его к предложению определения случайности, которое позже было уточнено и сделано математически строгим Алонзо Чёрчем с использованием вычислимых функций в 1940 году. [38] Фон Мизес сравнил принцип невозможности игровой системы с принципом сохранения энергии , законом, который не может быть доказан, но остается верным в повторных экспериментах. [39]
Фон Мизес никогда полностью не формализовал свои правила выбора подпоследовательности, но в своей статье 1940 года «О концепции случайной последовательности» Алонзо Чёрч предположил, что функции, используемые для расстановки мест в формализме фон Мизеса, должны быть вычислимыми функциями, а не произвольными функциями начальных сегментов последовательности, апеллируя к тезису Чёрча–Тьюринга об эффективности. [40] [41]
Появление квантовой механики в начале 20-го века и формулировка принципа неопределенности Гейзенберга в 1927 году положили конец ньютоновскому мышлению среди физиков относительно детерминированности природы . В квантовой механике нет даже способа рассматривать все наблюдаемые элементы в системе как случайные величины одновременно , поскольку многие наблюдаемые не коммутируют. [42]
К началу 1940-х годов подход частотной теории к вероятности был хорошо принят в Венском кружке , но в 1950-х годах Карл Поппер предложил теорию предрасположенности . [43] [44] Учитывая, что частотный подход не может иметь дело с «единичным подбрасыванием» монеты и может рассматривать только большие ансамбли или коллективы, единичные вероятности рассматривались как предрасположенности или шансы. Концепция предрасположенности также была обусловлена желанием иметь дело с единичными вероятностными установками в квантовой механике, например, вероятностью распада определенного атома в определенный момент. В более общих чертах, частотный подход не может иметь дело с вероятностью смерти определенного человека, учитывая, что смерть не может повториться несколько раз для этого человека. Карл Поппер повторил то же мнение, что и Аристотель, рассматривая случайность как подчиненную порядку, когда он писал, что «понятие случайности не противоречит понятию закона» в природе, при условии, что мы учитываем законы случайности. [45]
Развитие теории информации Клодом Шенноном в 1948 году привело к энтропийному взгляду на случайность. С этой точки зрения случайность является противоположностью детерминизма в стохастическом процессе . Следовательно, если стохастическая система имеет нулевую энтропию, то она не имеет случайности, а любое увеличение энтропии увеличивает случайность. Формулировка Шеннона по умолчанию соответствует формулировке энтропии Больцмана 19-го века в случае, если все вероятности равны. [46] [47] Энтропия в настоящее время широко используется в различных областях науки от термодинамики до квантовой химии . [48]
Мартингалы для изучения шансов и стратегий ставок были введены Полем Леви в 1930-х годах и формализованы Джозефом Л. Дубом в 1950-х годах. [49] Применение гипотезы случайных блужданий в финансовой теории было впервые предложено Морисом Кендаллом в 1953 году. [50] Позднее ее продвигали Юджин Фама и Бертон Малкиел .
Случайные строки были впервые изучены в 1960-х годах А. Н. Колмогоровым (который дал первое аксиоматическое определение теории вероятностей в 1933 году), [51] Хайтином и Мартином-Лёфом . [52] Алгоритмическая случайность строки была определена как минимальный размер программы (например, в битах), выполняемой на универсальном компьютере , которая выдает строку. Число Омега Хайтина позже связало случайность и вероятность остановки программ. [53]
В 1964 году Бенуа Мандельброт предположил, что большинство статистических моделей приближаются лишь к первой стадии работы с неопределенностью и что они игнорируют многие аспекты турбулентности реального мира. [54] [55] В своей работе 1997 года он определил семь состояний случайности в диапазоне от «мягкой до дикой», при этом традиционная случайность находится на мягком конце шкалы. [56]
Несмотря на математические достижения, опора на другие методы работы со случайностями, такие как гадание и астрология, продолжалась и в 20 веке. Сообщается, что правительство Мьянмы формировало экономическую политику 20 века на основе гадания и планировало перенос столицы страны на основе советов астрологов. [57] [58] [59] Глава администрации Белого дома Дональд Риган критиковал участие астролога Джоан Куигли в решениях, принятых во время президентства Рональда Рейгана в 1980-х годах. [60] [61] [62] Куигли утверждает, что был астрологом Белого дома в течение семи лет. [63]
В 20 веке ограничения в работе со случайностью были лучше поняты. Самым известным примером как теоретических, так и операциональных ограничений предсказуемости является прогнозирование погоды, просто потому, что модели использовались в этой области с 1950-х годов. Прогнозы погоды и климата обязательно неопределенны. Наблюдения за погодой и климатом неопределенны и неполны, а модели, в которые вводятся данные, неопределенны. [64] В 1961 году Эдвард Лоренц заметил, что очень небольшое изменение исходных данных, представленных в компьютерную программу для моделирования погоды, может привести к совершенно другому погодному сценарию. Позже это стало известно как эффект бабочки , часто перефразируемый как вопрос: « Вызывает ли взмах крыльев бабочки в Бразилии торнадо в Техасе? ». [65] Ключевым примером серьезных практических ограничений предсказуемости является геология, где возможность предсказывать землетрясения как на индивидуальной, так и на статистической основе остается отдаленной перспективой. [66]
В конце 1970-х и начале 1980-х годов специалисты по информатике начали понимать, что преднамеренное введение случайности в вычисления может быть эффективным инструментом для разработки лучших алгоритмов. В некоторых случаях такие рандомизированные алгоритмы превосходят лучшие детерминированные методы. [33]
Чапарро, Луис Ф. (апрель 2020 г.). «Краткая история случайности».
Шейнин, О.Б. (1991). «Понятие случайности от Аристотеля до Пуанкаре» (PDF) . Математика и человеческие науки . 114 : 41–55.