Сингуляризм — это движение , основанное на вере в то, что технологическая сингулярность — создание сверхразума — вероятно, произойдет в обозримом будущем, и что необходимо предпринять преднамеренные действия, чтобы гарантировать, что эта сингулярность принесет пользу людям . [1]
Сингулярианцы отличаются от других футуристов , которые размышляют о технологической сингулярности, своей верой в то, что сингулярность не только возможна, но и желательна, если ею разумно управлять. Соответственно, они иногда могут посвятить свою жизнь действиям, которые, по их мнению, будут способствовать ее быстрой, но безопасной реализации. [2]
Журнал Time описывает мировоззрение сингулярианцев следующим образом: «Хотя это звучит как научная фантастика, это не так, как прогноз погоды не является научной фантастикой. Это не маргинальная идея; это серьезная гипотеза о будущем жизни на Земле. Существует интеллектуальный рвотный рефлекс, который включается всякий раз, когда вы пытаетесь проглотить идею, которая включает в себя сверхразумных бессмертных киборгов, но... хотя Сингулярность кажется, на первый взгляд, нелепой, эта идея заслуживает трезвой, осторожной оценки». [1]
Термин «Сингулярист» был первоначально определен экстропианским мыслителем Марком Плюсом (Марком Поттсом) в 1991 году как «тот, кто верит в концепцию Сингулярности». [ необходима ссылка ] С тех пор этот термин был переопределен и стал означать «активист Сингулярности» или «друг Сингулярности»; то есть тот, кто действует так, чтобы вызвать Сингулярность. [3]
Сингуляритарианизм также можно рассматривать как ориентацию или мировоззрение, которое предпочитает улучшение человеческого интеллекта как конкретную трансгуманистическую цель вместо того, чтобы сосредоточиться на конкретных технологиях, таких как ИИ [4]. Существуют также определения, которые определяют сингуляритарианца как активиста или друга концепции сингулярности, то есть того, кто действует так, чтобы вызвать сингулярность. [5] Некоторые источники описывают его как моральную философию, которая выступает за преднамеренные действия, чтобы вызвать и направить развитие сверхинтеллекта, который приведет к теоретической точке будущего, которая возникает во время ускоренных изменений. [6]
Изобретатель и футуролог Рэй Курцвейл , автор книги 2005 года « Сингулярность близка: когда люди выйдут за рамки биологии », определяет сингулярианца как человека, «который понимает Сингулярность и размышляет о ее последствиях для своей собственной жизни» [2], и предполагает, что сингулярность наступит около 2045 года [2] .
Раннее сингуляристское выражение того, что история движется к точке сверхчеловеческого интеллекта, можно найти в работе Гегеля « Феноменология духа» . [7] В 1993 году математик , ученый-компьютерщик и писатель -фантаст Вернор Виндж выдвинул гипотезу, что может наступить момент, когда технологии позволят «создать сущности с интеллектом, превосходящим человеческий» [8] , и использовал термин «Сингулярность» для описания этого момента. [9] Он предположил, что сингулярность может представлять экзистенциальный риск для человечества и что это может произойти одним из четырех способов:
Сингуляризм объединился в последовательную идеологию в 2000 году, когда исследователь искусственного интеллекта (ИИ) Элиезер Юдковски написал «Принципы сингуляризма» [ 2] [11], в которых он заявил, что сингулярианец верит, что сингулярность — это светское, немистическое событие, которое возможно и полезно для мира и к которому стремятся его приверженцы. [11] Концептуализация сингулярности Юдковски предложила широкое определение, разработанное с учетом различных интерпретаций. [4] Есть теоретики, такие как Майкл Анисимов, которые выступали за строгое определение, которое относится только к защите развития постчеловеческого (большего, чем человеческий) интеллекта. [4]
В июне 2000 года Юдковски при поддержке интернет-предпринимателей Брайана Аткинса и Сабины Аткинс основал Исследовательский институт машинного интеллекта для работы над созданием самосовершенствующегося Дружественного ИИ . В трудах MIRI утверждается, что ИИ, способный улучшать собственную разработку ( Seed AI ), быстро приведет к сверхинтеллекту . Эти сингулярианцы считают, что быстрое и безопасное достижение сингулярности — наилучший возможный способ минимизировать чистый экзистенциальный риск .
Многие люди считают, что технологическая сингулярность возможна без принятия Сингуляритаризма как моральной философии. Хотя точные цифры трудно подсчитать, Сингуляритаризм — это небольшое движение, в которое входит философ -трансгуманист Ник Бостром . Изобретатель и футурист Рэй Курцвейл , который предсказывает, что Сингулярность наступит около 2045 года , внес большой вклад в популяризацию Сингуляритаризма своей книгой 2005 года « Сингулярность близка: когда люди выйдут за рамки биологии» . [2]
Что же такое Сингулярность? Это будущий период, в течение которого темпы технологических изменений будут настолько быстрыми, а их влияние настолько глубоким, что человеческая жизнь необратимо изменится. Хотя эта эпоха не является ни утопией, ни антиутопией, она изменит концепции, на которые мы полагаемся, чтобы придать смысл нашей жизни, от наших бизнес-моделей до цикла человеческой жизни, включая саму смерть. Понимание Сингулярности изменит нашу точку зрения на значимость нашего прошлого и последствия для нашего будущего. Чтобы по-настоящему понять ее, по сути, меняется взгляд на жизнь в целом и на конкретную жизнь. Я считаю того, кто понимает Сингулярность и размышляет о ее последствиях для своей собственной жизни, «сингуляристом». [2]
При поддержке NASA , Google и широкого круга технологических прогнозистов и технокапиталистов в июне 2009 года в исследовательском парке NASA в Кремниевой долине открылся Университет сингулярности с целью подготовки следующего поколения лидеров для решения задач ускорения изменений .
В июле 2009 года многие видные сингулярианцы приняли участие в конференции, организованной Ассоциацией по развитию искусственного интеллекта (AAAI), чтобы обсудить потенциальное влияние роботов и компьютеров и влияние гипотетической возможности того, что они могут стать самодостаточными и способными принимать собственные решения. Они обсудили возможность и степень, в которой компьютеры и роботы могут обрести какой-либо уровень автономии, и в какой степени они могут использовать такие способности, чтобы потенциально представлять какую-либо угрозу или опасность (т. е. кибернетический бунт ). Они отметили, что некоторые машины приобрели различные формы полуавтономии, включая способность самостоятельно находить источники энергии и способность независимо выбирать цели для атаки с помощью оружия. Они предупредили, что некоторые компьютерные вирусы могут избегать уничтожения и достигли «интеллекта таракана». Они утверждали, что самосознание, изображенное в научной фантастике, вероятно, маловероятно, но что существуют другие потенциальные опасности и ловушки. [9] Некоторые эксперты и ученые подвергают сомнению использование роботов в военных действиях , особенно когда таким роботам придается некоторая степень автономных функций. [12] Президент AAAI поручил провести исследование для изучения этого вопроса. [13]
Существует несколько возражений против сингулярности Курцвейла, и они даже включают критику со стороны оптимистов в области ИИ. Например, лауреат Пулитцеровской премии автор Дуглас Хофштадтер утверждал, что предсказанное Курцвейлом достижение ИИ человеческого уровня к 2045 году нежизнеспособно. [14] Даже Гордон Мур , тезка закона Мура , который предсказал [15] понятие сингулярности, утверждал, что она никогда не произойдет. [16] По мнению некоторых наблюдателей, эта критика не уменьшает энтузиазма по поводу сингулярности, поскольку она предполагает квазирелигиозный ответ на страх смерти, позволяя ее приверженцам наслаждаться преимуществами религии без ее онтологического бремени. [14] Научный журналист Джон Хорган дал больше информации об этой идее, сравнив сингулярность с религией:
Давайте посмотрим правде в глаза. Сингулярность — это скорее религиозное, чем научное видение. Писатель-фантаст Кен Маклеод окрестил ее «восхищением для ботаников», намекая на конец света, когда Иисус забирает верующих на небеса и оставляет нас, грешников, позади. Такое стремление к трансцендентности, будь то духовной или технологической, вполне понятно. И как личности, и как вид мы сталкиваемся со смертельно серьезными проблемами, включая терроризм , распространение ядерного оружия , перенаселение , нищету , голод , ухудшение состояния окружающей среды , изменение климата , истощение ресурсов и СПИД . Инженеры и ученые должны помогать нам справляться с мировыми проблемами и находить их решения, а не предаваться эскапистским, псевдонаучным фантазиям вроде сингулярности. [17]
Курцвейл отверг эту категоризацию, заявив, что его предсказания о сингулярности основаны на данных о том, что рост вычислительной техники в прошлом был экспоненциальным. [18] Он утверждал, что критики, которые оспаривают его точку зрения, ошибочно принимают интуитивное линейное представление о технологическом прогрессе, вместо того чтобы учитывать этот экспоненциальный рост. [19]