The Singularity Is Near: When Humans Transcend Biology — научно-популярная книга 2005 года об искусственном интеллекте и будущем человечества, написанная изобретателем и футуристом Рэем Курцвейлом . Продолжение книги, The Singularity Is Nearer , было выпущено 25 июня 2024 года. [1]
Книга основана на идеях, представленных в предыдущих книгах Курцвейла, « Эпоха интеллектуальных машин» (1990) и «Эпоха духовных машин» (1999). В книге Курцвейл использует термин « сингулярность », который был популяризирован Вернором Винджем в его эссе 1993 года «Грядущая технологическая сингулярность». [2]
Курцвейл описывает свой Закон ускорения отдачи , который предсказывает экспоненциальный рост таких технологий, как компьютеры , генетика , нанотехнологии , робототехника и искусственный интеллект . Как только сингулярность будет достигнута, Курцвейл говорит, что машинный интеллект будет бесконечно более мощным, чем весь человеческий интеллект вместе взятый. Сингулярность также является точкой, в которой интеллект машин и людей сольются; Курцвейл предсказывает эту дату: «Я установил дату для Сингулярности — представляющей собой глубокую и разрушительную трансформацию человеческих возможностей — как 2045 год». [3]
Курцвейл характеризует эволюцию во все времена как прогрессирующую через шесть эпох, каждая из которых основывается на предыдущей. Он говорит, что четыре эпохи, которые произошли до сих пор, это Физика и Химия , Биология и ДНК , Мозг и Технология . Курцвейл предсказывает, что сингулярность совпадет со следующей эпохой, Слияние Человеческих Технологий с Человеческим Интеллектом . После сингулярности, как он говорит, наступит последняя эпоха, Вселенная Проснется . [4]
Курцвейл объясняет, что эволюционный прогресс является экспоненциальным из-за положительной обратной связи ; результаты одного этапа используются для создания следующего этапа. Экспоненциальный рост обманчив, почти плоский сначала, пока не достигает того, что Курцвейл называет «коленом кривой», а затем поднимается почти вертикально. [5] На самом деле Курцвейл считает, что эволюционный прогресс является сверхэкспоненциальным, потому что больше ресурсов направляется на победный процесс. В качестве примера сверхэкспоненциального роста Курцвейл приводит бизнес по производству компьютерных чипов. Общий бюджет всей отрасли со временем увеличивается, поскольку плоды экспоненциального роста делают его привлекательным вложением; между тем дополнительный бюджет подпитывает больше инноваций, что заставляет отрасль расти еще быстрее, фактически являясь примером «двойного» экспоненциального роста. [6]
Курцвейл утверждает, что эволюционный прогресс выглядит плавным, но на самом деле он разделен на парадигмы, конкретные методы решения проблем. Каждая парадигма начинается с медленного роста, переходит в быстрый рост, а затем выравнивается. По мере того, как одна парадигма выравнивается, нарастает давление, чтобы найти или разработать новую парадигму. Поэтому то, что выглядит как одна плавная кривая, на самом деле является серией меньших S-образных кривых . [7] Например, Курцвейл отмечает, что когда электронные лампы перестали становиться быстрее, более дешевые транзисторы стали популярными и продолжили общий экспоненциальный рост. [8]
Курцвейл называет этот экспоненциальный рост законом ускорения отдачи и считает, что он применим ко многим созданным человеком технологиям, таким как компьютерная память , транзисторы , микропроцессоры , секвенирование ДНК , магнитные накопители , количество интернет-хостов , интернет-трафик , уменьшение размера устройств, а также цитирования и патенты на нанотехнологии. [9] Курцвейл приводит два исторических примера экспоненциального роста: проект «Геном человека» и рост Интернета . [10] Курцвейл утверждает, что вся мировая экономика на самом деле растет экспоненциально, хотя краткосрочные подъемы и спады, как правило, скрывают эту тенденцию. [11]
Основополагающим принципом аргументации Курцвейла является то, что для достижения сингулярности вычислительная мощность является таким же узким местом, как и другие вещи, такие как качество алгоритмов и понимание человеческого мозга. Закон Мура предсказывает, что мощность интегральных схем растет экспоненциально, но не бесконечно. Курцвейл считает, что рост мощности интегральных схем, вероятно, замедлится к 2020 году. [8] Он уверен, что в этот момент дебютирует новая парадигма, которая продолжит экспоненциальный рост, предсказанный его законом ускоряющейся отдачи. Курцвейл описывает четыре парадигмы вычислений, которые существовали до интегральных схем: электромеханическая, релейная, вакуумная и транзисторная. [8] Какая технология последует за интегральными схемами, чтобы служить шестой парадигмой, неизвестно, но Курцвейл считает, что нанотрубки являются наиболее вероятной альтернативой среди ряда возможностей:
нанотрубки и схемы на основе нанотрубок, молекулярные вычисления, самосборка в схемах нанотрубок, биологические системы, имитирующие сборку схем, вычисления с ДНК , спинтроника (вычисления со спином электронов), вычисления с использованием света и квантовые вычисления . [12]
Поскольку Курцвейл полагает, что вычислительная мощность будет продолжать расти экспоненциально еще долго после того, как закон Мура закончится, она в конечном итоге сравняется с чистой вычислительной мощностью человеческого мозга. Курцвейл рассматривает несколько различных оценок того, сколько вычислительной мощности находится в мозге, и останавливается на 10 16 вычислениях в секунду и 10 13 битах памяти. Он пишет, что за 1000 долларов можно будет купить вычислительную мощность, равную мощности одного мозга «примерно к 2020 году» [13], а к 2045 году, началу сингулярности, он говорит, что за ту же сумму денег можно будет купить в миллиард раз больше мощности, чем все человеческие мозги вместе взятые сегодня. [3] Курцвейл признает, что экспоненциальная тенденция к увеличению вычислительной мощности в конечном итоге достигнет предела, но он подсчитывает, что этот предел будет в триллионы раз больше того, что необходимо для сингулярности. [14]
Курцвейл отмечает, что вычислительная мощность сама по себе не создаст искусственный интеллект. Он утверждает, что лучший способ создания машинного интеллекта — сначала понять человеческий интеллект. Первый шаг — визуализировать мозг, заглянуть внутрь него. Курцвейл утверждает, что технологии визуализации, такие как ПЭТ и фМРТ, экспоненциально увеличивают разрешение [15] , в то время как он предсказывает, что еще больше деталей будет получено в 2020-х годах, когда станет возможным сканировать мозг изнутри с помощью наноботов. [16] Курцвейл говорит, что как только будет известна физическая структура и информация о связях, исследователям придется создавать функциональные модели субклеточных компонентов и синапсов вплоть до целых областей мозга. [17] Человеческий мозг — это «сложная иерархия сложных систем, но она не представляет собой уровень сложности, выходящий за рамки того, с чем мы уже способны справиться». [18]
Помимо обратного проектирования мозга с целью его понимания и эмуляции, Курцвейл вводит идею «загрузки» конкретного мозга с каждым нетронутым психическим процессом, чтобы он был реализован на «достаточно мощном вычислительном субстрате». Он пишет, что общее моделирование требует 10 16 вычислений в секунду и 10 13 бит памяти, но затем объясняет, что загрузка требует дополнительных деталей, возможно, до 10 19 cps и 10 18 бит. Курцвейл говорит, что технология для этого будет доступна к 2040 году. [19] Курцвейл считает, что вместо мгновенного сканирования и преобразования в цифровую форму люди, скорее всего, испытают постепенное преобразование, поскольку части их мозга будут дополнены нейронными имплантатами, медленно увеличивая долю небиологического интеллекта с течением времени. [20]
Курцвейл полагает, что «не существует объективного теста, который может окончательно определить» наличие сознания. [21] Поэтому он говорит, что небиологический интеллект будет утверждать, что обладает сознанием и «полным спектром эмоциональных и духовных переживаний, которые, по его словам, есть у людей»; [22] он считает, что такие заявления будут в целом приняты.
Курцвейл говорит, что революции в генетике , нанотехнологиях и робототехнике откроют начало сингулярности. [23] Курцвейл считает, что при достаточном уровне генной технологии можно будет поддерживать тело бесконечно, обращая вспять старение и одновременно излечивая рак , болезни сердца и другие заболевания. [24] Многое из этого станет возможным благодаря нанотехнологиям, второй революции, которая подразумевает молекулярную конструкцию инструментов, которые сами по себе могут «перестраивать физический мир». [25] Наконец, революция в робототехнике действительно будет заключаться в разработке сильного ИИ, определяемого как машины, которые обладают интеллектом человеческого уровня или выше. [26] Это развитие будет самым важным в этом столетии, «сравнимым по важности с развитием самой биологии». [27]
Курцвейл признает, что каждая технология несет в себе риск неправильного использования или злоупотребления, от вирусов и наноботов до неконтролируемых машин ИИ. Он считает, что единственной контрмерой является инвестирование в защитные технологии, например, путем разрешения новой генетики и лечения, мониторинга опасных патогенов и создания ограниченных мораториев на определенные технологии. Что касается искусственного интеллекта, Курцвейл считает, что лучшая защита — это повышение «ценностей свободы, терпимости и уважения к знаниям и разнообразию» в обществе, потому что «небиологический интеллект будет встроен в наше общество и будет отражать наши ценности». [28]
Курцвейл касается истории концепции сингулярности, прослеживая ее от Джона фон Неймана в 1950-х и И. Дж. Гуда в 1960-х. Он сравнивает свою сингулярность с математической или астрофизической сингулярностью. Хотя его идеи сингулярности на самом деле не бесконечны, он говорит, что она выглядит таковой с любой ограниченной точки зрения. [29]
Во время сингулярности Курцвейл предсказывает, что «человеческая жизнь необратимо трансформируется» [30] и что люди выйдут за рамки «ограничений наших биологических тел и мозга». [31] Он смотрит за пределы сингулярности, чтобы сказать, что «появившийся интеллект продолжит представлять человеческую цивилизацию». Кроме того, он чувствует, что «будущие машины будут человечны, даже если они не являются биологическими». [32]
Курцвейл утверждает, что как только небиологический интеллект возобладает, характер человеческой жизни радикально изменится: [33] произойдут радикальные изменения в том, как люди учатся, работают, играют и ведут войны. [34] Курцвейл представляет себе наноботов, которые позволят людям есть все, что они хотят, оставаясь при этом худыми и подтянутыми, обеспечивать обильную энергию, бороться с инфекциями или раком, заменять органы и расширять свой мозг. В конце концов, тела людей будут содержать столько дополнений, что они смогут изменять свое «физическое проявление по своему желанию». [35]
Курцвейл говорит, что закон ускорения отдачи предполагает, что как только цивилизация разовьет примитивные механические технологии, пройдет всего несколько столетий, прежде чем она достигнет всего, что описано в книге, и в этот момент она начнет расширяться вовне, насыщая вселенную интеллектом. Поскольку люди не нашли никаких доказательств существования других цивилизаций, Курцвейл считает, что люди, вероятно, одиноки во вселенной. Таким образом, Курцвейл приходит к выводу, что судьба человечества — насыщать, вовлекая в этот процесс всю материю и энергию. [36] [37]
Что касается индивидуальных идентичностей во время этих радикальных изменений, Курцвейл предлагает людям думать о себе как о развивающемся образце, а не как о конкретной коллекции молекул. Курцвейл говорит, что эволюция движется к «большей сложности, большей элегантности, большему знанию, большему интеллекту, большей красоте, большему творчеству и большему уровню тонких атрибутов, таких как любовь». [38] Он говорит, что эти атрибуты, в пределе, обычно используются для описания Бога. Это означает, продолжает он, что эволюция движется к концепции Бога и что переход от биологических корней на самом деле является духовным начинанием. [38]
Курцвейл не включает фактическую письменную хронологию прошлого и будущего, как он сделал в «Эпохе интеллектуальных машин» и «Эпохе духовных машин» , однако он все равно делает много конкретных прогнозов. Курцвейл пишет, что к 2010 году суперкомпьютер будет обладать вычислительной мощностью, чтобы имитировать человеческий интеллект [39] и «примерно к 2020 году» эта же мощность будет доступна «за одну тысячу долларов». [13] После этого рубежа он ожидает, что сканирование человеческого мозга внесет вклад в эффективную модель человеческого интеллекта «к середине 2020-х годов». [39] Эти два элемента достигнут кульминации в компьютерах, которые смогут пройти тест Тьюринга к 2029 году. [40] К началу 2030-х годов объем небиологических вычислений превысит «мощность всего живого биологического человеческого интеллекта». [41] Наконец, экспоненциальный рост вычислительной мощности приведет к сингулярности. Курцвейл очень четко определяет дату: «Я установил дату Сингулярности — представляющей собой глубокую и разрушительную трансформацию человеческих возможностей — на 2045 год» [3] .
Распространенная критика книги касается «заблуждения об экспоненциальном росте». Например, в 1969 году люди высадились на Луне . Экстраполируя экспоненциальный рост оттуда, можно было бы ожидать огромных лунных баз и пилотируемых миссий на далекие планеты. Вместо этого исследования застопорились или даже регрессировали после этого. Пол Дэвис пишет: «ключевой момент в экспоненциальном росте заключается в том, что он никогда не длится долго» [42], часто из-за ограничений ресурсов. С другой стороны, было показано, что глобальное ускорение до недавнего времени следовало гиперболической, а не экспоненциальной модели. [43]
Теодор Модис говорит, что «ничто в природе не следует чистой экспоненте», и предполагает, что логистическая функция лучше подходит для «реального процесса роста». Логистическая функция сначала выглядит как экспоненциальная, но затем сужается и полностью выравнивается. Например, население мира и добыча нефти в США, казалось, росли экспоненциально, но обе выровнялись, потому что были логистическими. Курцвейл говорит, что «колено кривой» — это время, когда экспоненциальный тренд взорвется, в то время как Модис утверждает, что если процесс является логистическим, то при достижении «колена» измеряемое вами количество увеличится только в 100 раз. [44]
В то время как некоторые критики жалуются, что закон ускорения отдачи не является законом природы [42], другие подвергают сомнению религиозные мотивы или последствия сингулярности Курцвейла. Наращивание сингулярности сравнивается с иудео-христианскими сценариями конца света. Бим называет это « видением Бака Роджерса гипотетического христианского восхищения». [45] Джон Грей говорит, что «сингулярность перекликается с апокалиптическими мифами, в которых история вот-вот будет прервана событием, преобразующим мир». [46]
Радикальный характер предсказаний Курцвейла часто обсуждается. Энтони Дорр говорит, что прежде чем «отклонять это как техно-ревность», подумайте, что «каждый день граница между тем, что является человеческим, и тем, что не совсем человеческое, немного размывается». Он перечисляет технологии того времени, 2006 года, такие как компьютеры, которые сажают сверхзвуковые самолеты , или методы экстракорпорального оплодотворения , и спрашивает, действительно ли мозговые имплантаты , которые имеют доступ к Интернету, или роботы в нашей крови настолько невероятны. [47]
Что касается обратной инженерии мозга, нейробиолог Дэвид Дж. Линден пишет, что «Курцвейл смешивает биологический сбор данных с биологическим пониманием». Он считает, что сбор данных может расти экспоненциально, но понимание увеличивается только линейно. Например, скорость и стоимость секвенирования геномов также улучшаются экспоненциально, но наше понимание генетики растет очень медленно. Что касается наноботов, Линден считает, что пространства, доступные в мозге для навигации, просто слишком малы. Он признает, что когда-нибудь мы полностью поймем мозг, просто не по графику Курцвейла. [48]
Пол Дэвис написал в журнале Nature , что «Сингулярность близка » — это «захватывающее путешествие по дальним пределам технологических возможностей», предупредив при этом, что «эти захватывающие размышления очень увлекательны для чтения, но их следует воспринимать с большой долей скепсиса». [42]
Энтони Дорр в The Boston Globe написал: «Книга Курцвейла на удивление сложная, умная и убедительная. Он пишет чистые методичные предложения, включает юмористические диалоги с персонажами в будущем и прошлом и использует графики, которые почти всегда доступны». [47] в то время как его коллега Алекс Бим указывает, что «Сингуляристы были встречены с улюлюканьем скептицизма». [45] Джанет Маслин в The New York Times написала: « Сингулярность рядом» поражает размахом и бравадой», но говорит, что «большая часть его размышлений имеет тенденцию быть журавлем в небе». Она замечает, что он больше сосредоточен на оптимистичных результатах, чем на рисках. [49]
В 2006 году Барри Птолемей и его продюсерская компания Ptolemaic Productions лицензировали права на книгу «Сингулярность близка» у Курцвейла. Вдохновленный книгой, Птолемей снял и спродюсировал фильм «Трансцендентный человек» , который в дальнейшем привлек больше внимания к книге.
Курцвейл также снял собственную экранизацию, созданную в сотрудничестве с Terasem ; «Сингулярность близка» сочетает документальные интервью с научно-фантастической историей, включающей его роботизированного аватара Рамону, превращающегося в искусственный интеллект . Фильм был показан на Всемирном кинофестивале, кинофестивале в Вудстоке , Варшавском международном кинофестивале, кинофестивале в Сан-Антонио в 2010 году и кинофестивале независимого кино в Сан-Франциско в 2011 году, а его общий релиз состоялся 20 июля 2012 года. [50] Он доступен на DVD или в виде цифровой загрузки. [51] [52]