Сингулярность близка: когда люди превосходят биологию — научно-популярная книга изобретателя и футуриста Рэя Курцвейла 2005 года об искусственном интеллекте и будущем человечества.
Книга основана на идеях, изложенных в предыдущих книгах Курцвейла « Эпоха интеллектуальных машин» (1990) и «Эпоха духовных машин» (1999). В своей книге Курцвейл использует термин « сингулярность », который популяризировал Вернор Виндж в его эссе 1993 года «Грядущая технологическая сингулярность». [1]
Курцвейл описывает свой закон ускорения отдачи , который предсказывает экспоненциальный рост таких технологий, как компьютеры , генетика , нанотехнологии , робототехника и искусственный интеллект. Как только сингулярность будет достигнута, Курцвейл говорит, что машинный интеллект станет бесконечно более мощным, чем весь человеческий интеллект вместе взятый. Сингулярность — это также точка, в которой интеллект машин и человек сливаются; Курцвейл предсказывает эту дату: «Я установил дату сингулярности, представляющей собой глубокую и разрушительную трансформацию человеческих способностей, как 2045 год». [2]
Курцвейл характеризует эволюцию на протяжении всего времени как протекающую через шесть эпох, каждая из которых основывается на предыдущей. Он говорит, что на данный момент произошли четыре эпохи: физика и химия , биология и ДНК , мозг и технология . Курцвейл предсказывает, что сингулярность совпадет со следующей эпохой — слиянием человеческих технологий с человеческим интеллектом . Он говорит, что после сингулярности наступит последняя эпоха: Вселенная просыпается . [3]
Курцвейл объясняет, что эволюционный прогресс является экспоненциальным из-за положительной обратной связи ; результаты одного этапа используются для создания следующего этапа. Экспоненциальный рост обманчив: сначала он почти стабилен, пока не достигает того, что Курцвейл называет «коленом кривой», а затем поднимается почти вертикально. [4] На самом деле Курцвейл считает, что эволюционный прогресс является сверхэкспоненциальным, потому что на процесс победы затрачивается больше ресурсов. В качестве примера сверхэкспоненциального роста Курцвейл приводит бизнес по производству компьютерных чипов. Общий бюджет всей отрасли со временем увеличивается, поскольку плоды экспоненциального роста делают ее привлекательной инвестицией; в то же время дополнительный бюджет стимулирует больше инноваций, что заставляет отрасль расти еще быстрее, что фактически является примером «двойного» экспоненциального роста. [5]
Курцвейл утверждает, что эволюционный прогресс выглядит гладким, но на самом деле он разделен на парадигмы, конкретные методы решения проблем. Каждая парадигма начинается с медленного роста, перерастает в быстрый рост, а затем выравнивается. По мере того, как одна парадигма выравнивается, возрастает потребность в поиске или разработке новой парадигмы. То, что выглядит как одна плавная кривая, на самом деле представляет собой серию меньших S-образных кривых . [6] Например, Курцвейл отмечает, что, когда электронные лампы перестали становиться быстрее, более дешевые транзисторы стали популярными и продолжили общий экспоненциальный рост. [7]
Курцвейл называет этот экспоненциальный рост законом ускоряющейся отдачи и считает, что он применим ко многим созданным человеком технологиям, таким как компьютерная память , транзисторы , микропроцессоры , секвенирование ДНК , магнитное хранилище , количество интернет-хостов , интернет-трафик , уменьшение размера устройств. , а также цитаты и патенты нанотехнологий. [8] Курцвейл приводит два исторических примера экспоненциального роста: проект «Геном человека» и рост Интернета . [9] Курцвейл утверждает, что вся мировая экономика на самом деле растет в геометрической прогрессии, хотя краткосрочные бумы и спады имеют тенденцию скрывать эту тенденцию. [10]
Фундаментальный столп аргумента Курцвейла заключается в том, что для достижения сингулярности вычислительные мощности являются таким же узким местом, как и другие вещи, такие как качество алгоритмов и понимание человеческого мозга. Закон Мура предсказывает, что емкость интегральных схем растет экспоненциально, но не бесконечно. Курцвейл считает, что рост мощности интегральных схем, вероятно, замедлится к 2020 году. [7] Он уверен, что в этот момент дебютирует новая парадигма, которая продолжит экспоненциальный рост, предсказанный его законом ускорения отдачи. Курцвейл описывает четыре парадигмы вычислений, которые существовали до интегральных схем: электромеханические, релейные, электронные и транзисторные. [7] Какая технология последует за интегральными схемами и станет шестой парадигмой, неизвестно, но Курцвейл считает, что нанотрубки являются наиболее вероятной альтернативой среди ряда возможностей:
нанотрубки и схемы нанотрубок, молекулярные вычисления, самосборка в цепях нанотрубок, биологические системы, имитирующие сборку схем, вычисления с помощью ДНК , спинтроника (вычисления со вращением электронов), вычисления с помощью света и квантовые вычисления . [11]
Поскольку Курцвейл считает, что вычислительная мощность будет продолжать расти в геометрической прогрессии еще долгое время после того, как закончится действие закона Мура, она в конечном итоге сможет конкурировать с вычислительной мощностью человеческого мозга. Курцвейл рассматривает несколько различных оценок вычислительной мощности мозга и останавливается на 10 16 вычислений в секунду и 10 13 бит памяти. Он пишет, что на 1000 долларов можно будет купить мощность компьютера, равную мощности одного мозга, «примерно к 2020 году» [12] , а к 2045 году, наступлению сингулярности, он говорит, что на ту же сумму денег можно будет купить в миллиард раз больше мощности, чем все человеческие мозги вместе взятые. сегодня. [2] Курцвейл признает, что экспоненциальная тенденция увеличения вычислительной мощности в конечном итоге достигнет предела, но он подсчитал, что этот предел будет в триллионы раз превышать то, что необходимо для сингулярности. [13]
Курцвейл отмечает, что одни лишь вычислительные мощности не создадут искусственный интеллект. Он утверждает, что лучший способ создать машинный интеллект — сначала понять человеческий интеллект. Первый шаг — визуализировать мозг, заглянуть внутрь него. Курцвейл утверждает, что разрешение технологий визуализации, таких как ПЭТ и фМРТ , растет в геометрической прогрессии [14] , и он предсказывает, что еще большая детализация будет получена в 2020-х годах, когда станет возможным сканировать мозг изнутри с помощью нанороботов. [15] Как только станет известна физическая структура и информация о связях, Курцвейл говорит, что исследователям придется создать функциональные модели субклеточных компонентов и синапсов вплоть до целых областей мозга. [16] Человеческий мозг представляет собой «сложную иерархию сложных систем, но он не представляет собой уровень сложности, превышающий тот, с которым мы уже способны справиться». [17]
Помимо обратного проектирования мозга с целью его понимания и эмуляции, Курцвейл предлагает идею «загрузки» конкретного мозга со всеми неповрежденными психическими процессами для реализации на «достаточно мощном вычислительном субстрате». Он пишет, что общее моделирование требует 10 16 вычислений в секунду и 10 13 бит памяти, но затем объясняет, что загрузка требует дополнительных деталей, возможно, целых 10 19 символов в секунду и 10 18 бит. Курцвейл говорит, что технология, позволяющая это сделать , будет доступна к 2040 году. небиологического интеллекта медленно с течением времени. [19]
Курцвейл считает, что «не существует объективного теста, который мог бы окончательно определить» наличие сознания. [20] Таким образом, он говорит, что небиологические разумные существа будут утверждать, что обладают сознанием и «полным спектром эмоциональных и духовных переживаний, которые, как утверждают люди, имеют»; [21] он считает, что такие утверждения будут в целом приняты.
Курцвейл говорит, что революции в генетике , нанотехнологиях и робототехнике откроют начало сингулярности. [22] Курцвейл считает, что при наличии достаточных генетических технологий можно будет поддерживать тело на неопределенный срок, обращая вспять старение и одновременно излечивая рак , болезни сердца и другие болезни. [23] Во многом это станет возможным благодаря нанотехнологиям, второй революции, которая влечет за собой создание молекул за молекулами инструментов, которые сами по себе могут «перестроить физический мир». [24] Наконец, революцией в робототехнике станет разработка сильного ИИ, определяемого как машины, обладающие интеллектом человеческого уровня или выше. [25] Это событие станет самым важным событием столетия, «сопоставимым по важности с развитием самой биологии». [26]
Курцвейл признает, что каждая технология несет в себе риск неправильного использования или злоупотребления: от вирусов и нанороботов до вышедших из-под контроля машин искусственного интеллекта. Он считает, что единственной контрмерой является инвестирование в защитные технологии, например, путем разрешения новых генетических и медицинских методов лечения, мониторинга опасных патогенов и введения ограниченного моратория на определенные технологии. Что касается искусственного интеллекта, Курцвейл считает, что лучшая защита — это повышение «ценностей свободы, терпимости и уважения к знаниям и разнообразию» в обществе, потому что «небиологический интеллект будет встроен в наше общество и будет отражать наши ценности». [27]
Курцвейл затрагивает историю концепции сингулярности, прослеживая ее до Джона фон Неймана в 1950-х годах и И. Дж. Гуда в 1960-х. Он сравнивает свою сингулярность с сингулярностью математической или астрофизической. Хотя его представления о сингулярности на самом деле не бесконечны, он говорит, что так оно и выглядит с любой ограниченной точки зрения. [28]
Курцвейл предсказывает, что во время сингулярности «человеческая жизнь будет необратимо трансформирована» [29] и что люди преодолеют «ограничения наших биологических тел и мозга». [30] Он смотрит за пределы сингулярности и говорит, что «появившийся разум будет продолжать представлять человеческую цивилизацию». Более того, он считает, что «машины будущего будут людьми, даже если они не будут биологическими». [31]
Курцвейл утверждает, что как только небиологический интеллект станет преобладать, природа человеческой жизни радикально изменится: [32] произойдут радикальные изменения в том, как люди учатся, работают, играют и ведут войны. [33] Курцвейл представляет себе наноботов, которые позволят людям есть все, что они хотят, оставаясь при этом худыми и в хорошей форме, обеспечивают обильную энергию, борются с инфекциями или раком, заменяют органы и увеличивают свой мозг. В конце концов тела людей будут содержать столько аугментаций, что они смогут изменять свое «физическое проявление по своему желанию». [34]
Курцвейл говорит, что закон ускоряющейся отдачи предполагает, что как только цивилизация разовьет примитивные механические технологии, пройдет всего несколько столетий, прежде чем она достигнет всего, изложенного в книге, и в этот момент она начнет расширяться наружу, насыщая вселенную разумом. Поскольку люди не нашли никаких свидетельств существования других цивилизаций, Курцвейл считает, что люди, скорее всего, одиноки во Вселенной. Таким образом, Курцвейл заключает, что судьба человечества — насыщать, вовлекая в этот процесс всю материю и энергию. [35] [36]
Что касается индивидуальных идентичностей во время этих радикальных изменений, Курцвейл предлагает людям думать о себе как об развивающейся модели, а не как об определенном наборе молекул. Курцвейл говорит, что эволюция движется в направлении «большей сложности, большей элегантности, большего знания, большего интеллекта, большей красоты, большего творчества и более высоких уровней тонких качеств, таких как любовь». [37] Он говорит, что эти атрибуты, в определенной степени, обычно используются для описания Бога. Это означает, продолжает он, что эволюция движется к концепции Бога и что переход от биологических корней на самом деле является духовным предприятием. [37]
Курцвейл не включает фактическую письменную хронологию прошлого и будущего, как это было в « Эре разумных машин» и «Эре духовных машин» , однако он все же делает много конкретных предсказаний. Курцвейл пишет, что к 2010 году суперкомпьютер будет обладать вычислительной мощностью, способной имитировать человеческий интеллект [38] и «примерно к 2020 году» эта же мощность будет доступна «за тысячу долларов». [12] После этого этапа он ожидает, что сканирование человеческого мозга будет способствовать созданию эффективной модели человеческого интеллекта «к середине 2020-х годов». [38] Кульминацией этих двух элементов станут компьютеры, которые смогут пройти тест Тьюринга к 2029 году. [39] К началу 2030-х годов объем небиологических вычислений превысит «мощность всего живого биологического человеческого интеллекта». [40] Наконец, экспоненциальный рост вычислительной мощности приведет к сингулярности. Курцвейл очень четко называет дату: «Я установил дату Сингулярности, представляющей собой глубокую и разрушительную трансформацию человеческих способностей, как 2045 год». [2]
Распространенная критика книги связана с «ошибкой экспоненциального роста». Например, в 1969 году люди высадились на Луне . Экстраполируя оттуда экспоненциальный рост, можно было бы ожидать создания огромных лунных баз и пилотируемых миссий на далекие планеты. Вместо этого после этого исследования застопорились или даже пошли на спад. Пол Дэвис пишет: «Ключевым моментом экспоненциального роста является то, что он никогда не бывает продолжительным» [41] , часто из-за ограниченности ресурсов. С другой стороны, было показано, что глобальное ускорение до недавнего времени носило скорее гиперболический, чем экспоненциальный характер. [42]
Теодор Модис говорит, что «ничто в природе не подчиняется чистой экспоненте», и предполагает, что логистическая функция лучше подходит для «реального процесса роста». Логистическая функция сначала выглядит как экспоненциальная, но затем сужается и полностью выравнивается. Например, население мира и добыча нефти в США, казалось, росли экспоненциально, но оба стабилизировались, потому что они были логистическими. Курцвейл говорит, что «перелом на кривой» — это момент, когда экспоненциальный тренд может взорваться, в то время как Модис утверждает, что если процесс является логистическим, когда вы достигаете «перегиба», измеряемая вами величина увеличится только в раз. еще 100. [43]
В то время как некоторые критики жалуются, что закон ускорения отдачи не является законом природы [41], другие подвергают сомнению религиозные мотивы или последствия сингулярности Курцвейла. Наращивание сингулярности сравнивается с иудео-христианскими сценариями конца времен. Бим называет это « видением Гипотетического Христианского Восторга Баком Роджерсом ». [44] Джон Грей говорит, что «Сингулярность отражает апокалиптические мифы, в которых история вот-вот прервется событием, преобразующим мир». [45]
Часто обсуждается радикальный характер предсказаний Курцвейла. Энтони Дорр говорит, что прежде чем «отклонить это как техно-рвение», учтите, что «каждый день грань между тем, что человечно, и тем, что не совсем человечно, все больше стирается». Он перечисляет современные технологии 2006 года, такие как компьютеры, которые приземляют сверхзвуковые самолеты или методы лечения бесплодия in vitro , и задается вопросом, действительно ли мозговые имплантаты , которые имеют доступ к Интернету, или роботы в нашей крови, настолько невероятны. [46]
Что касается обратного проектирования мозга, нейробиолог Дэвид Дж. Линден пишет, что «Курцвейл объединяет сбор биологических данных с биологическим пониманием». Он считает, что сбор данных может расти экспоненциально, но понимание растет только линейно. Например, скорость и стоимость секвенирования геномов также растут в геометрической прогрессии, но наше понимание генетики растет очень медленно. Что касается нанороботов, Линден считает, что пространство, доступное для навигации в мозгу, просто слишком мало. Он признает, что когда-нибудь мы полностью поймем мозг, но не по графику Курцвейла. [47]
Пол Дэвис написал в журнале Nature , что «Сингулярность близка » — это «захватывающая игра по внешним пределам технологических возможностей», предупреждая при этом, что «волнующие предположения очень интересно читать, но к ним нужно относиться с огромной дозой скептицизма». [41]
Энтони Дорр в The Boston Globe написал: «Книга Курцвейла удивительно сложна, умна и убедительна. Он пишет чистые методичные предложения, включает юмористические диалоги с персонажами из будущего и прошлого и использует графики, которые почти всегда доступны». [46] , в то время как его коллега Алекс Бим отмечает, что «сингулярианцев встретили с улюлюкающим скептицизмом». [44] Джанет Маслин в «Нью-Йорк Таймс» написала: « Сингулярность близка » поражает размахом и бравадой», но говорит, что «большая часть его мыслей имеет тенденцию быть пирогом в небе». Она отмечает, что он больше сосредоточен на оптимистичных результатах, а не на рисках. [48]
В 2006 году Барри Птолемей и его продюсерская компания Ptolemaic Productions лицензировали права на «Сингулярность близка» у Курцвейла. Вдохновленный книгой, Птолемей снял и продюсировал фильм «Трансцендентный человек» , который впоследствии привлек к книге больше внимания.
Курцвейл также снял собственную экранизацию, созданную в сотрудничестве с Terasem ; «Сингулярность близка» сочетает в себе документальные интервью с научно-фантастической историей о превращении его робота-аватара Рамоны в общий искусственный интеллект . Показанный на Всемирном кинофестивале, кинофестивале в Вудстоке , Варшавском международном кинофестивале, кинофестивале в Сан-Антонио в 2010 году и фестивале независимого кино в Сан-Франциско в 2011 году, фильм обычно выходил в прокат 20 июля 2012 года . доступен на DVD или для скачивания в цифровом формате. [50] [51]