Life 3.0: Being Human in the Age of Artificial Intelligence [1] — научно-популярная книга шведско-американского космолога Макса Тегмарка , изданная в 2017 году . В книге Life 3.0 обсуждается искусственный интеллект (ИИ) и его влияние на будущее жизни на Земле и за ее пределами. В книге обсуждается множество социальных последствий, что можно сделать, чтобы максимизировать шансы на положительный результат, а также потенциальное будущее человечества, технологий и их комбинаций.
Книга начинается с изложения сценария, в котором ИИ превзошел человеческий интеллект и стал всепроникающим в общество. Тегмарк ссылается на различные этапы человеческой жизни с момента ее зарождения: Жизнь 1.0 ссылается на биологическое происхождение, Жизнь 2.0 ссылается на культурное развитие человечества, а Жизнь 3.0 ссылается на технологический век людей. Книга фокусируется на «Жизни 3.0» и на появляющихся технологиях, таких как искусственный общий интеллект , который может когда-нибудь, в дополнение к способности обучаться, также сможет перепроектировать свое собственное оборудование и внутреннюю структуру.
Первая часть книги рассматривает происхождение интеллекта миллиарды лет назад и переходит к прогнозированию будущего развития интеллекта. Тегмарк рассматривает краткосрочные эффекты развития передовых технологий, такие как технологическая безработица , оружие ИИ и поиски AGI ( искусственного общего интеллекта ) человеческого уровня. В книге приводятся такие примеры, как Deepmind и OpenAI , беспилотные автомобили и игроки ИИ, которые могут победить людей в шахматах, [2] Jeopardy, [3] и го. [4]
После обзора существующих проблем в области ИИ Тегмарк затем рассматривает ряд возможных вариантов будущего, в которых участвуют интеллектуальные машины или люди. В пятой главе описывается ряд потенциальных результатов, таких как измененные социальные структуры, интеграция людей и машин, а также как позитивные, так и негативные сценарии, такие как Дружественный ИИ или Апокалипсис ИИ. [5] Тегмарк утверждает, что риски ИИ исходят не от злонамеренности или сознательного поведения как такового, а скорее от несоответствия целей ИИ целям людей. Многие из целей книги совпадают с целями Института будущего жизни , [6] соучредителем которого является Тегмарк.
В остальных главах изучаются концепции физики, цели, сознание и смысл, а также исследуется, что может сделать общество, чтобы помочь создать желаемое будущее для человечества.
Одной из критических замечаний к книге от Kirkus Reviews является то, что некоторые сценарии или решения в книге являются натяжкой или в некоторой степени пророческими: «Решения Тегмарка по неизбежной массовой безработице являются натяжкой». [7] Исследователь ИИ Стюарт Дж. Рассел , пишущий в Nature , сказал: «Я вряд ли буду категорически не согласен с предпосылкой Жизни 3.0 . Жизнь, утверждает Тегмарк, может или не может распространиться по Вселенной и «процветать в течение миллиардов или триллионов лет» из-за решений, которые мы принимаем сейчас — возможность одновременно соблазнительная и подавляющая». [8] В статье для Science Хайм Хирш назвал ее «очень читаемой книгой, которая дополняет экономическую перспективу Второго века машин относительно краткосрочных последствий недавних достижений в области ИИ и более подробный анализ того, как мы можем перейти от того, где мы находимся сегодня, к ИИ с ИИ и даже к сверхчеловеческому ИИ в Сверхинтеллекте ». [9] The Telegraph назвал ее «одним из лучших обзоров споров вокруг искусственного интеллекта». [10] [11] Christian Science Monitor сказал: «Хотя это, вероятно, не его намерение, многое из того, что пишет Тегмарк, тихо напугает его читателей». [12] Publishers Weekly дал положительный отзыв, но также заявил, что призыв Тегмарка к исследованию того, как сохранить контроль над сверхразумными машинами, «неловко сидит рядом с его признанием того, что контролировать такие богоподобные сущности будет почти невозможно». [13] Library Journal назвал книгу «обязательной к прочтению» для технологов, но заявил, что она не для случайного читателя. [14] The Wall Street Journal назвал ее «понятной и увлекательной»; однако он предупредил читателей, что спорное представление о том, что сверхразум может выйти из-под контроля, теперь более правдоподобно, чем несколько лет назад, но по-прежнему яростно выступает против этого многими компьютерными специалистами. [15]
Вместо того, чтобы одобрять конкретное будущее, книга предлагает читателям подумать о том, какое будущее они хотели бы видеть, и обсудить свои мысли на веб-сайте Future of Life. [16] Обзор Wall Street Journal назвал такое отношение благородным, но наивным, и раскритиковал упомянутый веб-сайт за то, что он «набит рекламными материалами для книги». [15]
Издание в твердом переплете находилось в общем списке бестселлеров New York Times в течение двух недель [17] и вошло в список деловых бестселлеров New York Times в сентябре и октябре 2017 года [18].
Бывший президент Барак Обама включил книгу в свой список «лучших книг 2018 года». [19] [20]
Бизнес-магнат Илон Маск (который ранее поддерживал тезис о том, что при некоторых сценариях развитый ИИ может поставить под угрозу выживание человечества ) рекомендовал книгу Life 3.0 как «стоящую прочтения». [21] [22]