Серая слизь (также пишется как grey goo ) — гипотетический сценарий глобальной катастрофы , связанный с молекулярной нанотехнологией , в котором неконтролируемые самовоспроизводящиеся машины потребляют всю биомассу (а возможно, и все остальное) на Земле , создавая при этом еще больше себя, [1] [2] сценарий, который был назван экофагией ( буквальное потребление экосистемы ) . [3] Первоначальная идея предполагала, что машины были спроектированы с учетом этой возможности, в то время как популяризация предполагала, что машины могут каким-то образом получить эту возможность случайно.
Самовоспроизводящиеся машины макроскопического типа были первоначально описаны математиком Джоном фон Нейманом и иногда называются машинами фон Неймана или лязгающими репликаторами . Термин «серая слизь» был придуман пионером нанотехнологий К. Эриком Дрекслером в его книге 1986 года «Двигатели творения » . [4] В 2004 году он заявил: «Я бы хотел никогда не использовать термин «серая слизь». [5] «Двигатели творения » упоминают «серую слизь» как мысленный эксперимент в двух абзацах и примечании, в то время как популяризированная идея серой слизи была впервые опубликована в журнале с массовым тиражом Omni в ноябре 1986 года. [6]
Термин был впервые использован пионером молекулярной нанотехнологии К. Эриком Дрекслером в книге «Двигатели творения» (1986). В главе 4 «Двигатели изобилия » Дрекслер иллюстрирует как экспоненциальный рост , так и присущие ему ограничения (не серую слизь), описывая « сухие » наномашины , которые могут функционировать только при наличии специального сырья :
Представьте себе такой репликатор, плавающий в бутылке с химикатами, копирующий себя... первый репликатор собирает копию за тысячу секунд, затем два репликатора строят еще два за следующую тысячу секунд, четыре строят еще четыре, а восемь строят еще восемь. По истечении десяти часов новых репликаторов не тридцать шесть, а более 68 миллиардов. Меньше чем за день они будут весить тонну; меньше чем за два дня они будут весить больше Земли; еще через четыре часа они превзойдут массу Солнца и всех планет вместе взятых — если бы бутылка с химикатами не опустела задолго до этого.
По словам Дрекслера, этот термин был популяризирован статьей в научно-фантастическом журнале Omni , которая также популяризировала термин «нанотехнология» в том же номере. Дрекслер говорит, что контроль над вооружениями — это гораздо более серьезная проблема, чем серая слизь «нанонасекомые». [7]
Дрекслер описывает серую слизь в главе 11 « Машин творения» :
Ранние репликаторы на основе ассемблеров могли победить самые продвинутые современные организмы. «Растения» с «листьями», не более эффективными, чем сегодняшние солнечные батареи, могли вытеснить настоящие растения, заполонив биосферу несъедобной листвой. Выносливые, всеядные «бактерии» могли вытеснить настоящие бактерии: они могли распространяться, как разлетающаяся пыльца, быстро размножаться и превращать биосферу в пыль за считанные дни. Опасные репликаторы могли бы легко оказаться слишком выносливыми, маленькими и быстро распространяющимися, чтобы их остановить — по крайней мере, если бы мы не подготовились. У нас достаточно проблем с контролем вирусов и плодовых мушек.
Дрекслер отмечает, что геометрический рост, который стал возможен благодаря саморепликации, по сути своей ограничен доступностью подходящего сырья. Дрекслер использовал термин «серая слизь» не для обозначения цвета или текстуры, а для того, чтобы подчеркнуть разницу между «превосходством» с точки зрения человеческих ценностей и «превосходством» с точки зрения конкурентного успеха:
Хотя массы неконтролируемых репликаторов не обязательно должны быть серыми или липкими, термин «серая слизь» подчеркивает, что репликаторы, способные уничтожить жизнь, могут быть менее вдохновляющими, чем отдельный вид крабграсса. Они могут быть «превосходными» в эволюционном смысле, но это не обязательно делает их ценными.
Билл Джой , один из основателей Sun Microsystems, обсуждал некоторые проблемы, связанные с развитием этой технологии, в своей ныне знаменитой статье 2000 года в журнале Wired под названием « Почему будущее не нуждается в нас ». В ответ на опасения Джоя в 2000 году пионером наномедицины Робертом Фрейтасом был опубликован первый количественный технический анализ сценария экофагии . [3]
Дрекслер недавно признал, что нет необходимости строить что-либо, что хотя бы отдаленно напоминает потенциальный неконтролируемый репликатор. Это полностью избежало бы проблемы. В статье в журнале Nanotechnology он утверждает, что самовоспроизводящиеся машины излишне сложны и неэффективны. Его техническая книга 1992 года о передовых нанотехнологиях Nanosystems: Molecular Machinery, Manufacturing, and Computation [8] описывает производственные системы, которые представляют собой настольные фабрики со специализированными машинами в фиксированных местах и конвейерными лентами для перемещения деталей с места на место. Ни одна из этих мер не помешала бы стороне создать серую слизь, если бы это было возможно.
Король Карл III (тогда принц Уэльский ) призвал Британское королевское общество расследовать «огромные экологические и социальные риски» нанотехнологий в запланированном отчете, что привело к многочисленным комментариям в СМИ по поводу серой слизи. Отчет Королевского общества по нанонауке был опубликован 29 июля 2004 года, и в нем было заявлено, что возможность самовоспроизводящихся машин лежит слишком далеко в будущем, чтобы вызывать беспокойство у регулирующих органов. [9]
Более поздний анализ в статье под названием « Безопасное экспоненциальное производство» из Института физики (написанной совместно Крисом Фениксом, директором по исследованиям Центра ответственной нанотехнологии, и Эриком Дрекслером) показывает, что опасность серой слизи гораздо менее вероятна, чем первоначально предполагалось. [10] Однако были выявлены другие долгосрочные серьезные риски для общества и окружающей среды от нанотехнологий. [11] Дрекслер предпринял несколько публичных попыток отказаться от своей гипотезы о серой слизи, чтобы сосредоточить дебаты на более реалистичных угрозах, связанных с нанотерроризмом, основанным на знаниях, и другими злоупотреблениями. [12]
В статье «Безопасное экспоненциальное производство» , опубликованной в выпуске журнала «Нанотехнологии» за 2004 год , было высказано предположение, что создание производственных систем, способных к самовоспроизведению с использованием собственных источников энергии, не потребуется. [13] Институт Форсайта также рекомендовал встраивать элементы управления в молекулярные машины. Эти элементы управления смогут помешать кому-либо намеренно злоупотреблять нанотехнологиями и, следовательно, избежать сценария «серой слизи». [14]
Серая слизь — полезная конструкция для рассмотрения маловероятных, но высокоэффективных результатов от новых технологий. Таким образом, это полезный инструмент в этике технологий . Дэниел А. Валлеро применил ее в качестве мысленного эксперимента наихудшего сценария для технологов, обдумывающих возможные риски от продвижения технологии. [15] Для этого требуется, чтобы дерево решений или дерево событий включало даже события с крайне низкой вероятностью, если такие события могут иметь крайне негативные и необратимые последствия, то есть применение принципа предосторожности . Дайан Ирвинг предупреждает, что «любая ошибка в науке будет иметь волновой эффект». [16] Валлеро адаптировал эту ссылку на теорию хаоса к новым технологиям, в которых небольшие перестановки начальных условий могут привести к непредвиденным и глубоко негативным последующим эффектам, за которые технолог и сторонники новой технологии должны нести ответственность.