Серая слизь (также пишется как «серая слизь» ) — это гипотетический сценарий глобальной катастрофы, включающий молекулярную нанотехнологию , в которой вышедшие из-под контроля самовоспроизводящиеся машины потребляют всю биомассу (а, возможно, и все остальное) на Земле , создавая при этом еще больше самих себя [1] . ] [2] сценарий, получивший название экофагия ( буквальное потребление экосистемы ) . [3] Первоначальная идея предполагала, что машины были созданы с такой способностью, тогда как популяризаторы предполагали, что машины могут каким-то образом получить эту возможность случайно.
Самовоспроизводящиеся машины макроскопического типа были первоначально описаны математиком Джоном фон Нейманом и иногда называются машинами фон Неймана или лязгающими репликаторами . Термин «серая слизь» был придуман пионером нанотехнологий К. Эриком Дрекслером в его книге «Машины созидания» 1986 года . [4] В 2004 году он заявил: «Мне бы хотелось никогда не использовать термин «серая слизь». [5] В Engines of Creation «серая слизь» упоминается как мысленный эксперимент в двух абзацах и примечании, тогда как популяризированная идея серой слизи была впервые опубликована в массовом журнале Omni в ноябре 1986 года. [6]
Этот термин был впервые использован пионером молекулярных нанотехнологий К. Эриком Дрекслером в книге «Машины созидания» (1986). В главе 4 « Двигатели изобилия » Дрекслер иллюстрирует как экспоненциальный рост , так и присущие ему пределы (не серую слизь), описывая « сухие » наномашины , которые могут функционировать только при наличии специального сырья :
Представьте себе такой репликатор, плавающий в бутылке с химикатами и делающий копии самого себя... первый репликатор собирает копию за тысячу секунд, два репликатора затем создают еще два в течение следующей тысячи секунд, четыре создают еще четыре, а затем восемь строят еще восемь. По истечении десяти часов появится не тридцать шесть новых репликаторов, а более 68 миллиардов. Менее чем через день они будут весить тонну; менее чем через два дня они перевесят Землю; еще через четыре часа они превысят массу Солнца и всех планет вместе взятых — если бы бутылка с химикатами не иссякла задолго до этого.
По словам Дрекслера, этот термин был популяризирован благодаря статье в научно-фантастическом журнале Omni , который также популяризировал термин «нанотехнология» в том же номере. Дрекслер говорит, что контроль над вооружениями представляет собой гораздо более серьезную проблему, чем "наножуки" из серой слизи. [7]
Дрекслер описывает серую слизь в главе 11 « Машины созидания» :
Первые репликаторы на основе ассемблера могли победить самые продвинутые современные организмы. «Растения» с «листьями», не более эффективными, чем сегодняшние солнечные батареи, могли бы превзойти настоящие растения, заполонив биосферу несъедобной листвой. Прочные, всеядные «бактерии» могут превзойти настоящие бактерии: они могут распространяться, как пыльца, быстро размножаться и за считанные дни превратить биосферу в пыль. Опасные репликаторы легко могут оказаться слишком жесткими, маленькими и быстро распространяющимися, чтобы их можно было остановить — по крайней мере, если бы мы не подготовились. У нас достаточно проблем с контролем вирусов и плодовых мух.
Дрекслер отмечает, что геометрический рост, ставший возможным благодаря самовоспроизведению, по своей сути ограничен наличием подходящего сырья. Дрекслер использовал термин «серая слизь» не для обозначения цвета или текстуры, а для того, чтобы подчеркнуть разницу между «превосходством» с точки зрения человеческих ценностей и «превосходством» с точки зрения конкурентного успеха:
Хотя массы неконтролируемых репликаторов не обязательно должны быть серыми или липкими, термин «серая слизь» подчеркивает, что репликаторы, способные уничтожить жизнь, могут быть менее вдохновляющими, чем один вид крабовой травы. Они могут быть «превосходными» в эволюционном смысле, но это не обязательно делает их ценными.
Билл Джой , один из основателей Sun Microsystems, обсудил некоторые проблемы, связанные с внедрением этой технологии, в своей ставшей знаменитой статье 2000 года в журнале Wired под названием « Почему будущее не нуждается в нас ». В ответ на опасения Джой первый количественный технический анализ сценария экофагии был опубликован в 2000 году пионером наномедицины Робертом Фрейтасом . [3]
Совсем недавно Дрекслер признал, что нет необходимости создавать что-либо, хотя бы напоминающее потенциальный безудержный репликатор. Это позволит полностью избежать проблемы. В статье в журнале «Нанотехнологии» он утверждает, что самовоспроизводящиеся машины излишне сложны и неэффективны. Его техническая книга 1992 года по передовым нанотехнологиям « Наносистемы: молекулярное оборудование, производство и вычисления» [8] описывает производственные системы, которые представляют собой настольные фабрики со специализированными машинами в фиксированных местах и конвейерными лентами для перемещения деталей с места на место. Ни одна из этих мер не помешала бы партии создать вооружённую серую слизь, если бы такое было возможно.
Король Карл III (тогда принц Уэльский ) призвал Британское королевское общество расследовать «огромные экологические и социальные риски» нанотехнологий в запланированном отчете, что привело к многочисленным комментариям в СМИ по поводу серой слизи. Отчет Королевского общества о нанонауке был опубликован 29 июля 2004 года, и в нем говорилось, что возможность самовоспроизводящихся машин находится слишком далеко в будущем, чтобы вызывать беспокойство регулирующих органов. [9]
Более поздний анализ, проведенный в статье под названием «Безопасное экспоненциальное производство» Института физики (в соавторстве с Крисом Фениксом, директором по исследованиям Центра ответственных нанотехнологий, и Эриком Дрекслером), показывает, что опасность серой слизи гораздо менее вероятна, чем опасность серой слизи. изначально думал. [10] Однако были выявлены и другие долгосрочные серьезные риски для общества и окружающей среды, связанные с нанотехнологиями. [11] Дрекслер предпринял публичную попытку отказаться от своей гипотезы о серой слизи, пытаясь сосредоточить дебаты на более реалистичных угрозах, связанных с основанным на знаниях нанотерроризмом и другими злоупотреблениями. [12]
В книге «Безопасное экспоненциальное производство» , которая была опубликована в выпуске журнала «Нанотехнологии» за 2004 год , было высказано предположение, что создание производственных систем с возможностью самовоспроизводства за счет использования собственных источников энергии не понадобится. [13] Институт Форсайта также рекомендовал встроить средства управления в молекулярные машины. Эти меры контроля смогут помешать кому-либо намеренно злоупотреблять нанотехнологиями и, следовательно, избежать сценария «серой слизи». [14]
Серая слизь — полезная конструкция для рассмотрения маловероятных и высокоэффективных результатов новых технологий. Таким образом, это полезный инструмент в этике технологий . Дэниел А. Валлеро применил это как мысленный эксперимент по наихудшему сценарию для технологов, рассматривающих возможные риски, связанные с развитием технологии. [15] Для этого необходимо, чтобы дерево решений или дерево событий включало даже события с крайне малой вероятностью, если такие события могут иметь крайне негативные и необратимые последствия, т.е. применение принципа предосторожности . Дайан Ирвинг предупреждает, что «любая ошибка в науке будет иметь волновой эффект». [16] Валлеро адаптировал эту ссылку на теорию хаоса к новым технологиям, в которых небольшие изменения начальных условий могут привести к непредвиденным и глубоко негативным последствиям в дальнейшем, за которые технолог и сторонники новой технологии должны нести ответственность.