« Почему будущее не нуждается в нас » — статья Билла Джоя (тогдашнего главного научного сотрудника Sun Microsystems ) в апрельском номере журнала Wired за 2000 год . В статье он утверждает, что «наши самые мощные технологии 21-го века — робототехника , генная инженерия и нанотехнологии — грозят превратить людей в вымирающий вид ». Джой предупреждает:
Опыт атомщиков ясно показывает необходимость брать на себя личную ответственность, опасность того, что все будет происходить слишком быстро, и то, как процесс может начать жить своей собственной жизнью. Мы можем, как и они, создавать непреодолимые проблемы практически в мгновение ока. Мы должны больше думать заранее, если не хотим быть так же удивлены и шокированы последствиями наших изобретений.
В то время как некоторые критики характеризуют позицию Джоя как обскурантизм или неолуддизм , другие разделяют его обеспокоенность последствиями стремительного развития технологий. [1]
Джой утверждает, что развивающиеся технологии представляют для человечества гораздо большую опасность, чем любая другая технология. В частности, он фокусируется на генной инженерии , нанотехнологиях и робототехнике . Он утверждает, что технологии разрушения 20-го века, такие как ядерная бомба, были ограничены крупными правительствами из-за сложности и стоимости таких устройств, а также трудности в приобретении необходимых материалов. Он использует роман «Белая чума» как потенциальный сценарий кошмара, в котором безумный ученый создает вирус, способный уничтожить человечество.
Джой также выражает обеспокоенность по поводу увеличения мощности компьютеров. Его беспокоит то, что компьютеры в конечном итоге станут умнее нас, что приведет к таким антиутопическим сценариям, как восстание роботов . Он цитирует Теда Качинского (Унабомбера).
Джой выражает обеспокоенность тем, что в конечном итоге только богатые будут иметь возможность контролировать будущих роботов , которые будут построены, и что эти люди также могут решить взять жизнь в свои руки и контролировать то, как люди продолжают заселяться и размножаться. [2] Он начал больше исследовать робототехнику и людей, которые специализируются на робототехнике , и помимо своих собственных мыслей, он пытался узнать мнение других по этой теме. Родни Брукс , специалист по робототехнике, считает, что в будущем произойдет слияние людей и роботов. [3] Джой упомянул книгу Ганса Моравеца «Робот: простая машина к трансцендентному разуму», в которой он считал, что в будущем произойдет сдвиг, когда роботы возьмут на себя обычные человеческие действия, но со временем люди привыкнут жить таким образом. [4]
В книге «Сингулярность уже близко » Рэй Курцвейл подверг сомнению регулирование потенциально опасных технологий, задавая вопрос: «Следует ли нам сказать миллионам людей, страдающих раком и другими разрушительными заболеваниями, что мы отменяем разработку всех биоинженерных методов лечения, потому что существует риск, что эти же технологии могут когда-нибудь быть использованы в злонамеренных целях?» Однако Джон Зерзан и Челлис Глендиннинг считают, что современные технологии вредны как для свободы, так и для проблемы рака, и что эти две проблемы связаны. [5] [6] [7]
В статье «Ответ Биллу Джою и мрачным технофутуристам» AAAS за 2001 год, опубликованной в «Ежегоднике политики в области науки и технологий», Джон Сили Браун и Пол Дюгид критиковали Джоя за то, что у него было технологическое туннельное видение своего прогноза, поскольку он не учитывал социальные факторы. [8]
Джон МакГиннис утверждает, что предложение Джоя об «отказе» от технологий, которые могут привести к общему искусственному интеллекту (AGI), потерпит неудачу, потому что «запреты, по крайней мере, в рамках современных технологий и геополитики, наверняка будут неэффективны». Проверка соглашений об ограничении AGI будет затруднена из-за двойного назначения AGI и легкости его сокрытия. Аналогичным образом он считает, что предложение Джоя о «клятве Гиппократа» о добровольном воздержании ученых от вредных исследований также не будет эффективным, потому что ученые могут оказаться под давлением правительств, соблазниться прибылью, не быть уверенными в том, какие технологии могут привести к вреду в будущем, или изначально выступить против предпосылки Джоя. Вместо отказа от AGI МакГиннис выступает за своего рода дифференциальное технологическое развитие , в котором дружественный искусственный интеллект развивается быстрее, чем другие виды. [9]
Экстропианский футурист Макс Мор разделяет точку зрения Курцвейла по вопросам непрактичной и неэффективной природы «технологического отказа», но добавляет к аргументу более существенный моральный и философский компонент, утверждая, что совершенствование и эволюция человечества не являются «потерей нашей человечности» и что добровольное увеличение возможностей в любой области даже не представляет собой «потерю» какого-либо рода. [10]
В статье Зака Голдсмита об интервью Билла Джоя он цитирует его слова о том, что некоторые опасения по поводу новых развивающихся технологий на самом деле более опасны, чем он выразил в статье, поскольку Голдсмит утверждает, что разработчики этих машин дают им слишком много мощности. [11] Голдсмит заявляет о своей убежденности в том, что ученые не задумываются о многих вещах, которые могут пойти не так, когда они начинают делать изобретения, потому что это приведет к сокращению финансирования.
В обзоре статьи Билла Джоя Софи Тайсом говорит, что Джой не должен быть однобоким, когда дело касается новых технологий, и должен также видеть, что может быть достигнут «компромисс» между ним и этими новыми технологиями. [12] Она также соглашается, что он имеет смысл беспокоиться о том, что произойдет в долгосрочной перспективе, но не думает, что эти технологии попытаются контролировать нас в будущем. Джой ответил на это, заявив, что ему понравилось, что люди начали реагировать на его статью, потому что она дала им информацию по этому вопросу. [13]
После публикации статьи Билл Джой предложил проводить оценку технологий с целью определения их скрытой опасности, а также призывать ученых отказываться от работы над технологиями, которые могут потенциально причинить вред.
В 15-м юбилейном выпуске журнала Wired в 2008 году в статье Лукаса Грейвса сообщалось, что генетика, нанотехнологии и робототехника еще не достигли уровня, который позволил бы воплотить в жизнь сценарий Билла Джоя. [14]
Известный сторонник теории заговора Алекс Джонс процитировал статью во время обсуждения последствий трансгуманизма с подкастерами Джо Роганом и Тимом Диллоном в выпуске The Joe Rogan Experience от 27 октября 2020 года . [15]