TESCREAL — это аббревиатура- неологизм, предложенная ученым-компьютерщиком Тимнитом Гебру и философом Эмилем П. Торресом, которая расшифровывается как « трансгуманизм , экстропианство , сингуляритаризм , космизм , рационализм, эффективный альтруизм и долгосрочность ». [1] [2] Гебру и Торрес утверждают, что эти идеологии следует рассматривать как «взаимосвязанную и пересекающуюся» группу с общим происхождением. [1] Они говорят, что это движение позволяет своим сторонникам использовать угрозу вымирания человечества для оправдания дорогостоящих или пагубных проектов. Они считают его широко распространенным в социальных и академических кругах Кремниевой долины , сосредоточенных вокруг искусственного интеллекта . [3] Таким образом, аббревиатура иногда используется для критики воспринимаемой системы убеждений, связанной с большими технологиями . [3] [4] [5]
Гебру и Торрес придумали термин «TESCREAL» в 2023 году, впервые использовав его в черновике статьи под названием «The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence». [1] [4] First Monday опубликовал статью в апреле 2024 года, хотя Торрес и Гебру популяризировали этот термин в другом месте [6] до публикации статьи. По словам Гебру и Торреса, трансгуманизм, экстропианство, сингуляритаризм, (современный) космизм, рационализм, эффективный альтруизм и долгосрочность представляют собой «связку» «взаимосвязанных и пересекающихся идеологий», возникших из евгеники 20-го века , с общими предшественниками. [1] Они используют термин «TESCREAList» для обозначения людей, которые придерживаются или, по-видимому, поддерживают большинство или все идеологии, отраженные в аббревиатуре. [1] [3]
По мнению критиков этих философий, TESCREAL описывает пересекающиеся движения, поддерживаемые видными людьми в технологической индустрии для предоставления интеллектуальной поддержки для реализации и приоритизации проектов, включая искусственный интеллект (AGI) , продление жизни и колонизацию космоса . [1] [4] [7] Автор научной фантастики Чарльз Стросс , используя пример колонизации космоса, утверждал, что идеологии позволяют миллиардерам реализовывать масштабные личные проекты, движимые правой интерпретацией научной фантастики, утверждая, что отказ от реализации таких проектов представляет экзистенциальный риск для общества. [8] Гебру и Торрес пишут, что, используя угрозу вымирания, сторонники TESCREAL могут оправдать «попытки создания неконтролируемых систем, которые по своей сути небезопасны». [1] Медиа-исследователь Итан Цукерман утверждает, что, рассматривая только те цели, которые представляют ценность для движения TESCREAL, можно оправдать футуристические проекты с более непосредственными недостатками, такими как расовое неравенство, алгоритмическая предвзятость и ухудшение состояния окружающей среды. [9] Выступая на Радио Новой Зеландии , политический обозреватель Дэнил Маклахлан сказал, что многие из этих философий, возможно, начинались с благих намерений, но могли быть доведены «до точки нелепости». [10]
Философ Йоги Хейл Хендлин утверждал, что, игнорируя человеческие причины общественных проблем и чрезмерно усложняя решения, TESCREALисты игнорируют контекст, в котором возникают многие проблемы. [11] Камилла Соджит Пейча написала в Document Journal , что TESCREAL — это инструмент для технологической элиты, позволяющий ей концентрировать власть. [7] В The Washington Spectator Дэйв Трой назвал TESCREAL движением « цель оправдывает средства », которое противоречит «демократическому, инклюзивному, честному, терпеливому и справедливому управлению». [4] Джил Дюран написал, что «TESCREAL», «авторитарная технократия» и «технооптимизм» были фразами, которые использовались в начале 2024 года для описания новой идеологии, появляющейся в технологической индустрии. [12]
Гебру, Торрес и другие сравнили TESCREAL со светской религией из-за ее параллелей с христианской теологией и эсхатологией . [1] [3] [13] [8] [14] Авторы Current Affairs сравнили эти философии и последующий технооптимизм с «любой другой мономаниакальной верой... в которой сомневающиеся рассматриваются как враги, а убеждения принимаются без доказательств». Они утверждают, что следование TESCREAL помешает реальному справедливому общему будущему. [15]
Большая часть рассуждений об экзистенциальном риске от AGI происходит среди сторонников идеологий TESCREAL. [9] [16] [17] Сторонники TESCREAL считаются либо «сторонниками ускорения ИИ», которые считают ИИ единственным способом достижения утопического будущего, в котором проблемы будут решены, либо « обидчиками ИИ », которые считают, что ИИ, скорее всего, не будет соответствовать выживанию человечества и, скорее всего, станет причиной вымирания человечества. [9] [14] Несмотря на риск, многие обидчики считают развитие AGI неизбежным и утверждают, что только путем разработки и согласования AGI в первую очередь можно предотвратить экзистенциальный риск. [18] [17]
Гебру сравнил конфликт между акселерационистами и думерами со «светской религией, продающей утопию и апокалипсис с поддержкой AGI». [14] Торрес и Гебру утверждают, что обе группы используют гипотетические апокалипсисы, управляемые ИИ, и утопическое будущее, чтобы оправдать неограниченные исследования, разработки и дерегулирование технологий. Рассматривая только далеко идущие будущие последствия, создавая шумиху вокруг непроверенной технологии и нагнетая страх, Торрес и Гебру утверждают, что TESCREALисты отвлекают внимание от воздействия технологий, которые могут негативно повлиять на общество, непропорционально навредить меньшинствам из-за алгоритмической предвзятости и оказать пагубное воздействие на окружающую среду . [5] [13] [17]
Неше Девенот использовал аббревиатуру TESCREAL для обозначения «глобальной финансовой и технологической элиты», которая продвигает новые способы использования психоделических препаратов в качестве методов лечения психического здоровья не потому, что они хотят помочь людям, а для того, чтобы заработать деньги на продаже этих фармацевтических препаратов в рамках плана по увеличению неравенства. [19]
Гебру и Торрес утверждают, что идеологии TESCREAL напрямую происходят из евгеники 20-го века [1] и что совокупность идеологий выступает за вторую волну новой евгеники . [1] [20] Другие также утверждали, что идеологии TESCREAL развились из более ранних философий, которые использовались для оправдания массовых убийств и геноцида. [7] [18] Некоторые видные деятели, которые внесли свой вклад в идеологии TESCREAL, были обвинены в расизме и сексизме. [16] [21] [22] Маклохлан сказал, что, в то время как «некоторые люди в этих группах хотят генетически сконструировать сверхразумных людей или заменить весь вид высшей формой интеллекта», другие «как эффективные альтруисты, например, большинство из них просто хотят помочь очень бедным людям... они немного шокированы... тем, что их втянули в этот злонамеренный... евгенический заговор». [10]
В своей статье в Asterisk , журнале, посвященном эффективному альтруизму, Ози Бреннан раскритиковал Гебру и Торреса за то, что они объединили различные философии, как будто они были «монолитным» движением. Бреннан утверждает, что Торрес неправильно понял эти различные философии и вырвал философские мысленные эксперименты из контекста. [23] Джеймс Петокукис из Американского института предпринимательства не согласен с критикой сторонников TESCREAL. Он утверждает, что технологические миллиардеры, критикуемые в статье Scientific American за якобы поддержку TESCREAL, значительно продвинули общество. [24] Маклахлан отметил, что критики пакета TESCREAL возражали против объединения вместе того, что они считают разрозненными и иногда конфликтующими идеологиями, но полагает, что TESCREAL — хороший способ описать и объединить многие из «грандиозных причудливых идеологий в Кремниевой долине». [10] Эли Сеннеш и Джеймс Хьюз , публикуясь в блоге технопрогрессивного Института этики и новых технологий , утверждают, что TESCREAL — это левая теория заговора , которая без необходимости группирует разрозненные философии вместе, не понимая взаимоисключающих принципов каждой из них. [25]
По словам Торреса, «если передовые технологии продолжат развиваться нынешними темпами, катастрофа глобального масштаба почти наверняка будет вопросом времени, а не «если». Торрес считает, что «возможно, единственный способ действительно достичь состояния «экзистенциальной безопасности» — это замедлить или полностью остановить дальнейшие технологические инновации», и подверг критике долгосрочную точку зрения, согласно которой технологии, хотя и опасны, необходимы для того, чтобы человеческая цивилизация достигла своего полного потенциала. [26] [23] Бреннан утверждает, что предложение Торреса замедлить или остановить технологическое развитие представляет собой более крайнюю позицию, чем идеологии TESCREAL, предотвращая многие улучшения в качестве жизни, здравоохранении и сокращении бедности, которые обеспечивает технический прогресс. [23]
Венчурный капиталист Марк Андрессен назвал себя TESCREALистом. [10] [9] В октябре 2023 года он опубликовал « Манифест технооптимиста », который Джаг Бхалла и Натан Дж. Робинсон назвали «идеальным примером» идеологий TESCREAL. [15] В документе он утверждает, что более продвинутый искусственный интеллект может спасти бесчисленное количество будущих потенциальных жизней, и что те, кто работает над замедлением или предотвращением его развития, должны быть осуждены как убийцы. [7] [9]
Илона Маска описывают как человека, симпатизирующего некоторым идеологиям TESCREAL. [5] [13] [21] [19] В августе 2022 года Маск написал в Твиттере, что долгосрочная книга Уильяма Макаскилла «Что мы обязаны будущему» «близка к моей философии». [27] Некоторые авторы считают, что Neuralink Маска преследует цели TESCREAL. [5] [28] Некоторые эксперты по ИИ жаловались на сосредоточенность компании XAI Маска на экзистенциальном риске, утверждая, что она и другие компании ИИ связаны с движениями TESCREAL. [29] [30] Дэйв Трой считает, что наталистские взгляды Маска исходят из идеалов TESCREAL. [4]
Также высказывалось предположение, что Питер Тиль симпатизирует идеям TESCREAL. [5] [13] [31] Бенджамин Светкей написал в The Hollywood Reporter , что Тиль и другие генеральные директора Кремниевой долины, которые поддерживают президентскую кампанию Дональда Трампа 2024 года, продвигают политику, которая положит конец «регуляторам, чьи устаревшие ограничения на такие вещи, как эксперименты над людьми, замедляют движение к технотопическому раю». [31]
Сэм Альтман и большая часть совета директоров OpenAI были описаны как поддерживающие движения TESCREAL, особенно в контексте его попытки увольнения в 2023 году. [13] [32] [14] Гебру и Торрес призвали Альтмана не преследовать идеалы TESCREAL. [33] Лоррейн Редо в своей статье в Charlie Hebdo описала Сэма Альтмана и многих других руководителей Кремниевой долины как поддерживающих идеалы TESCREAL. [13]
Самопровозглашенные трансгуманисты Ник Бостром и Элиезер Юдковски , оба влиятельные в дискуссиях об экзистенциальном риске со стороны ИИ, [22] также были описаны как лидеры движения TESCREAL. [5] [16] [22] Редо сказал, что Бостром поддерживал некоторые идеалы «в соответствии с движением TESCREALистов». [13]
Сэм Бэнкман-Фрид , бывший генеральный директор криптовалютной биржи FTX , был видным и самопровозглашенным членом сообщества эффективных альтруистов. [34] По данным The Guardian , после краха FTX администраторы конкурсной массы пытались вернуть около 5 миллионов долларов, которые, как они утверждают, были переведены некоммерческой организации, чтобы помочь обеспечить покупку исторического отеля, который был перепрофилирован для проведения конференций и семинаров, связанных с долгосрочным планированием, рационализмом и эффективным альтруизмом. В отеле размещались либеральные евгеники и другие ораторы, которые, по словам Guardian , имели расистскую и женоненавистническую историю. [21] : 1
Долгосрочный и эффективный альтруист Уильям Макаскилл , который часто сотрудничал с Банкманом-Фридом для координации филантропических инициатив, был описан как TESCREAList. [1] [4] [9] [19]
Контрфактуальные попытки улучшить психическое здоровье за счет увеличения неравенства широко распространены в индустрии психоделиков. Эти усилия были поддержаны элитарным мировоззрением, широко распространенным в Кремниевой долине. Основой этого мировоззрения является набор идеологий TESCREAL, ... Хотя другие отметили сходство между ранней шумихой вокруг СИОЗС и продолжающейся шумихой вокруг психоделических препаратов, риторика психоделической шумихи окрашена утопическими и магико-религиозными устремлениями, которые не имеют параллелей в дискурсе вокруг СИОЗС или других антидепрессантов. Я утверждаю, что этот утопический дискурс дает представление о том, как мировые финансовые и технологические элиты инструментируют психоделики как один из инструментов в более широком проекте построения мира, который оправдывает растущее материальное неравенство.