stringtranslate.com

МеньшеНеправильно

LessWrong (также называемый Less Wrong ) — это общественный блог и форум , посвященный обсуждению когнитивных предубеждений , философии , психологии , экономики , рациональности и искусственного интеллекта , а также других тем. [1] [2]

Цель

LessWrong пропагандирует изменения образа жизни, которые, по мнению сообщества, ведут к повышению рациональности и самосовершенствованию . Публикации часто направлены на то, чтобы избежать предвзятости, связанной с принятием решений и оценкой доказательств. Одним из предложений является использование теоремы Байеса в качестве инструмента принятия решений. [2] Также уделяется внимание психологическим барьерам, которые мешают принимать правильные решения, включая обусловленность страхом и когнитивные предубеждения , которые изучал психолог Дэниел Канеман . [3]

LessWrong также занимается вопросами трансгуманизма , экзистенциальных угроз и сингулярности . Газета New York Observer отметила, что «несмотря на то , что группа New York Less Wrong позиционирует себя как форум, посвященный «искусству человеческой рациональности» ,  ... семинар для выпускников: страшная экзистенциальная угроза – или, если повезет, утопическое обещание – известная как технологическая сингулярность … Называя себя «рационалистами», как это сделала команда «Меньше неправильных», становится намного труднее отмахнуться от них как от «рационалистов». « культ Судного дня ». [4] 

История

Элиэзер Юдковский в Стэнфордском университете в 2006 году.

LessWrong возник на основе Overcoming Bias , более раннего группового блога, посвященного человеческой рациональности, который начался в ноябре 2006 года с исследователем искусственного интеллекта Элиезером Юдковски и экономистом Робином Хэнсоном в качестве основных участников. В феврале 2009 года посты Юдковски были использованы в качестве исходного материала для создания блога сообщества LessWrong , а Overcoming Bias стал личным блогом Хэнсона. [5] В 2013 году значительная часть рационалистического сообщества переключила внимание на Кодекс Slate Star Кодекса Скотта Александера . [6]

LessWrong и окружающее его движение являются темами книги 2019 года « ИИ не ненавидит вас» , написанной бывшим научным корреспондентом BuzzFeed Томом Чиверсом. [7] [8] [9]

Василиск Роко

В июле 2010 года участник LessWrong Роко разместил на сайте мысленный эксперимент , в котором в остальном доброжелательная система ИИ будущего пытает людей, которые слышали об ИИ до его появления и не смогли неустанно работать над его появлением, чтобы стимулировать сказанное. работа. Используя «вневременную теорию принятия решений» Юдковски, в сообщении утверждалось, что это будет полезно для ИИ, хотя оно не может причинно повлиять на людей в настоящем. Эта идея стала известна как « Василиск Роко », основанная на идее Роко о том, что простое слушание об этой идее даст гипотетической системе искусственного интеллекта более сильные стимулы для использования шантажа . Юдковски удалил сообщения Роко на эту тему, заявив, что публиковать их было «глупо», поскольку распространение информации, о которой даже осознание может быть вредным, само по себе является вредным действием, и что эта идея, хотя и критически ошибочна, представляет собой пространство мышления. которое может содержать «действительно опасную мысль», что-то, что считается информационной опасностью . Обсуждение василиска Роко было запрещено на LessWrong на несколько лет, поскольку Юдковски заявил, что это вызывало у некоторых читателей нервные срывы . [10] [11] [4] Запрет был снят в октябре 2015 года. [12]

Дэвид Ауэрбах писал в Slate : «Сочетание мессианских амбиций, убежденности в собственной непогрешимости и большого количества денег никогда не дает хороших результатов, независимо от идеологии, и я не ожидаю, что Юдковский и его соратники станут исключением. Я волнуюсь. меньше о Василиске Роко, чем о людях, которые считают, что превзошли общепринятую мораль». [11]

Василиск Роко упоминается в клипе канадской певицы Граймс на ее песню « Flesh Without Blood » 2015 года через персонажа по имени «Рококо Василиск», которого Граймс описала как «обреченного на вечные пытки со стороны искусственного интеллекта, но она также добрая». как Мария-Антуанетта ». Подумав об этом каламбуре и обнаружив, что Граймс уже придумал его, Илон Маск связался с Граймсом, что привело к их свиданию. [13] [14] Эта концепция также упоминалась в эпизоде ​​« Силиконовой долины » под названием «Распознавание лиц». [15]

Василиска сравнивают со ставкой Паскаля . [16]

Неореакция

Неореакционное движение сначала выросло на LessWrong , [17] привлеченном дискуссиями на сайте евгеники и эволюционной психологии . [18] Юдковский категорически отверг неореакцию. [17] [19] [20] В опросе среди пользователей LessWrong в 2016 году 28 из 3060 респондентов, или 0,92%, назвали себя «неореакционерами». [21]

Эффективный альтруизм

LessWrong сыграли значительную роль в развитии движения эффективного альтруизма (EA), [22] и эти два сообщества тесно переплетены. [23] : 227  В опросе пользователей LessWrong в 2016 году 664 из 3060 респондентов, или 21,7%, назвали себя «эффективными альтруистами». Отдельный опрос эффективных альтруистов в 2014 году показал, что 31% респондентов впервые услышали об ЭА через LessWrong , [23] , хотя к 2020 году это число упало до 8,2%. [24] Два первых сторонника эффективного альтруизма, Тоби Орд и Уильям Макаскилл встретился с философом-трансгуманистом Ником Бостромом в Оксфордском университете. Исследования Бострома повлияли на многих эффективных альтруистов, заставивших их работать над снижением экзистенциального риска . [23]

Рекомендации

  1. ^ «Меньше неправильных часто задаваемых вопросов» . МеньшеНеправильно. Архивировано из оригинала 30 апреля 2019 года . Проверено 25 марта 2014 г.
  2. ^ Аб Миллер, Джеймс (28 июля 2011 г.). «Вы можете узнать, как стать более рациональным». Бизнес-инсайдер . Архивировано из оригинала 10 августа 2018 года . Проверено 25 марта 2014 г.
  3. ^ Беркман, Оливер (9 марта 2012 г.). «Эта рубрика изменит вашу жизнь: задали каверзный вопрос? Ответьте на более простой». Хранитель . Архивировано из оригинала 26 марта 2014 года . Проверено 25 марта 2014 г.
  4. ↑ Аб Тику, Ниташа (25 июля 2012 г.). «Вера, надежда и сингулярность: вход в матрицу с футуристическим набором Нью-Йорка». Наблюдатель . Архивировано из оригинала 12 апреля 2019 года . Проверено 12 апреля 2019 г.
  5. ^ «Откуда взялось Less Wrong? (Часто задаваемые вопросы о LessWrong)» . Архивировано из оригинала 30 апреля 2019 года . Проверено 25 марта 2014 г.
  6. ↑ Льюис-Краус, Гидеон (9 июля 2020 г.). «Кодекс Slate Star и война Кремниевой долины против средств массовой информации». Житель Нью-Йорка . Архивировано из оригинала 10 июля 2020 года . Проверено 4 августа 2020 г.
  7. ↑ Каудри, Кэтрин (21 сентября 2017 г.). «W&N выигрывает дебют научного репортера Buzzfeed после аукциона» . Книготорговец . Архивировано из оригинала 27 ноября 2018 года . Проверено 21 сентября 2017 г.
  8. ^ Чиверс, Том (2019). ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770.
  9. ↑ Марриотт, Джеймс (31 мая 2019 г.). «Обзор Тома Чиверса «ИИ не ненавидит тебя» — почему ботаники нервничают». Времена . ISSN  0140-0460. Архивировано из оригинала 23 апреля 2020 года . Проверено 3 мая 2020 г.
  10. ↑ С любовью, Дилан (6 августа 2014 г.). «ВНИМАНИЕ: простое чтение об этом мысленном эксперименте может разрушить вашу жизнь». Бизнес-инсайдер . Архивировано из оригинала 18 ноября 2018 года . Проверено 6 декабря 2014 г.
  11. ^ Аб Ауэрбах, Дэвид (17 июля 2014 г.). «Самый ужасающий мысленный эксперимент всех времен». Сланец . Архивировано из оригинала 25 октября 2018 года . Проверено 18 июля 2014 г.
  12. ^ RobbBB (5 октября 2015 г.). «Несколько заблуждений относительно василиска Роко». МеньшеНеправильно. Архивировано из оригинала 15 марта 2018 года . Проверено 10 апреля 2016 г. . Запрет на василиска Роко больше не действует
  13. ↑ Паес, Дэнни (5 августа 2018 г.). «Илон Маск и Граймс: «Василиск в стиле рококо» связывает двоих в Твиттере» . Инверсия . Архивировано из оригинала 24 июля 2020 года . Проверено 24 июля 2020 г.
  14. ↑ Оберхаус, Дэниел (8 мая 2018 г.). «Объяснение василиска Роко, мысленного эксперимента, который свел Илона Маска и Граймса». Порок . Архивировано из оригинала 25 июля 2020 года . Проверено 24 июля 2020 г.
  15. ↑ Берч, Шон (23 апреля 2018 г.). «Проверка фактов о «Силиконовой долине»: этот мысленный эксперимент реален и ужасен». Обертка . Архивировано из оригинала 12 ноября 2020 года . Проверено 12 ноября 2020 г.
  16. ↑ Пол-Чоудхури, Сумит (2 августа 2019 г.). «Боги завтрашнего дня: каково будущее религии?». Би-би-си . Архивировано из оригинала 1 сентября 2020 года . Проверено 28 августа 2020 г.
  17. ^ Аб Симонс, Марк (14 апреля 2017 г.). «Неореакция в Кремниевой долине: Wenn Maschinen denken». Frankfurter Allgemeine Zeitung (на немецком языке). ISSN  0174-4909. Архивировано из оригинала 13 июня 2022 года . Проверено 23 марта 2019 г.
  18. ↑ Keep, Элмо (22 июня 2016 г.). «Странные и противоречивые взгляды на мир миллиардера Кремниевой долины Питера Тиля». Слияние . Архивировано из оригинала 13 февраля 2017 года . Проверено 5 октября 2016 г. Благодаря дискуссиям LessWrong о евгенике и эволюционной психологии, она привлекла некоторых читателей и комментаторов, связанных с альтернативными правыми и неореакцией, этой широкой когортой неофашистских, белых националистов и женоненавистнических троллей.
  19. ↑ Риджио, Адам (23 сентября 2016 г.). «Насилие чистого разума: неореакция: василиск». Коллектив обзора и ответов социальной эпистемологии . 5 (9): 34–41. ISSN  2471-9560. Архивировано из оригинала 5 октября 2016 года . Проверено 5 октября 2016 г. Лэнд и Ярвин являются открытыми союзниками нового реакционного движения, в то время как Юдковски насчитывает множество реакционеров среди своих фанатов, несмотря на то, что считает их расистскую политику отвратительной.
  20. ↑ Элиэзер Юдковский (8 апреля 2016 г.). «Без названия». Оптимизируйте буквально всё (блог) . Архивировано из оригинала 26 мая 2019 года . Проверено 7 октября 2016 г.
  21. ^ Херманссон, Патрик; Лоуренс, Дэвид; Малхолл, Джо; Мердок, Саймон (2020). «Темное Просвещение: неореакция и Кремниевая долина». Международные альтернативные правые. Фашизм XXI века? . Абингдон-он-Темз, Англия, Великобритания: Routledge. ISBN 9781138363861. Архивировано из оригинала 13 июня 2022 года . Проверено 2 октября 2020 г. .
  22. ^ де Лазари-Радек, Катажина; Певец, Питер (27 сентября 2017 г.). Утилитаризм: очень краткое введение . Издательство Оксфордского университета. п. 110. ИСБН 9780198728795.{{cite book}}: CS1 maint: дата и год ( ссылка )
  23. ^ abc Чиверс, Том (2019). «Глава 38: Эффективные альтруисты». ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770.
  24. ↑ Мосс, Дэвид (20 мая 2021 г.). «Опрос EA 2020: как люди участвуют в EA». Форум эффективного альтруизма . Архивировано из оригинала 28 июля 2021 года . Проверено 28 июля 2021 г.

Внешние ссылки