stringtranslate.com

LessWrong

LessWrong (также пишется Less Wrong ) — это блог и форум сообщества,посвященный обсуждению когнитивных предубеждений , философии , психологии , экономики , рациональности и искусственного интеллекта , а также других тем. [1] [2]

Цель

LessWrong описывает себя как онлайн-форум и сообщество, нацеленные на улучшение человеческого мышления, рациональности и принятия решений, с целью помочь своим пользователям придерживаться более точных убеждений и достигать своих личных целей. [3] Наиболее известные посты LessWrong — это «Последовательности», серия эссе, цель которых — описать, как избежать типичных режимов сбоев человеческого мышления с целью улучшения принятия решений и оценки доказательств. [4] [5] Одно из предложений — использовать теорему Байеса в качестве инструмента принятия решений. [2] Также особое внимание уделяется психологическим барьерам, которые мешают принятию хороших решений, включая обусловленность страхом и когнитивные предубеждения , которые изучал психолог Дэниел Канеман . [6]

LessWrong также занимается искусственным интеллектом, трансгуманизмом , экзистенциальными угрозами и сингулярностью . The New York Observer в 2019 году отметил, что «несмотря на то, что нью-йоркская группа Less Wrong называет себя форумом об «искусстве человеческой рациональности»,  она зациклена на ветви футуризма , которая, по-видимому, больше подходила бы для 3D-мультиплекса, чем для аспирантского семинара: ужасная экзистенциальная угроза — или, если повезет, утопическое обещание — известная как технологическая сингулярность  ... Называя себя «рационалистами», как это сделала команда Less Wrong, становится намного сложнее отвергнуть их как « культ конца света »». [7]

История

Элиезер Юдковски в Стэнфордском университете в 2006 году

LessWrong развился из Overcoming Bias , более раннего группового блога, посвященного человеческой рациональности, который был создан в ноябре 2006 года исследователем искусственного интеллекта Элиезером Юдковски и экономистом Робином Хэнсоном в качестве основных участников. В феврале 2009 года посты Юдковски были использованы в качестве исходного материала для создания блога сообщества LessWrong , а Overcoming Bias стал личным блогом Хэнсона. [8] В 2013 году значительная часть рационалистического сообщества переключила внимание на Slate Star Codex Скотта Александра . [4]

Искусственный интеллект

Обсуждения ИИ в LessWrong включают согласование ИИ , безопасность ИИ , [9] и машинное сознание . [ требуется ссылка ] Статьи, опубликованные в LessWrong об ИИ, цитировались в новостных СМИ. [9] [10] LessWrong и работа его окружающего движения в области ИИ являются темами книги 2019 года «ИИ не ненавидит вас» , написанной бывшим научным корреспондентом BuzzFeed Томом Чиверсом. [11] [12] [13]

Эффективный альтруизм

LessWrong сыграл значительную роль в развитии движения эффективного альтруизма (EA), [14] и эти два сообщества тесно переплетены. [15] : 227  В опросе пользователей LessWrong в 2016 году 664 из 3060 респондентов, или 21,7%, были идентифицированы как «эффективные альтруисты». Отдельный опрос эффективных альтруистов в 2014 году показал, что 31% респондентов впервые услышали об EA через LessWrong , [15] хотя к 2020 году это число сократилось до 8,2%. [16]

Василиск Роко

В июле 2010 года участник LessWrong Роко опубликовал на сайте мысленный эксперимент , в котором в остальном благожелательная будущая система искусственного интеллекта пытает людей, которые слышали об ИИ до его появления и не работали не покладая рук, чтобы воплотить его в жизнь, чтобы стимулировать эту работу. Эта идея стала известна как « василиска Роко », основанная на идее Роко о том, что простое упоминание об идее даст гипотетической системе искусственного интеллекта стимул попробовать такой шантаж . [17] [18] [7]

Неореакция

Раздел комментариев Overcoming Bias привлек видных неореакционеров , таких как Кертис Ярвин (псевдоним Менций Молдбаг), основатель неореакционного движения, [19] и Хансон опубликовал свою сторону дебатов против Молдбага на futarchy . [20] После того, как LessWrong отделился от Overcoming Bias , он также привлек некоторых лиц, связанных с неореакционерами, с обсуждениями евгеники и эволюционной психологии . [21] Однако Юдковски решительно отверг неореакцию. [22] [23] В опросе среди пользователей LessWrong в 2016 году 28 из 3060 респондентов (0,92%) идентифицировали себя как «неореакционеров». [24]

Известные пользователи

LessWrong был связан с несколькими влиятельными участниками. Основатель Элиезер Юдковски создал платформу для продвижения рациональности и повышения осведомленности о потенциальных рисках, связанных с искусственным интеллектом. [25] Скотт Александер стал одним из самых популярных авторов сайта, прежде чем начал свой собственный блог Slate Star Codex, внося вклад в дискуссии о безопасности и рациональности ИИ. [25]

Другие известные пользователи LessWrong включают Пола Кристиано , Вэй Дай и Цви Моушовица . Выборка постов этих и других участников, отобранных в процессе рецензирования сообществом, [26] была опубликована как часть сборников эссе «Карта, отражающая территорию» [27] и «Двигатели познания». [28] [26] [29]

Ссылки

  1. ^ "Less Wrong FAQ". LessWrong. Архивировано из оригинала 30 апреля 2019 года . Получено 25 марта 2014 года .
  2. ^ ab Miller, James (28 июля 2011 г.). «Вы можете научиться быть более рациональным». Business Insider . Архивировано из оригинала 10 августа 2018 г. Получено 25 марта 2014 г.
  3. ^ «Добро пожаловать в LessWrong!». LessWrong . 14 июня 2019 г.
  4. ^ ab Льюис-Краус, Гидеон (9 июля 2020 г.). «Slate Star Codex и война Кремниевой долины против СМИ». The New Yorker . Архивировано из оригинала 10 июля 2020 г. Получено 4 августа 2020 г.
  5. ^ "Sequences Highlights". LessWrong. Архивировано из оригинала 6 июля 2024 г. Получено 12 июля 2024 г.
  6. ↑ Беркман, Оливер (9 марта 2012 г.). «Эта колонка изменит вашу жизнь: задали сложный вопрос? Ответьте на более простой». The Guardian . Архивировано из оригинала 26 марта 2014 г. Получено 25 марта 2014 г.
  7. ^ ab Tiku, Nitasha (25 июля 2012 г.). «Вера, надежда и уникальность: вхождение в матрицу с футуристским набором Нью-Йорка». Observer . Архивировано из оригинала 12 апреля 2019 г. Получено 12 апреля 2019 г.
  8. ^ "Откуда взялся Less Wrong? (Часто задаваемые вопросы о LessWrong)". Архивировано из оригинала 30 апреля 2019 года . Получено 25 марта 2014 года .
  9. ^ ab Chivers, Tom (22 ноября 2023 г.). «Что мы узнали о роботоапокалипсисе из катастрофы OpenAI». Semafor . Архивировано из оригинала 3 марта 2024 г. Получено 14 июля 2024 г. С конца 1990-х годов эти опасения стали более конкретными и объединились вокруг книги Ника Бострома 2014 года «Суперинтеллект: пути, опасности, стратегии» и блога Элиезера Юдковски LessWrong.
  10. ↑ Ньюпорт, Калифорния (15 марта 2024 г.). «Может ли ИИ строить планы?». The New Yorker . ISSN  0028-792X . Получено 14 июля 2024 г.
  11. ^ Коудри, Кэтрин (21 сентября 2017 г.). «W&N выигрывает дебют научного репортера Buzzfeed после аукциона». The Bookseller . Архивировано из оригинала 27 ноября 2018 г. Получено 21 сентября 2017 г.
  12. ^ Чиверс, Том (2019). ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770.
  13. ^ Marriott, James (31 мая 2019 г.). «Обзор книги The AI ​​Does Not Hate You Тома Чиверса — почему нервничают ботаники». The Times . ISSN  0140-0460. Архивировано из оригинала 23 апреля 2020 г. Получено 3 мая 2020 г.
  14. ^ de Lazari-Radek, Katarzyna; Singer, Peter (27 сентября 2017 г.). Утилитаризм: Очень краткое введение . Oxford University Press. стр. 110. ISBN 9780198728795.
  15. ^ ab Chivers, Tom (2019). "Глава 38: Эффективные альтруисты". ИИ не ненавидит вас . Weidenfeld & Nicolson. ISBN 978-1474608770.
  16. ^ Мосс, Дэвид (20 мая 2021 г.). «Опрос EA 2020: как люди вовлекаются в EA». Форум Effective Altruism . Архивировано из оригинала 28 июля 2021 г. Получено 28 июля 2021 г.
  17. ↑ С любовью, Дилан (6 августа 2014 г.). «ВНИМАНИЕ: простое чтение об этом мысленном эксперименте может разрушить вашу жизнь». Business Insider . Архивировано из оригинала 18 ноября 2018 г. Получено 6 декабря 2014 г.
  18. ^ Ауэрбах, Дэвид (17 июля 2014 г.). «Самый ужасающий мысленный эксперимент всех времен». Slate . Архивировано из оригинала 25 октября 2018 г. . Получено 18 июля 2014 г. .
  19. ^ Сандифер, Элизабет (2018). Neoreaction a Basilisk: Essays On and Around the Alt-Right (2-е изд.). Eruditorum Press. Одним из сайтов, где [Молдбаг] начинал как комментатор, был сайт Overcoming Bias, то есть сайт, на котором Юдковски писал до LessWrong.
  20. ^ Хансон, Робин. «Мои дебаты о плесневых грибках». Преодоление предвзятости . Архивировано из оригинала 24 января 2010 года . Получено 13 июля 2024 года .
  21. ↑ Keep, Elmo (22 июня 2016 г.). «Странные и противоречивые взгляды на мир миллиардера из Кремниевой долины Питера Тиля». Fusion . Архивировано из оригинала 13 февраля 2017 г. Получено 5 октября 2016 г. Благодаря обсуждениям LessWrong евгеники и эволюционной психологии, он привлек некоторых читателей и комментаторов, связанных с альтернативными правыми и неореакционерами, этой широкой когортой неофашистских, белых националистов и женоненавистнических троллей.
  22. ^ Riggio, Adam (23 сентября 2016 г.). «Насилие чистого разума: неореакция: василиск». Social Epistemology Review and Reply Collective . 5 (9): 34–41. ISSN  2471-9560. Архивировано из оригинала 5 октября 2016 г. Получено 5 октября 2016 г. Лэнд и Ярвин открыто поддерживают новое реакционное движение, в то время как Юдковски считает многих реакционеров своими поклонниками, несмотря на то, что считает их расистскую политику отвратительной.
  23. ^ Элиезер Юдковски (8 апреля 2016 г.). «Без названия». Optimize Literally Everything (блог) . Архивировано из оригинала 26 мая 2019 г. Получено 7 октября 2016 г.
  24. ^ Херманссон, Патрик; Лоуренс, Дэвид; Малхолл, Джо; Мердок, Саймон (2020). «Темное Просвещение: неореакция и Кремниевая долина». Международные альтернативные правые. Фашизм для 21-го века? . Абингдон-он-Темз, Англия, Великобритания: Routledge. ISBN 9781138363861. Архивировано из оригинала 13 июня 2022 . Получено 2 октября 2020 .
  25. ^ ab Miller, JD (2017). «Размышления о путешествии в сингулярность». В Каллаган, В.; Миллер, Дж.; Ямпольский, Р.; Армстронг, С. (ред.). Технологическая сингулярность . Коллекция Frontiers. Берлин, Гейдельберг: Springer. С. 225–226. ISBN 978-3-662-54033-6. Юдковски помог создать Институт сингулярности (теперь он называется Институтом исследований машинного интеллекта), чтобы помочь человечеству достичь дружественной сингулярности. (Раскрытие информации: я внес вклад в Институт сингулярности.) Затем Юдковски основал блог сообщества http://LessWrong.com, который стремится продвигать искусство рациональности, повышать уровень здравомыслия и отчасти убеждать людей делать обдуманные, рациональные благотворительные пожертвования, некоторые из которых, как Юдковски (справедливо) надеялся, пойдут в его организацию.
  26. ^ ab Gasarch, William (2022). «Обзор «Карты, отражающей территорию: эссе сообщества LessWrong»". ACM SIGACT News . 53 (1): 13–24. doi :10.1145/3532737.3532741. Пользователи писали обзоры лучших постов 2018 года и голосовали за них, используя квадратичную систему голосования, популяризированную Гленом Вейлем и Виталиком Бутериным. Из более чем 2000 постов, опубликованных в том году, Review отобрал 44 самых интересных и ценных поста.
  27. ^ Лагеррос, Дж.; Пейс, Б.; LessWrong.com (2020). Карта, отражающая территорию: эссе сообщества LessWrong. Центр прикладной рациональности. ISBN 9781736128503.
  28. ^ Пейс, Б.; LessWrong (2021). Двигатели познания: эссе сообщества LessWrong. Центр прикладной рациональности. ISBN 9781736128510.
  29. ^ Гасарч, Уильям (2022). «Обзор книги «Двигатели познания: эссе сообщества Less Wrong»»". ACM SIGACT News . 53 (3): 6–16. doi :10.1145/3561066.3561064 (неактивен 1 ноября 2024 г.).{{cite journal}}: CS1 maint: DOI неактивен по состоянию на ноябрь 2024 г. ( ссылка )