Центр изучения экзистенциального риска

Английский центр исследования экзистенциального риска

Центр изучения экзистенциального риска ( CSER ) — исследовательский центр Кембриджского университета , предназначенный для изучения возможных угроз уровня вымирания, создаваемых нынешними или будущими технологиями. ^[1] Соучредителями центра являются Хью Прайс (профессор философии Бертрана Рассела в Кембридже), Мартин Рис (Королевский астроном и бывший президент Королевского общества ) и Яан Таллинн (сооснователь Skype , один из первых инвесторов Антропный ). ^[2]

Направления деятельности

Управление экстремальными технологическими рисками

Риски связаны с возникающими и будущими технологическими достижениями и последствиями человеческой деятельности. Управление этими экстремальными технологическими рисками является неотложной задачей, но она создает особые трудности и сравнительно игнорируется в научных кругах. ^[3]

• Исследователи CSER разработали широко используемый инструмент для автоматического сканирования научной литературы в поисках новых исследований, касающихся глобальных рисков. ^[4]
• CSER провел две международные Кембриджские конференции по катастрофическим рискам. ^{[5] [6]} Центр также консультировал по вопросам создания проектов глобального риска в Австралийском национальном университете, ^[7] Калифорнийском университете в Лос-Анджелесе ^[8] и Уорикском университете. ^[9]
• CSER помог создать первую межпартийную парламентскую группу для будущих поколений в парламенте Соединенного Королевства, принеся политическим лидерам Великобритании глобальный риск и долгосрочное мышление. ^[10]
• CSER провел более тридцати семинаров, объединивших научные круги, политики и промышленность по таким темам, как кибербезопасность, ядерная безопасность, изменение климата и генный драйв. ^[11]
• Открытые лекции CSER были просмотрены в Интернете более 100 000 раз. ^[12]

Глобальные катастрофические биологические риски

• В 2017 году CSER собрал политиков и ученых, чтобы определить проблемы, связанные с Конвенцией о биологическом оружии (КБО). Ключевой выявленной проблемой было то, что из-за высоких темпов прогресса в соответствующих науках и технологиях руководящим органам, включая КБО, стало очень трудно идти в ногу со временем. ^[13]
• Исследователи CSER провели исследование по 20 новым проблемам биологической инженерии, привлекая 30 европейских и американских экспертов. ^[14] Они представили документ на Совещании государств-участников КБО в 2017 году, ^[15] и на Научно-консультативном совете Организации по запрещению химического оружия в 2018 году. ^[16]

Экстремальные риски и глобальная окружающая среда

• Мартин Рис и Парта Дасгупта , старший советник, совместно с Ватиканом организовали серию влиятельных семинаров. Семинар 2015 года повлиял на принятие Папской энциклики по изменению климата ^[17] , которая, в свою очередь, повлияла на Парижское соглашение об изменении климата. Результаты семинара 2017 года вскоре будут опубликованы в виде книги о биологическом вымирании. ^[18]
• Исследователи CSER опубликовали публикации об утрате биоразнообразия и управлении им в журнале Nature ^[19] , воздействии высокоурожайного сельского хозяйства на окружающую среду ^[20] и перспективах геоинженерии . ^[21]
• Исследователи CSER опубликовали отчет, в котором призывают включать в рейтинги бизнес-школ устойчивое развитие. ^[22] Четыре дня спустя Financial Times объявила о «полном пересмотре нашей методологии». ^[23]

Риски, связанные с передовым искусственным интеллектом

• В 2015 году CSER помог организовать конференцию по будущим направлениям развития искусственного интеллекта в Пуэрто-Рико, в результате которой лидеры исследований во всем мире подписали Открытое письмо по искусственному интеллекту , призывающее к проведению исследований по обеспечению безопасности и общественной пользы систем искусственного интеллекта. ^[24]
• В 2016 году CSER запустил свое первое дочернее предприятие: Центр будущего интеллекта Леверхалма (CFI). CFI под руководством профессора Прайса фокусируется на возможностях и проблемах, связанных с ИИ. ^[25]
• Начиная с 2017 года CSER организовал серию научных конференций, посвященных теории принятия решений и безопасности искусственного интеллекта. ^[26]
• В 2018 году совместно с партнерами из технологических компаний и аналитических центров по безопасности CSER опубликовала книгу «Вредоносное использование искусственного интеллекта: прогнозирование, предотвращение и смягчение последствий» , посвященную последствиям ИИ для физической и кибербезопасности. ^[27] Они также опубликовали книгу «Гонка ИИ: риторика и риски» , которая получила первый приз за лучшую статью на конференции AAAI / ACM AI Ethics and Society 2018. ^[28]

Освещение в СМИ

CSER освещался во многих газетах (особенно в Великобритании), ^{[29] [30] [31]} в основном освещая различные интересующие темы. Информация о CSER была представлена ​​на обложке журнала Wired ^[32] и в специальном выпуске журнала Science о Франкенштейне в 2018 году. ^[33]

Советники

В число консультантов CSER входят ученые из Кембриджа, такие как:

• Сэр Парта Дасгупта (экономика), лауреат премии «Голубая планета»
• Профессор Сьюзен Оуэнс (география)
• Профессор Билл Сазерленд (зоология)
• Профессор Джейн Хил (философия).

И такие консультанты, как:

• Герман Хаузер (основатель Acorn Computers и ARM )
• Дэвид Кливли (эксперт в области телекоммуникаций и предприниматель Silicon Fen)
• Илон Маск ( Tesla и SpaceX )
• Джордж Черч (биотехнология)
• Питер Сингер (философия)
• Стюарт Дж. Рассел (Искусственный интеллект)
• Макс Тегмарк (Космология). ^[34]

Смотрите также

• Бюллетень ученых-атомщиков
• Инициатива по ядерной угрозе
• Центр Джонса Хопкинса по безопасности здоровья
• Глобальные катастрофические риски
• Институт будущего человечества
• Институт будущего жизни
• Леверхалм Центр будущего разведки
• Научно-исследовательский институт машинного интеллекта

Рекомендации

1. Биба, Эрин (1 июня 2015 г.). «Познакомьтесь с соучредителем аналитического центра по апокалипсису». Научный американец . 312 (6): 26. doi : 10.1038/scientificamerican0615-26. ПМИД  26336680.
2. Льюси, Фред (25 ноября 2012 г.). «Последнее изобретение человечества и наше неопределенное будущее». Новости исследований . Проверено 24 декабря 2012 г.
3. «Управление экстремальными технологическими рисками».
4. «Сеть исследования экзистенциальных рисков | Сеть исследования X-рисков | www.x-risk.net» .
5. «Кембриджская конференция по катастрофическим рискам 2016» .
6. «Кембриджская конференция по катастрофическим рискам 2018» .
7. «Последние новости | Люди за выживание» .
8. "Институт наук о рисках Б. Джона Гаррика" .
9. «Исследователи PAIS обеспечивают престижное финансирование Леверхалма» .
10. "Appg-будущее-генс" .
11. «События».
12. "CSER Кембридж". YouTube . Проверено 6 апреля 2019 г.
13. «Конвенция по биологическому оружию: куда дальше?».
14. Винтл, Бонни С.; Бём, Кристиан Р.; Родос, Кэтрин; Моллой, Дженнифер С.; Миллетт, Пирс; Адам, Лаура; Брейтлинг, Райнер; Карлсон, Роб; Касагранде, Рокко; Дандо, Малькольм; Даблдей, Роберт; Дрекслер, Эрик; Эдвардс, Бретт; Эллис, Том; Эванс, Николас Г.; Хаммонд, Ричард; Хаселофф, Джим; Каль, Линда; Куикен, Тодд; Личман, Бенджамин Р.; Мэтьюман, Колетт А.; Нэпьер, Джонатан А.; Охейгертай, Шон С.; Покровитель Никола Дж.; Перелло, Эдвард; Шапира, Филип; Тейт, Джойс; Такано, Эрико; Сазерленд, Уильям Дж. (2017). «Трансатлантический взгляд на 20 новых проблем биологической инженерии». электронная жизнь . 6 . дои : 10.7554/eLife.30247 . ПМЦ 5685469 . ПМИД  29132504. 
15. "Пресс-конференция BWC".
16. «Поговорите с Организацией по запрещению химического оружия».
17. Калифорнийский университет (24 сентября 2015 г.). «Представление Папе о парковке» . Проверено 6 апреля 2019 г. - через YouTube.
18. Дасгупта, Парта; Рэйвен, Питер; Макайвор, Анна, ред. (2019). Биологическое вымирание под редакцией Партхи Дасгупты. Издательство Кембриджского университета. дои : 10.1017/9781108668675. ISBN 9781108668675. S2CID  241969653.
19. Амано, Тацуя; Секели, Тамаш; Сандел, Броуди; Надь, Сабольч; Мундкур, Тэдж; Лангендоен, Том; Бланко, Дэниел; Сойкан, Кандан У.; Сазерленд, Уильям Дж. (2017). «Успешное сохранение мировых популяций водоплавающих птиц зависит от эффективного управления» (PDF) . Природа . 553 (7687): 199–202. дои : 10.1038/nature25139. PMID  29258291. S2CID  205262876.
20. Балмфорд, Эндрю; Амано, Тацуя; Бартлетт, Харриет; Чедвик, Дэйв; Коллинз, Адриан; Эдвардс, Дэвид; Филд, Роб; Гарнсуорси, Филип; Грин, Рис; Смит, Пит; Уотерс, Хелен; Уитмор, Эндрю; Брум, Дональд М.; Чара, Джулиан; Финч, Том; Гарнетт, Эмма; Гаторн-Харди, Альфред; Эрнандес-Медрано, Хуан; Эрреро, Марио; Хуа, Фанъюань; Латавец, Агнешка; Миссельбрук, Том; Фалан, Бен; Симмонс, Бенно И.; Такахаси, Таро; Воуз, Джеймс; Зу Эрмгассен, Эразм; Эйснер, Роуэн (2018). «Экологические издержки и выгоды высокоурожайного земледелия». Устойчивость природы . 1 (9): 477–485. дои : 10.1038/s41893-018-0138-5. ПМК 6237269 . ПМИД  30450426. 
21. Карри, Адриан (2018). «Геоинженерная напряженность» (PDF) . Фьючерсы . 102 : 78–88. doi :10.1016/j.futures.2018.02.002. hdl : 10871/35739 . S2CID  240258929.
22. «Рейтинги бизнес-школ 21 века» .
23. Бервик, Изабель (27 января 2019 г.). «По мере того как бизнес-школы переосмысливают свою деятельность, то же самое должна сделать и FT». Файнэншл Таймс .
24. Макмиллан, Роберт (16 января 2015 г.). «ИИ прибыл, и это действительно беспокоит самые светлые умы мира». Проводной . Проверено 24 апреля 2015 г.
25. "Центр Леверхалма будущего разведки" .
26. «Решение и ИИ».
27. вредоносный порт.com
28. «Награда за лучшую статью - конференция Aies» .
29. Коннор, Стив (14 сентября 2013 г.). «Сможем ли мы выжить?». Новозеландский Вестник .
30. "Освещение CSER в СМИ" . Центр изучения экзистенциального риска. Архивировано из оригинала 30 июня 2014 года . Проверено 19 июня 2014 г.
31. «Последнее изобретение человечества и наше неопределенное будущее». Новости исследований Кембриджского университета . 25 ноября 2012 г.
32. Бенсон, Ричард (12 февраля 2017 г.). «Познакомьтесь со Стражами Земли, реальными людьми Икс и женщинами Икс, спасающими нас от экзистенциальных угроз». Проводная Великобритания .
33. Купфершмидт, Кай (12 января 2018 г.). «Укрощение монстров завтрашнего дня». Наука . 359 (6372): 152–155. Бибкод : 2018Sci...359..152K. дои : 10.1126/science.359.6372.152. ПМИД  29326256.
34. «Команда».

Внешние ссылки

• Официальный веб-сайт