English existential risk research centre
Центр изучения экзистенциального риска ( CSER ) — исследовательский центр Кембриджского университета , призванный изучать возможные угрозы уровня вымирания, создаваемые нынешними или будущими технологиями. [1] Соучредителями центра являются Хью Прайс (профессор философии имени Бертрана Рассела в Кембридже), Мартин Риз (королевский астроном и бывший президент Королевского общества ) и Яан Таллин (соучредитель Skype , один из первых инвесторов Anthropic ). [2]
Области внимания
Управление экстремальными технологическими рисками
Риски связаны с новыми и будущими технологическими достижениями и воздействиями человеческой деятельности. Управление этими экстремальными технологическими рисками является неотложной задачей, но она представляет собой особую сложность и сравнительно мало внимания уделяется в академических кругах. [3]
- Исследователи CSER разработали широко используемый инструмент для автоматического сканирования научной литературы на предмет новых исследований, имеющих отношение к глобальному риску. [4]
- CSER провел две международные Кембриджские конференции по катастрофическому риску. [5] [6] Центр также консультировал по созданию глобальных проектов по риску в Австралийском национальном университете, [7] Калифорнийском университете в Лос-Анджелесе [8] и Университете Уорика. [9]
- CSER помог создать первую межпартийную парламентскую группу «Будущие поколения» в парламенте Соединенного Королевства, что позволило политическим лидерам Великобритании осознать глобальный риск и долгосрочное мышление. [10]
- CSER провел более тридцати семинаров, объединивших представителей академических кругов, политиков и промышленности по таким темам, как кибербезопасность, ядерная безопасность, изменение климата и генные драйвы. [11]
- Публичные лекции CSER были просмотрены более 100 000 раз в Интернете. [12]
Глобальные катастрофические биологические риски
- В 2017 году CSER созвал политиков и ученых для определения проблем Конвенции о биологическом оружии (КБО). Ключевой выявленной проблемой было то, что быстрые темпы прогресса в соответствующих науках и технологиях очень усложнили для органов управления, включая КБО, задачу поспевать за ними. [13]
- Исследователи CSER провели исследование по 20 новым проблемам в области биологической инженерии, привлекая 30 европейских и американских экспертов. [14] Они представили доклад на Совещании государств-участников КБО в 2017 году [15] и на Научном консультативном совете Организации по запрещению химического оружия в 2018 году [16].
Экстремальные риски и глобальная окружающая среда
- Мартин Риз и Партха Дасгупта , старший советник, совместно организовали ряд влиятельных семинаров с Ватиканом. Семинар 2015 года повлиял на Папскую энциклику об изменении климата, [17] которая, в свою очередь, повлияла на Парижское соглашение об изменении климата. Результаты семинара 2017 года вскоре будут опубликованы в виде книги о биологическом вымирании. [18]
- Исследователи CSER опубликовали в журнале Nature статьи о потере биоразнообразия и управлении им [19], о влиянии высокоурожайного земледелия на окружающую среду [20] и о перспективах геоинженерии [21] .
- Исследователи CSER опубликовали отчет, призывающий включить в рейтинги бизнес-школ устойчивость. [22] Четыре дня спустя Financial Times объявила о «полном пересмотре нашей методологии». [23]
Риски, связанные с передовым искусственным интеллектом
- В 2015 году CSER помог организовать конференцию о будущих направлениях развития ИИ в Пуэрто-Рико, результатом которой стало Открытое письмо по искусственному интеллекту , подписанное лидерами исследований со всего мира, призывающее к исследованиям, направленным на обеспечение безопасности и общественной пользы систем ИИ. [24]
- В 2016 году CSER запустил свой первый спин-офф: Центр Леверхалма по будущему интеллекта (CFI). Под руководством профессора Прайса CFI фокусируется на возможностях и проблемах, которые создает ИИ. [25]
- Начиная с 2017 года CSER организовал серию научных конференций, объединяющих теорию принятия решений и безопасность ИИ. [26]
- В 2018 году CSER совместно с партнерами из технологических компаний и аналитических центров по безопасности опубликовали работу « Злонамеренное использование искусственного интеллекта: прогнозирование, предотвращение и смягчение последствий » о влиянии ИИ на физическую и кибербезопасность. [27] Они также опубликовали работу «Гонка ИИ: риторика и риски» , которая выиграла первую премию за лучшую статью на конференции AAAI / ACM AI Ethics and Society 2018 года. [28]
Освещение в СМИ
CSER освещался во многих различных газетах (особенно в Соединенном Королевстве), [29] [30] [31] в основном освещая различные темы, представляющие интерес. CSER был представлен на обложке Wired , [32] и в специальном выпуске журнала Science, посвященном Франкенштейну , в 2018 году. [33]
Советники
Среди консультантов CSER есть такие ученые Кембриджа, как:
И такие консультанты, как:
Смотрите также
Ссылки
- ^ Биба, Эрин (1 июня 2015 г.). «Познакомьтесь с соучредителем аналитического центра по Апокалипсису». Scientific American . 312 (6): 26. doi :10.1038/scientificamerican0615-26. PMID 26336680.
- ^ Льюси, Фред (25 ноября 2012 г.). «Последнее изобретение человечества и наше неопределенное будущее». Research News . Получено 24 декабря 2012 г.
- ^ «Управление экстремальными технологическими рисками».
- ^ «Сеть исследований экзистенциального риска | Исследовательская сеть X-Risk | www.x-risk.net».
- ^ «Кембриджская конференция по катастрофическому риску 2016 г.».
- ^ «Кембриджская конференция по катастрофическому риску 2018».
- ^ «Последние новости | Люди за выживание».
- ^ «Институт наук о риске имени Б. Джона Гаррика».
- ^ «Исследователи PAIS получают престижное финансирование Leverhulme».
- ^ "Appg-future-gens".
- ^ «События».
- ^ "CSER Кембридж". Ютуб . Проверено 6 апреля 2019 г.
- ^ «Конвенция о биологическом оружии: что дальше?».
- ^ Wintle, Bonnie C.; Boehm, Christian R.; Rhodes, Catherine; Molloy, Jennifer C.; Millett, Piers; Adam, Laura; Breitling, Rainer; Carlson, Rob; Casagrande, Rocco; Dando, Malcolm; Doubleday, Robert; Drexler, Eric; Edwards, Brett; Ellis, Tom; Evans, Nicholas G.; Hammond, Richard; Haseloff, Jim; Kahl, Linda; Kuiken, Todd; Lichman, Benjamin R.; Matthewman, Colette A.; Napier, Johnathan A.; Óhéigeartaigh, Sean S.; Patron, Nicola J.; Perello, Edward; Shapira, Philip; Tait, Joyce; Takano, Erico; Sutherland, William J. (2017). «Трансатлантическая перспектива 20 новых проблем в области биологической инженерии». eLife . 6 . doi : 10.7554/eLife.30247 . PMC 5685469 . PMID 29132504.
- ^ "Пресс-конференция BWC".
- ^ «Поговорите с Организацией по запрещению химического оружия».
- ↑ Калифорнийский университет (24 сентября 2015 г.). «A „Parking Lot Pitch“ to the Pope» . Получено 6 апреля 2019 г. – через YouTube.
- ^ Дасгупта, Парта; Рэйвен, Питер; МакИвор, Анна, ред. (2019). Биологическое вымирание под редакцией Парты Дасгупты. Cambridge University Press. doi : 10.1017/9781108668675. ISBN 9781108668675. S2CID 241969653.
- ^ Амано, Тацуя; Секей, Тамаш; Сандель, Броди; Надь, Сабольч; Мундкур, Тэдж; Лангендоен, Том; Бланко, Даниэль; Сойкан, Кандан У.; Сазерленд, Уильям Дж. (2017). «Успешное сохранение популяций водоплавающих птиц во всем мире зависит от эффективного управления» (PDF) . Nature . 553 (7687): 199–202. doi :10.1038/nature25139. PMID 29258291. S2CID 205262876.
- ^ Балмфорд, Эндрю; Амано, Тацуя; Бартлетт, Харриет; Чедвик, Дэйв; Коллинз, Адриан; Эдвардс, Дэвид; Филд, Роб; Гарнсуорти, Филипп; Грин, Рис; Смит, Пит; Уотерс, Хелен; Уитмор, Эндрю; Брум, Дональд М.; Чара, Джулиан; Финч, Том; Гарнетт, Эмма; Гаторн-Харди, Альфред; Эрнандес-Медрано, Хуан; Эрреро, Марио; Хуа, Фанюань; Латавец, Агнешка; Миссельбрук, Том; Фалан, Бен; Симмонс, Бенно И.; Такахаши, Таро; Воуз, Джеймс; Зу Эрмгассен, Эразмус; Эйснер, Роуэн (2018). «Экологические издержки и выгоды высокоурожайного земледелия». Nature Sustainability . 1 (9): 477–485. doi :10.1038/s41893-018-0138-5. PMC 6237269. PMID 30450426 .
- ^ Карри, Адриан (2018). «Геоинженерные напряженности» (PDF) . Futures . 102 : 78–88. doi : 10.1016/j.futures.2018.02.002. hdl : 10871/35739 . S2CID 240258929.
- ^ «Рейтинги бизнес-школ 21 века».
- ^ Бервик, Изабель (27 января 2019 г.). «Поскольку бизнес-школы переосмысливают свою деятельность, то же самое должна сделать и FT». Financial Times .
- ^ Макмиллан, Роберт (16 января 2015 г.). «ИИ появился, и это действительно беспокоит самые яркие умы мира». Wired . Получено 24 апреля 2015 г.
- ^ «Центр Леверхалма по вопросам будущего интеллекта».
- ^ «Решение и ИИ».
- ^ malawareaireport.com
- ^ «Премия за лучшую статью – Конференция Aies».
- ↑ Коннор, Стив (14 сентября 2013 г.). «Сможем ли мы выжить?». The New Zealand Herald .
- ^ "CSER media lighting". Центр изучения экзистенциального риска. Архивировано из оригинала 30 июня 2014 года . Получено 19 июня 2014 года .
- ^ «Последнее изобретение человечества и наше неопределенное будущее». Новости исследований Кембриджского университета . 25 ноября 2012 г.
- ↑ Бенсон, Ричард (12 февраля 2017 г.). «Познакомьтесь со Стражами Земли, настоящими Людьми и женщинами Икс, спасающими нас от экзистенциальных угроз». Wired UK .
- ^ Купфершмидт, Кай (12 января 2018 г.). «Укрощение монстров завтрашнего дня». Science . 359 (6372): 152–155. Bibcode :2018Sci...359..152K. doi :10.1126/science.359.6372.152. PMID 29326256.
- ^ «Команда».
Внешние ссылки