stringtranslate.com

Роман Ямпольский

Роман Владимирович Ямпольский (русский: Роман Владимирович Ямпольский ; родился 13 августа 1979 года) — латвийский ученый-компьютерщик из Университета Луисвилля , известный своими работами в области поведенческой биометрии , [ 1] безопасности кибермиров , [2] и безопасности искусственного интеллекта . [3] Он получил докторскую степень в Университете Буффало (2008 г.). [4] В настоящее время он является директором лаборатории кибербезопасности на факультете компьютерной инженерии и информатики в Скоростной инженерной школе . [5]

Ямпольский — автор около 100 публикаций, [6] в том числе множества книг. [7]

Безопасность ИИ

Ямпольский предупредил о возможности экзистенциального риска, связанного с передовым искусственным интеллектом , и выступил за исследование «бокса» искусственного интеллекта. [8] В более широком смысле, Ямпольский и его коллега Микаэль Трацци предложили ввести «ахиллесову пяту» в потенциально опасный ИИ, например, запретив ИИ получать доступ к собственному исходному коду и изменять его. [9] [10] Другое предложение — применить «мышление безопасности» к безопасности ИИ, перечислив потенциальные результаты, чтобы лучше оценить предлагаемые механизмы безопасности. [11]

Он предположил, что нет никаких доказательств решения проблемы управления ИИ , и предложил приостановить разработку ИИ, утверждая, что «представлять, что люди могут управлять сверхразумным ИИ, это немного похоже на представление о том, что муравей может контролировать исход футбольного матча НФЛ». играл вокруг этого». [12] [13] Он присоединился к исследователям искусственного интеллекта, таким как Йошуа Бенджио и Стюарт Рассел, подписав «Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо ». [14]

Выступая в подкасте Лекса Фридмана в 2024 году, Ямпольский предсказал, что вероятность того, что ИИ может привести к вымиранию человечества на уровне «99,9% в течение следующих ста лет». [15]

Ямпольский был научным консультантом Научно -исследовательского института машинного интеллекта и научным сотрудником по безопасности искусственного интеллекта в Институте прогнозирования . [16]

Интеллектология

В 2015 году Ямпольский запустил интеллектуалологию — новую область исследований, созданную для анализа форм и пределов интеллекта. [17] [18] [19] Ямпольский считает ИИ подполем этого направления. [17] Примером интеллектуальных работ Ямпольского является попытка определить связь между различными типами сознания и доступным пространством развлечений , т.е. пространством нескучной деятельности. [20]

AI-полнота

Ямпольский работал над разработкой теории ИИ-полноты , предложив в качестве определяющего примера тест Тьюринга . [21]

Книги

Смотрите также

Рекомендации

  1. ^ "Международный журнал биометрии (IJBM) - Издательство Inderscience" . Inderscience.com . Проверено 25 сентября 2012 г.
  2. ^ «Автоматическое распознавание лиц: современное состояние» (PDF) . Biometrics.cse.msu.edu . Проверено 25 сентября 2012 г.
  3. ^ «Программный комитет | Зимние разведывательные конференции» . Winterintelligence.org . Проверено 25 сентября 2012 г.
  4. ^ "Доктор Роман В. Ямпольский, информатика, Школа скоростей, Университет Луисвилля, Кентукки" . Cecs.louisville.edu . Проверено 25 сентября 2012 г.
  5. ^ «Лаборатория кибербезопасности | Университет Луисвилля» . Cecs.louisville.edu . Проверено 25 сентября 2012 г.
  6. ^ "Роман В. Ямпольский - Цитаты Google Scholar" . Проверено 25 сентября 2012 г.
  7. ^ "Роман Ямпольский". Amazon.com . Проверено 25 сентября 2012 г.
  8. ↑ Сюй, Джереми (1 марта 2012 г.). «Управляйте опасным ИИ до того, как он начнет контролировать нас», — говорит один эксперт. Новости Эн-Би-Си . Проверено 28 января 2016 г.
  9. ↑ Баранюк, Крис (23 августа 2018 г.). «Искусственная глупость может помочь спасти человечество от захвата ИИ». Новый учёный . Проверено 12 апреля 2020 г.
  10. ^ Трацци, Майкл и Роман В. Ямпольский. «Создание более безопасного ОИИ путем введения искусственной глупости». Препринт arXiv arXiv:1808.03644 (2018).
  11. ↑ Баранюк, Крис (23 мая 2016 г.). «Контрольный список наихудших сценариев может помочь подготовиться к злому ИИ». Новый учёный . Проверено 12 апреля 2020 г.
  12. ^ «Нет никаких доказательств того, что ИИ можно контролировать, - говорит эксперт». Независимый . 12 февраля 2024 г. Проверено 4 июля 2024 г.
  13. ↑ Макмиллан, Тим (28 февраля 2024 г.). «Предупреждение суперинтеллекта искусственного интеллекта: эксперт предупреждает о неконтролируемых рисках, называя это потенциальной« экзистенциальной катастрофой »». Подведение итогов . Проверено 4 июля 2024 г.
  14. ^ «Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо» . Институт будущего жизни . Проверено 4 июля 2024 г.
  15. ^ Альчек, Ана. «Почему этот исследователь ИИ считает, что вероятность того, что ИИ нас уничтожит, составляет 99,9%». Бизнес-инсайдер . Проверено 13 июня 2024 г.
  16. ^ "Роман Ямпольский". Институт будущего жизни . Проверено 3 июля 2024 г.
  17. ^ аб Ямпольский, Роман В. (2015). Искусственный суперинтеллект: футуристический подход . Чепмен и Холл/CRC Press (Taylor & Francisco Group). ISBN 978-1482234435.
  18. ^ «Интеллектология и другие идеи: обзор искусственного сверхинтеллекта». Технически разумный. 20 сентября 2015 года. Архивировано из оригинала 7 августа 2016 года . Проверено 22 ноября 2016 г.{{cite web}}: CS1 maint: bot: исходный статус URL неизвестен ( ссылка )
  19. ^ "Роман Ямпольский об искусственном суперинтеллекте". Блог о сингулярности. 7 сентября 2015 года . Проверено 22 ноября 2016 г.
  20. ^ Зиеше, Соенке; Ямпольский, Роман В. (2016). «Искусственное развлечение: отображение разума в пространстве веселья». 3-я ежегодная глобальная онлайн-конференция по информационным и компьютерным технологиям (GOCICT16). Луисвилл, Кентукки, США. 16–18 ноября 2016 г. arXiv : 1606.07092 .
  21. ^ Роман В. Ямпольский. Тест Тьюринга как определяющая черта полноты ИИ. В искусственном интеллекте, эволюционных вычислениях и метаэвристике (AIECM) — по стопам Алана Тьюринга. Синь-Ше Ян (Ред.). стр. 3–17. (Глава 1). Спрингер, Лондон. 2013. http://cecs.louisville.edu/ry/TuringTestasaDefiningFeature04270003.pdf. Архивировано 22 мая 2013 г. в Wayback Machine.

Внешние ссылки

Викискладе есть медиафайлы, связанные с Романом Ямпольским .