stringtranslate.com

Нейроэволюция

Нейроэволюция , или нейроэволюция , — это форма искусственного интеллекта , которая использует эволюционные алгоритмы для создания искусственных нейронных сетей (ИНС), параметров и правил. [1] Чаще всего применяется в искусственной жизни , обычных играх [2] и эволюционной робототехнике . Основное преимущество заключается в том, что нейроэволюцию можно применять более широко, чем алгоритмы обучения с учителем , для которых требуется программа, состоящая из правильных пар ввода-вывода. Напротив, нейроэволюция требует лишь измерения производительности сети при выполнении задачи. Например, результат игры (то есть, выиграл или проиграл один игрок) можно легко измерить, не предоставляя помеченных примеров желаемых стратегий. Нейроэволюция обычно используется как часть парадигмы обучения с подкреплением , и ее можно противопоставить традиционным методам глубокого обучения, которые используют обратное распространение ошибки ( градиентный спуск в нейронной сети) с фиксированной топологией.

Функции

Было определено множество алгоритмов нейроэволюции. Одно общее различие заключается между алгоритмами, которые развивают только силу весов соединений для фиксированной топологии сети (иногда называемыми традиционной нейроэволюцией), и алгоритмами, которые развивают как топологию сети, так и ее веса (называемые TWEANN, для топологии и искусственного изменения веса). Алгоритмы нейронной сети).

Отдельно можно провести различие между методами, развивающими структуру ИНС параллельно с ее параметрами (применяющими стандартные эволюционные алгоритмы), и теми, которые разрабатывают их отдельно (посредством меметических алгоритмов ). [3]

Сравнение с градиентным спуском

Большинство нейронных сетей используют градиентный спуск, а не нейроэволюцию. Однако примерно в 2017 году исследователи из Uber заявили, что обнаружили, что простые алгоритмы структурной нейроэволюции конкурентоспособны со сложными современными стандартными алгоритмами глубокого обучения с градиентным спуском , отчасти потому, что нейроэволюция с меньшей вероятностью застревает в локальных минимумах. В журнале Science журналист Мэтью Хатсон предположил, что одна из причин успеха нейроэволюции там, где она потерпела неудачу раньше, связана с возросшей вычислительной мощностью, доступной в 2010-х годах. [4]

Можно показать, что существует соответствие между нейроэволюцией и градиентным спуском. [5]

Прямое и косвенное кодирование

Эволюционные алгоритмы работают с популяцией генотипов (также называемых геномами ). В нейроэволюции генотип сопоставляется с фенотипом нейронной сети , который оценивается при выполнении некоторой задачи для определения его пригодности .

В схемах прямого кодирования генотип напрямую сопоставляется с фенотипом. То есть каждый нейрон и соединение в нейронной сети прямо и явно указаны в генотипе. Напротив, в схемах косвенного кодирования генотип косвенно определяет, как должна быть создана эта сеть. [6]

Косвенное кодирование часто используется для достижения нескольких целей: [6] [7] [8] [9] [10]

Таксономия эмбриогенных систем непрямого кодирования

Традиционно непрямое кодирование, использующее искусственную эмбриогенез (также известное как искусственное развитие ), подразделяется на две категории: грамматический подход и подход клеточной химии . [11] Первый развивает наборы правил в форме систем грамматического переписывания. Последний пытается имитировать то, как физические структуры возникают в биологии посредством экспрессии генов. Системы косвенного кодирования часто используют аспекты обоих подходов.

Стэнли и Мииккулайнен [11] предлагают таксономию эмбриогенных систем, призванную отразить их основные свойства. Таксономия выделяет пять непрерывных измерений, по которым можно разместить любую эмбриогенную систему:

Примеры

Примеры методов нейроэволюции (те, которые имеют прямую кодировку, обязательно неэмбриогенны):

Смотрите также

Рекомендации

  1. ^ Стэнли, Кеннет О. (13 июля 2017 г.). «Нейроэволюция: другой вид глубокого обучения». О'Рейли Медиа . Проверено 4 сентября 2017 г.
  2. ^ Ризи, Себастьян; Тогелиус, Джулиан (2017). «Нейроэволюция в играх: современное состояние и открытые проблемы». Транзакции IEEE по вычислительному интеллекту и искусственному интеллекту в играх . 9 : 25–41. arXiv : 1410.7326 . doi : 10.1109/TCIAIG.2015.2494596. S2CID  11245845.
  3. ^ Тогелиус, Джулиан; Шауль, Том; Шмидхубер, Юрген; Гомес, Фаустино (2008). «Противодействие ядовитым воздействиям с помощью меметической нейроэволюции». Параллельное решение проблем из природы – PPSN X. Конспекты лекций по информатике. Том. 5199. стр. 610–619. дои : 10.1007/978-3-540-87700-4_61. ISBN 978-3-540-87699-1.
  4. ↑ Хатсон, Мэтью (11 января 2018 г.). «Искусственный интеллект может «развиваться» для решения проблем». Наука . doi : 10.1126/science.aas9715.
  5. ^ Уайтлам, Стивен; Селин, Виктор; Пак, Сан-Вон; Тэмблин, Исаак (2 ноября 2021 г.). «Соответствие между нейроэволюцией и градиентным спуском». Природные коммуникации . 12 (1): 6317. arXiv : 2008.06643 . Бибкод : 2021NatCo..12.6317W. дои : 10.1038/s41467-021-26568-2. ПМЦ 8563972 . ПМИД  34728632. 
  6. ^ abc Кассахун, Йоханнес; Соммер, Джеральд; Эджингтон, Марк; Метцен, Ян Хендрик; Киршнер, Франк (2007), «Общее генетическое кодирование как для прямого, так и для косвенного кодирования сетей», Конференция по генетическим и эволюционным вычислениям , ACM Press, стр. 1029–1036, CiteSeerX 10.1.1.159.705 
  7. ^ Аб Гаучи, Стэнли (2007), «Создание крупномасштабных нейронных сетей посредством обнаружения геометрических закономерностей» (PDF) , Конференция по генетическим и эволюционным вычислениям , Нью-Йорк, Нью-Йорк: ACM
  8. ^ аб Груау, Фредерик; Я, Университет Клода Бернар-Лайона; Докторантура, А. Диплом Де; Демонжо, М. Жак; Коснар, экзаменаторы М. Мишель; Мазуайе, М. Жак; Перетто, М. Пьер; Уитли, М. Дарелл (1994). Синтез нейронной сети с использованием клеточного кодирования и генетического алгоритма . CiteSeerX 10.1.1.29.5939 . 
  9. ^ Клюн, Дж.; Стэнли, Кеннет О.; Пеннок, RT; Офрия, К. (июнь 2011 г.). «О производительности косвенного кодирования в континууме регулярности». Транзакции IEEE в эволюционных вычислениях . 15 (3): 346–367. CiteSeerX 10.1.1.375.6731 . дои : 10.1109/TEVC.2010.2104157. ISSN  1089-778X. S2CID  3008628. 
  10. ^ аб Ризи, Себастьян; Стэнли, Кеннет О. (октябрь 2012 г.). «Улучшенное кодирование на основе гиперкуба для развития размещения, плотности и связности нейронов». Искусственная жизнь . 18 (4): 331–363. дои : 10.1162/ARTL_a_00071 . PMID  22938563. S2CID  3256786.
  11. ^ аб Стэнли, Кеннет О.; Мииккулайнен, Ристо (апрель 2003 г.). «Таксономия искусственной эмбриогении». Искусственная жизнь . 9 (2): 93–130. дои : 10.1162/106454603322221487. PMID  12906725. S2CID  2124332.
  12. ^ Рональд, Эдмунд; Шенауэр, март (1994), «Генетический посадочный модуль: эксперимент по точному нейрогенетическому контролю», PPSN III, 1994 г., параллельное программирование, решение из природы , стр. 452–461, CiteSeerX 10.1.1.56.3139 
  13. ^ Анджелина, ПиДжей; Сондерс, генеральный менеджер; Поллак, Дж. Б. (январь 1994 г.). «Эволюционный алгоритм, создающий рекуррентные нейронные сети». Транзакции IEEE в нейронных сетях . 5 (1): 54–65. CiteSeerX 10.1.1.64.1853 . дои : 10.1109/72.265960. PMID  18267779. S2CID  44767. 
  14. ^ Яо, X.; Лю, Ю. (май 1997 г.). «Новая эволюционная система развития искусственных нейронных сетей». Транзакции IEEE в нейронных сетях . 8 (3): 694–713. дои : 10.1109/72.572107. ПМИД  18255671.
  15. ^ Стэнли, Кеннет О.; Брайант, Бобби Д.; Мииккулайнен, Ристо (декабрь 2005 г.). «Нейроэволюция в реальном времени в видеоигре NERO» (PDF) .
  16. ^ Стэнли, Кеннет О.; Мииккулайнен, Ристо (июнь 2002 г.). «Развитие нейронных сетей посредством расширения топологий». Эволюционные вычисления . 10 (2): 99–127. CiteSeerX 10.1.1.638.3910 . дои : 10.1162/106365602320169811. PMID  12180173. S2CID  498161. 
  17. ^ Кассахун, Йоханнес; Соммер, Джеральд (апрель 2005 г.), «Эффективное обучение с подкреплением посредством эволюционного приобретения нейронных топологий» (PDF) , 13-й Европейский симпозиум по искусственным нейронным сетям , Брюгге, Бельгия, стр. 259–266.{{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )
  18. ^ Зибель, Нильс Т.; Соммер, Джеральд (17 октября 2007 г.). «Эволюционное обучение искусственных нейронных сетей с подкреплением». Международный журнал гибридных интеллектуальных систем . 4 (3): 171–183. дои : 10.3233/его-2007-4304.
  19. ^ Ремпис, Кристиан Вильгельм (2012). Развитие сложных нейроконтроллеров с помощью интерактивно ограниченной нейроэволюции (Диссертация).
  20. ^ Шер, Джин И. (2013). Справочник по нейроэволюции с помощью Эрланга . дои : 10.1007/978-1-4614-4463-3. ISBN 978-1-4614-4462-6. S2CID  21777855.
  21. ^ Варгас, Данило Васконселлос; Мурата, Дзюнъити (2019). «Нейроэволюция с разнообразным спектром и унифицированными нейронными моделями». Транзакции IEEE в нейронных сетях и системах обучения . 28 (8): 1759–1773. arXiv : 1902.06703 . Бибкод : 2019arXiv190206703V. дои : 10.1109/TNNLS.2016.2551748. PMID  28113564. S2CID  206757620.
  22. ^ Эдлунд, Джеффри; Шомон, Николя; Хинтце, Аренд; Кох, Кристоф; Тонони, Джулио; Адами, Кристоф (2011). «Интегрированная информация увеличивается с приспособленностью в эволюции аниматов». PLOS Вычислительная биология . 7 (10): e1002236. arXiv : 1103.1791 . Бибкод : 2011PLSCB...7E2236E. дои : 10.1371/journal.pcbi.1002236 . ПМК 3197648 . ПМИД  22028639. 
  23. ^ Ростами, Шахин; Нери, Ферранте (июнь 2017 г.). «Быстрый механизм выбора, управляемый гиперобъемом, для задач многоцелевой оптимизации». Рой и эволюционные вычисления . 34 : 50–67. doi :10.1016/j.swevo.2016.12.002. hdl : 2086/13102 .
  24. ^ Шенфилд, Алекс; Ростами, Шахин (2017). «Многоцелевая эволюция искусственных нейронных сетей в многоклассовых задачах медицинской диагностики с дисбалансом классов» (PDF) . Конференция IEEE 2017 по вычислительному интеллекту в биоинформатике и вычислительной биологии (CIBCB) . стр. 1–8. дои : 10.1109/CIBCB.2017.8058553. ISBN 978-1-4673-8988-4. S2CID  22674515.

Внешние ссылки