Это хронологически упорядоченный список метаэвристик , основанных на метафорах , и алгоритмов роевого интеллекта , отсортированный по десятилетию предложения.
Имитация отжига — вероятностный алгоритм, вдохновленный отжигом , методом термической обработки в металлургии . Он часто используется, когда пространство поиска дискретно (например, все туры, посещающие заданный набор городов). Для задач, где поиск точного глобального оптимума менее важен, чем поиск приемлемого локального оптимума за фиксированный промежуток времени, имитация отжига может быть предпочтительнее альтернатив, таких как градиентный спуск .
Аналогом медленного охлаждения отжига является медленное уменьшение вероятности принятия худших решений симулированным отжигом по мере исследования пространства решений. Принятие худших решений является фундаментальным свойством метаэвристики, поскольку оно позволяет проводить более обширный поиск оптимального решения.
Алгоритм оптимизации колонии муравьев — вероятностный метод решения вычислительных задач, который можно свести к поиску хороших путей через графы . Первоначально предложенный Марко Дориго в 1992 году в его докторской диссертации, [1] [2] первый алгоритм, направленный на поиск оптимального пути в графе на основе поведения муравьев, ищущих путь между своей колонией и источником пищи. С тех пор первоначальная идея диверсифицировалась для решения более широкого класса численных задач, и в результате появилось несколько задач [ нужен пример ] , опирающихся на различные аспекты поведения муравьев. С более широкой точки зрения, ACO выполняет поиск на основе модели [3] и имеет некоторые сходства с оценкой алгоритмов распределения .
Оптимизация роя частиц — это вычислительный метод, который оптимизирует проблему, итеративно пытаясь улучшить решение-кандидат с учетом заданной меры качества. Он решает проблему, имея популяцию решений-кандидатов, называемых частицами , и перемещая эти частицы в пространстве поиска в соответствии с простыми математическими формулами [ which? ] по положению и скорости частицы . Движение каждой частицы зависит от ее локального лучшего известного положения, но также направляется к лучшим известным положениям в пространстве поиска, которые обновляются по мере нахождения лучших положений другими частицами. Ожидается, что это переместит рой к лучшим решениям.
Первоначально PSO приписывается Кеннеди , Эберхарту и Ши [4] [5] и изначально предназначался для моделирования социального поведения [6] как стилизованного представления движения организмов в стае птиц или косяке рыб . Алгоритм был упрощен, и было замечено, что он выполняет оптимизацию. Книга Кеннеди и Эберхарта [7] описывает многие философские аспекты PSO и роевого интеллекта . Обширный обзор приложений PSO сделан Поли . [8] [9] Всесторонний обзор теоретических и экспериментальных работ по PSO был опубликован Боньяди и Михалевичем. [10]
Поиск гармонии — это метаэвристика , имитирующая феномен , представленная в 2001 году Зонгом Ву Гимом, Джунг Хуном Кимом и Г. В. Логанатаном [11] и вдохновленная процессом импровизации джазовых музыкантов. В алгоритме HS набор возможных решений генерируется случайным образом (называемый памятью гармонии). Новое решение генерируется с использованием всех решений в памяти гармонии (а не только двух, как в GA), и если это новое решение лучше худшего решения в памяти гармонии, худшее решение заменяется этим новым решением. Эффективность и преимущества HS были продемонстрированы в различных приложениях, таких как проектирование муниципальных сетей распределения воды, [12] структурное проектирование, [13] проблема распределения нагрузки в электротехнике, [14] многоцелевая оптимизация, [15] проблемы составления расписания, [16] кластеризация, [17] а также классификация и выбор признаков. [18] [19] Подробный обзор приложений HS можно найти здесь. [20] [21] и применение HS в интеллектуальном анализе данных можно найти в [22] .
Деннис (2015) утверждал, что поиск гармонии является частным случаем алгоритма стратегий эволюции . [23] Однако Сака и др. (2016) утверждают, что структура стратегий эволюции отличается от структуры поиска гармонии. [24]
Алгоритм искусственной колонии пчел — это метаэвристика, представленная Карабогой в 2005 году [25], которая имитирует поведение медоносных пчел при поиске пищи . Алгоритм ABC имеет три фазы: используемая пчела, пчела-наблюдатель и пчела-разведчик. В фазах используемой пчелы и пчелы-наблюдателя пчелы используют источники путем локального поиска в окрестностях решений, выбранных на основе детерминированного выбора в фазе используемой пчелы и вероятностного выбора в фазе пчелы-наблюдателя. В фазе пчелы-разведчика, которая аналогична отказу пчел от исчерпанных источников пищи в процессе поиска пищи, решения, которые больше не выгодны для прогресса поиска, отменяются, и вместо них вставляются новые решения для исследования новых областей в пространстве поиска. Алгоритм имеет хорошо сбалансированную [ слова ласок ] способность к исследованию и эксплуатации. [ требуется разъяснение ]
Алгоритм пчел был сформулирован Фамом и его коллегами в 2005 году [26] и дополнительно усовершенствован в 2009 году. [27] Смоделированный на основе поведения медоносных пчел при поиске пищи , алгоритм объединяет глобальный исследовательский поиск с локальным эксплуатационным поиском. Небольшое количество искусственных пчел (разведчиков) случайным образом исследует пространство решений (среду) для решений с высокой приспособленностью (высокоприбыльные источники пищи), в то время как основная часть популяции ищет (собирает урожай) окрестности наиболее приспособленных решений в поисках оптимальной приспособленности. Детерминированная процедура набора, которая имитирует виляющий танец биологических пчел, используется для передачи результатов разведчиков собирателям и распределения собирателей в зависимости от приспособленности окрестностей, выбранных для локального поиска. Как только поиск в окрестности решения застаивается, локальный оптимум приспособленности считается найденным, и участок покидается.
Империалистический конкурентный алгоритм (ICA), как и большинство методов в области эволюционных вычислений , не нуждается в градиенте функции в своем процессе оптимизации. С определенной точки зрения ICA можно рассматривать как социальный аналог генетических алгоритмов (GA). ICA — это математическая модель и компьютерное моделирование социальной эволюции человека , в то время как GAs основан на биологической эволюции видов.
Этот алгоритм начинается с генерации набора случайных решений-кандидатов в поисковом пространстве задачи оптимизации. Сгенерированные случайные точки называются начальными странами . Страны в этом алгоритме являются аналогом хромосом в ГА и частиц в оптимизации роя частиц , и это массив значений решения-кандидата задачи оптимизации. Функция стоимости задачи оптимизации определяет силу каждой страны. В зависимости от своей силы некоторые из лучших начальных стран (страны с наименьшим значением функции стоимости) становятся империалистами и начинают захватывать другие страны (называемые колониями ) и формировать начальные империи . [28]
Два основных оператора этого алгоритма — Ассимиляция и Революция . Ассимиляция приближает колонии каждой империи к империалистическому государству в пространстве социально-политических характеристик (пространство поиска оптимизации). Революция вызывает внезапные случайные изменения в положении некоторых стран в пространстве поиска. Во время ассимиляции и революции колония может достичь лучшего положения и затем получить шанс взять под контроль всю империю и заменить текущее империалистическое государство империи. [29]
Империалистическая конкуренция — еще одна часть этого алгоритма. Все империи пытаются выиграть в этой игре и завладеть колониями других империй. На каждом шаге алгоритма, в зависимости от их мощи, все империи имеют шанс взять под контроль одну или несколько колоний слабейшей империи. [28]
Алгоритм продолжает выполнять указанные шаги (Ассимиляция, Революция, Конкуренция) до тех пор, пока не будет выполнено условие остановки.
Вышеуказанные шаги можно суммировать в виде следующего псевдокода : [30] [29]
0) Определим целевую функцию:1) Инициализация алгоритма. Генерируем случайное решение в пространстве поиска и создаем начальные империи. 2) Ассимиляция: Колонии движутся к империалистическим государствам в разных направлениях. 3) Революция: в характеристиках некоторых стран происходят случайные изменения. 4) Обмен позициями между колонией и империалистом. Колония с лучшей позицией, чем империалист, имеет шанс взять под контроль империю, заменив существующего империалиста. 5) Империалистическая конкуренция: Все империалисты конкурируют за обладание колониями друг друга. 6) Уничтожить бессильные империи. Слабые империи постепенно теряют свою силу и в конце концов будут уничтожены. 7) Если условие остановки выполнено, остановиться, если нет, перейти к пункту 2.8) Конец
Динамика формирования рек основана на имитации того, как вода формирует реки, размывая землю и откладывая осадки (капли действуют как рой). После того, как капли преобразуют ландшафт, увеличивая/уменьшая высоту мест, решения даются в виде путей уменьшающихся высот. Строятся уменьшающиеся градиенты, и за этими градиентами следуют последующие капли, чтобы составить новые градиенты и усилить лучшие. Этот эвристический метод оптимизации был предложен в 2007 году Рабаналом и др. [31] Применимость RFD к другим NP-полным задачам была изучена [32] , и алгоритм был применен в таких областях, как маршрутизация [33] и навигация роботов. [34] Основные приложения RFD можно найти в обзоре Рабанала и др. (2017). [35]
Алгоритм гравитационного поиска основан на законе тяготения и понятии массовых взаимодействий. Алгоритм GSA использует теорию ньютоновской физики , а его агенты поиска представляют собой совокупность масс. В GSA есть изолированная система масс. Используя гравитационную силу, каждая масса в системе может видеть положение других масс. Таким образом, гравитационная сила является способом передачи информации между различными массами. [36] В GSA агенты рассматриваются как объекты, и их производительность измеряется их массами. Все эти объекты притягиваются друг к другу силой гравитации , и эта сила вызывает движение всех объектов к объектам с более тяжелыми массами. Более тяжелые массы соответствуют лучшим решениям задачи. Положение агента соответствует решению задачи, а его масса определяется с помощью функции приспособленности. С течением времени массы притягиваются самой тяжелой массой, которая в идеале будет представлять оптимальное решение в пространстве поиска. GSA можно рассматривать как небольшой искусственный мир масс, подчиняющихся ньютоновским законам гравитации и движения. [37] Многоцелевой вариант GSA, названный MOGSA, был предложен Хассанзаде и др. в 2010 году. [38]
Алгоритм летучих мышей — это алгоритм, основанный на роевом интеллекте, вдохновленный поведением эхолокации микролетучих мышей . BA автоматически уравновешивает исследование (дальние прыжки по глобальному пространству поиска, чтобы не застрять около одного локального максимума) с эксплуатацией (более подробный поиск вокруг известных хороших решений для нахождения локальных максимумов) путем управления громкостью и частотой импульсов эмиссии моделируемых летучих мышей в многомерном пространстве поиска. [39]
Алгоритм оптимизации спирали, вдохновленный спиральными явлениями в природе, представляет собой алгоритм многоточечного поиска, не имеющий градиента целевой функции. Он использует несколько спиральных моделей, которые можно описать как детерминированные динамические системы. Поскольку точки поиска следуют логарифмическим спиральным траекториям к общему центру, определяемому как текущая лучшая точка, можно найти лучшие решения, а общий центр можно обновить. [40]
Искусственный роевой интеллект — это замкнутая система в реальном времени, состоящая из пользователей-людей, подключенных через Интернет и структурированная в рамках, смоделированных по образцу естественных роев, таким образом, что она вызывает коллективную мудрость группы как единый возникающий интеллект. [41] [42] Таким образом, человеческие рои могут отвечать на вопросы, делать прогнозы, принимать решения и решать проблемы, коллективно исследуя разнообразный набор вариантов и сходясь к предпочтительным решениям синхронно. Изобретенная доктором Луисом Розенбергом в 2014 году, методология ASI была отмечена за ее способность делать точные коллективные прогнозы, которые превосходят индивидуальных членов роя. [43] В 2016 году группа искусственного роевого интеллекта из Unanimous AI получила вызов от репортера предсказать победителей Кентуккийского дерби ; она успешно выбрала первых четырех лошадей по порядку, превзойдя шансы 540 к 1. [44] [45]
Самонастраивающиеся метаэвристики появились как значительный прогресс в области алгоритмов оптимизации в последние годы, поскольку тонкая настройка может быть очень долгим и сложным процессом. [46] Эти алгоритмы отличаются своей способностью автономно настраивать свои параметры в ответ на рассматриваемую проблему, повышая эффективность и качество решения. Эта возможность самонастройки особенно важна в сложных сценариях оптимизации, где традиционные методы могут испытывать трудности из-за жестких настроек параметров. В этой попытке уже был представлен вариант PSO, который принимает нечеткую логику для автоматического расчета параметров каждой частицы [47], а также оптимизацию Flying fox, которая является нечетким самонастраивающимся оптимизатором. [48]
Появление самонастраивающихся вариантов в метаэвристике знаменует собой кардинальный сдвиг в сторону более автономных инструментов оптимизации. Эти самонастраивающиеся алгоритмы значительно снижают необходимость экспертного вмешательства в настройку параметров, процесс, требующий обширных знаний в области. Используя нечеткую логику и другие адаптивные механизмы, эти алгоритмы могут разумно настраивать свои параметры в ответ на характеристики проблемы и динамику пространства поиска. Эта автономность не только упрощает процесс оптимизации, но и расширяет применимость этих алгоритмов, делая их более доступными и эффективными для более широкого круга пользователей и сложных проблем. Способность этих самонастраивающихся метаэвристик эффективно работать без идеальной настройки пользователем представляет собой значительный прогресс в том, чтобы сделать оптимизацию более удобной для пользователя и эффективной.
В то время как отдельные метаэвристики, вдохновленные метафорами, создали удивительно эффективные решения для конкретных проблем, [49] метаэвристики, вдохновленные метафорами, в целом подверглись критике со стороны исследователей за сокрытие своей неэффективности или новизны за сложными метафорами. [49] [50] Кеннет Сёренсен отметил: [51]
В последние годы область комбинаторной оптимизации стала свидетелем настоящего цунами «новых» метаэвристических методов, большинство из которых основаны на метафоре какого-либо естественного или искусственного процесса. Поведение практически любого вида насекомых, течение воды, музыканты, играющие вместе, — кажется, что никакая идея не является слишком нереальной, чтобы послужить вдохновением для запуска еще одной метаэвристики. [Я] буду утверждать, что это направление исследований грозит увести область метаэвристики от научной строгости.
Соренсен и Гловер заявили: [52]
Большое (и растущее) число публикаций фокусируется на разработке (предположительно) новых метаэвристических структур, основанных на метафорах. Список природных или искусственных процессов, которые использовались в качестве основы для метаэвристических структур, теперь включает такие разнообразные процессы, как бактериальная фуражировка, формирование рек, биогеография, музыканты, играющие вместе, электромагнетизм, гравитация, колонизация империей , взрывы мин, чемпионаты лиги, облака и т. д. Важная подкатегория обнаружена в метаэвристиках, основанных на поведении животных. Муравьи , пчелы , летучие мыши, волки, кошки, светлячки , орлы, дельфины, лягушки , лосось, стервятники, термиты, мухи и многие другие — все они использовались для вдохновения на «новую» метаэвристику. [...] Как правило, публикация статей по метаэвристикам, основанным на метафорах, ограничивалась журналами и конференциями второго уровня, но можно найти некоторые недавние исключения из этого правила. Сёренсен (2013) утверждает, что исследования в этом направлении в корне ошибочны. Самое главное, автор утверждает, что новизна базовой метафоры не делает автоматически полученную структуру «новой». Напротив, появляется все больше доказательств того, что очень немногие из методов, основанных на метафорах, являются новыми в каком-либо интересном смысле.
В ответ на это журнал Springer 's Journal of Heuristics обновил свою редакционную политику, заявив следующее: [53]
Предложение новых парадигм приемлемо только в том случае, если они содержат инновационные базовые идеи, например, те, которые встроены в классические структуры, такие как генетические алгоритмы , табу-поиск и имитация отжига . Журнал эвристики избегает публикации статей, которые переупаковывают и встраивают старые идеи в методы, которые, как утверждается, основаны на метафорах природных или искусственных систем и процессов. Эти так называемые «новые» методы используют аналогии, которые варьируются от разумных капель воды , музыкантов, играющих джаз, империалистических обществ , чехарды , кенгуру, всех типов роев и насекомых и даже процессов подрыва мин (Sörensen, 2013). Если исследователь использует метафору для стимулирования своих собственных идей о новом методе, метод, тем не менее, должен быть переведен на язык, свободный от метафор, чтобы используемые стратегии можно было четко понять, а их новизна была четко видна. (См. пункты 2 и 3 ниже.) Метафоры дешевы и их легко найти. Их использование для «показухи» метода неприемлемо».
[...] Реализации следует объяснять, используя стандартную терминологию оптимизации, где решение называется «решением», а не чем-то иным, связанным с какой-то непонятной метафорой (например, гармония, мухи , летучие мыши , страны и т. д.).
[...] Журнал эвристики полностью поддерживает точку зрения Сёренсена о том, что «новые» методы, основанные на метафорах, не следует публиковать, если они не могут продемонстрировать вклад в свою область. Переименование существующих концепций не считается вкладом. Несмотря на то, что эти методы часто называют «новыми», многие из них не представляют никаких новых идей, за исключением редких маргинальных вариантов уже существующей методологии. Эти методы не должны занимать журнальное пространство действительно инновационных идей и исследований. Поскольку они не используют стандартный словарь оптимизации, их неоправданно сложно понять.
Политика журнала Springer 4OR - A Quarterly Journal of Operations Research гласит: [54]
Акцент на научной строгости и инновациях подразумевает, в частности, что журнал не публикует статьи, которые просто предлагают замаскированные варианты известных методов без адекватной валидации (например, метаэвристики, которые заявляют о своей «эффективности» исключительно на основе метафорических сравнений с естественными или искусственными системами и процессами). Новые методы должны быть представлены на языке, свободном от метафор, путем установления их связи с классическими парадигмами. Их свойства должны быть установлены на основе научно убедительных аргументов: математических доказательств, контролируемых экспериментов, объективных сравнений и т. д.
Аналогичные заявления также содержатся в ACM Transactions on Evolutionary Learning Optimization и журнале Evolutionary Computation . [55] [56]