Биовдохновленные вычисления , сокращение от биологически вдохновленные вычисления , — это область исследований, которая стремится решать проблемы компьютерной науки с использованием моделей биологии. Она связана с коннекционизмом , социальным поведением и возникновением . В компьютерной науке биовдохновленные вычисления связаны с искусственным интеллектом и машинным обучением. Биовдохновленные вычисления являются основным подмножеством естественных вычислений .
Ранние идеи
Идеи, лежащие в основе биологических вычислений, восходят к 1936 году и первому описанию абстрактного компьютера, который сейчас известен как машина Тьюринга . Тьюринг впервые описал абстрактную конструкцию, используя биологический образец. Тьюринг представил себе математика, который имеет три важных атрибута. [1] У него всегда есть карандаш с ластиком, неограниченное количество бумаг и рабочий набор глаз. Глаза позволяют математику видеть и воспринимать любые символы, написанные на бумаге, в то время как карандаш позволяет ему писать и стирать любые символы, которые он хочет. Наконец, неограниченная бумага позволяет ему хранить в памяти все, что он хочет. Используя эти идеи, он смог описать абстракцию современного цифрового компьютера. Однако Тьюринг упомянул, что все, что может выполнять эти функции, можно считать такой машиной, и он даже сказал, что даже электричество не должно требоваться для описания цифровых вычислений и машинного мышления в целом. [2]
Нейронные сети
Впервые описанные в 1943 году Уорреном Маккалоком и Уолтером Питтсом, нейронные сети являются распространенным примером биологических систем, вдохновивших создание компьютерных алгоритмов. [3] Они впервые математически описали, что система упрощенных нейронов способна производить простые логические операции, такие как логическая конъюнкция , дизъюнкция и отрицание . Они также показали, что система нейронных сетей может быть использована для выполнения любых вычислений, требующих конечной памяти. Около 1970 года исследования вокруг нейронных сетей замедлились, и многие считают книгу 1969 года Марвина Мински и Сеймура Паперта главной причиной. [4] [5] Их книга показала, что модели нейронных сетей могут моделировать только системы, основанные на булевых функциях, которые становятся истинными только после определенного порогового значения. Такие функции также известны как пороговые функции . Книга также показала, что большое количество систем не может быть представлено как таковое, что означает, что большое количество систем не может быть смоделировано нейронными сетями. Другая книга Джеймса Рамельхарта и Дэвида Макклелланда, вышедшая в 1986 году, вернула нейронные сети в центр внимания, продемонстрировав линейный алгоритм обратного распространения, который позволил разработать многослойные нейронные сети, не придерживающиеся этих ограничений. [6]
Колонии муравьев
В 1979 году Дуглас Хофштадтер описал идею биологической системы, способной выполнять интеллектуальные вычисления, даже если особи, составляющие систему, могут быть неразумными. [7] Более конкретно, он привел пример колонии муравьев, которая может выполнять интеллектуальные задачи вместе, но каждый отдельный муравей не может демонстрировать то, что называется « эмерджентным поведением ». Азими и др. в 2009 году показали, что то, что они описали как алгоритм «муравьиной колонии», алгоритм кластеризации, который способен выводить количество кластеров и создавать высококонкурентные финальные кластеры, сопоставимые с другими традиционными алгоритмами. [8] Наконец, Гёльдер и Уилсон в 2009 году пришли к выводу, используя исторические данные, что муравьи эволюционировали, чтобы функционировать как единая колония «супергранизма». [9] Очень важный результат, поскольку он предполагает, что эволюционные алгоритмы группового отбора , связанные вместе с алгоритмами, похожими на «муравьиную колонию», могут потенциально использоваться для разработки более мощных алгоритмов.
Некоторые области исследований в области биологически вдохновленных вычислений и их биологических аналогов:
Биовдохновленные вычисления можно отличить от традиционного искусственного интеллекта по его подходу к обучению компьютеров. Биовдохновленные вычисления используют эволюционный подход, в то время как традиционный ИИ использует « креационистский » подход. Биовдохновленные вычисления начинаются с набора простых правил и простых организмов, которые придерживаются этих правил. Со временем эти организмы развиваются в рамках простых ограничений. Этот метод можно считать восходящим или децентрализованным . В традиционном искусственном интеллекте интеллект часто программируется сверху: программист является создателем, создает что-то и наделяет это своим интеллектом.
Био-вдохновленные вычисления могут быть использованы для обучения виртуального насекомого. Насекомое обучается ориентироваться в неизвестной местности для поиска пищи, снабженное шестью простыми правилами:
Виртуальное насекомое, управляемое обученной нейронной сетью со спайками, может найти пищу после обучения в любой неизвестной местности. [10] После нескольких поколений применения правил обычно возникают некоторые формы сложного поведения . Сложность наращивается на сложность, пока результат не станет чем-то заметно сложным, и довольно часто полностью противоречащим тому, что можно было бы ожидать от исходных правил (см. сложные системы ). По этой причине при моделировании нейронной сети необходимо точно моделировать сеть in vivo , путем живого сбора коэффициентов «шума», которые можно использовать для уточнения статистического вывода и экстраполяции по мере увеличения сложности системы. [11]
Естественная эволюция является хорошей аналогией этого метода — правила эволюции ( отбор , рекомбинация /воспроизведение, мутация и в последнее время транспозиция ) в принципе являются простыми правилами, однако за миллионы лет они произвели на свет удивительно сложные организмы. Похожая техника используется в генетических алгоритмах .
Мозговые вычисления относятся к вычислительным моделям и методам, которые в основном основаны на механизме мозга, а не полностью имитируют мозг. Цель состоит в том, чтобы позволить машине реализовать различные когнитивные способности и механизмы координации людей в манере, вдохновленной мозгом, и в конечном итоге достичь или превзойти уровень человеческого интеллекта.
Исследователи искусственного интеллекта теперь знают о преимуществах обучения на основе механизма обработки информации мозгом. И прогресс науки о мозге и нейронауки также обеспечивает необходимую основу для обучения искусственного интеллекта на основе механизма обработки информации мозгом. Исследователи мозга и нейронауки также пытаются применить понимание обработки информации мозгом к более широкому спектру научных областей. Развитие дисциплины выигрывает от толчка информационных технологий и интеллектуальных технологий, и в свою очередь мозг и нейронаука также вдохновят следующее поколение на трансформацию информационных технологий.
Достижения в области мозга и нейронауки, особенно с помощью новых технологий и нового оборудования, помогают исследователям получать многомасштабные, многотипные биологические доказательства мозга с помощью различных экспериментальных методов и пытаются раскрыть структуру биоинтеллекта с разных сторон и функциональной основы. От микроскопических нейронов, синаптических рабочих механизмов и их характеристик до мезоскопической модели сетевых соединений , до связей в макроскопическом интервале мозга и их синергетических характеристик, многомасштабная структура и функциональные механизмы мозга, полученные из этих экспериментальных и механистических исследований, обеспечат важное вдохновение для построения будущей модели вычислений, вдохновленной мозгом. [12]
В широком смысле, чип, вдохновленный мозгом, относится к чипу, разработанному с учетом структуры нейронов человеческого мозга и когнитивного режима человеческого мозга. Очевидно, что « нейроморфный чип» — это чип, вдохновленный мозгом, который фокусируется на проектировании структуры чипа с учетом модели нейронов человеческого мозга и структуры его ткани, что представляет собой основное направление исследований чипов, вдохновленных мозгом. Наряду с ростом и развитием «мозговых планов» в разных странах появилось большое количество результатов исследований нейроморфных чипов, которые получили широкое международное внимание и хорошо известны академическому сообществу и отрасли. Например, поддерживаемые ЕС SpiNNaker и BrainScaleS, Neurogrid Стэнфорда , TrueNorth IBM и Zeroth Qualcomm .
TrueNorth — это чип, вдохновленный мозгом, который IBM разрабатывает уже почти 10 лет. Программа DARPA США финансирует IBM для разработки импульсных нейронных сетевых чипов для интеллектуальной обработки с 2008 года. В 2011 году IBM впервые разработала два прототипа когнитивного кремния, имитируя структуры мозга, которые могли бы обучаться и обрабатывать информацию, как мозг. Каждый нейрон чипа, вдохновленного мозгом, перекрестно соединен с массивным параллелизмом. В 2014 году IBM выпустила чип второго поколения, вдохновленный мозгом, под названием «TrueNorth». По сравнению с чипами первого поколения, вдохновленными мозгом, производительность чипа TrueNorth резко возросла, а количество нейронов увеличилось с 256 до 1 миллиона; количество программируемых синапсов увеличилось с 262 144 до 256 миллионов; Субсинаптическая работа с общей потребляемой мощностью 70 мВт и потребляемой мощностью 20 мВт на квадратный сантиметр. При этом TrueNorth обрабатывает ядерный объем всего лишь 1/15 от первого поколения мозговых чипов. В настоящее время IBM разработала прототип нейронного компьютера, использующего 16 чипов TrueNorth с возможностями обработки видео в реальном времени. [13] Сверхвысокие показатели и превосходство чипа TrueNorth вызвали большой переполох в академическом мире в начале его выпуска.
В 2012 году Институт вычислительной техники Китайской академии наук (CAS) и французская Inria объединились для разработки первого в мире чипа для поддержки архитектуры процессора глубокой нейронной сети «Cambrian». [14] Технология победила на лучших международных конференциях в области компьютерной архитектуры, ASPLOS и MICRO, а ее метод проектирования и производительность получили международное признание. Чип может быть использован в качестве выдающегося представителя исследовательского направления чипов, вдохновленных мозгом.
Человеческий мозг является продуктом эволюции. Хотя его структура и механизм обработки информации постоянно оптимизируются, компромиссы в процессе эволюции неизбежны. Черепная нервная система является многомасштабной структурой. В механизме обработки информации на каждом масштабе все еще существует несколько важных проблем, таких как тонкая структура связей нейронных шкал и механизм обратной связи между мозгом и шкалой. Поэтому даже всеобъемлющий расчет количества нейронов и синапсов составляет всего 1/1000 размера человеческого мозга, и его все еще очень трудно изучать на текущем уровне научных исследований. [15] Последние достижения в области моделирования мозга связали индивидуальную изменчивость скорости когнитивной обработки человека и подвижного интеллекта с балансом возбуждения и торможения в структурных сетях мозга , функциональной связностью , принятием решений по принципу «победитель получает все» и рабочей памятью аттрактора . [16]
В будущих исследованиях когнитивной вычислительной модели мозга необходимо смоделировать систему обработки информации мозга на основе результатов анализа данных многомасштабной нейронной системы мозга, построить многомасштабную вычислительную модель нейронной сети, вдохновленную мозгом, и смоделировать многомодальность мозга в многомасштабном масштабе. Интеллектуальные поведенческие способности, такие как восприятие, самообучение и память, а также выбор. Алгоритмы машинного обучения не являются гибкими и требуют высококачественных выборочных данных, которые вручную маркируются в большом масштабе. Модели обучения требуют больших вычислительных затрат. Искусственный интеллект, вдохновленный мозгом, по-прежнему не обладает продвинутыми когнитивными способностями и способностью к логическому обучению.
Большинство существующих чипов, вдохновленных мозгом, по-прежнему основаны на исследовании архитектуры фон Неймана, и большинство материалов для производства чипов по-прежнему используют традиционные полупроводниковые материалы. Нейронный чип заимствует только самую базовую единицу обработки информации мозга. Самая базовая компьютерная система, такая как хранение и вычислительное слияние, механизм импульсного разряда, механизм связи между нейронами и т. д., а также механизм между различными масштабными единицами обработки информации не были интегрированы в изучение архитектуры вычислений, вдохновленных мозгом. Сейчас важной международной тенденцией является разработка компонентов нейронных вычислений, таких как мемристоры мозга, контейнеры памяти и сенсорные датчики, на основе новых материалов, таких как нанометры, тем самым поддерживая построение более сложных архитектур вычислений, вдохновленных мозгом. Разработка компьютеров, вдохновленных мозгом, и крупномасштабных систем вычислений мозга, основанных на разработке чипов, вдохновленных мозгом, также требует соответствующей программной среды для поддержки ее широкого применения.
{{cite book}}: |journal=проигнорировано ( помощь )(ниже перечислены в порядке возрастания сложности и глубины, при этом новичкам в этой области рекомендуется начинать сверху)