Теория Хебба

Нейробиологическая теория

Теория Хеббиана — нейропсихологическая теория, утверждающая, что увеличение синаптической эффективности происходит в результате повторной и постоянной стимуляции постсинаптической клетки пресинаптической клеткой. Это попытка объяснить синаптическую пластичность — адаптацию нейронов мозга в процессе обучения. Он был представлен Дональдом Хеббом в его книге «Организация поведения» 1949 года . ^[1] Эту теорию также называют правилом Хебба , постулатом Хебба и теорией сборки клеток . Хебб утверждает это следующим образом:

Предположим, что сохранение или повторение реверберационной активности (или «следа») имеет тенденцию вызывать устойчивые клеточные изменения, которые повышают ее стабильность. ... Когда аксон клетки A находится достаточно близко, чтобы возбудить клетку B , и неоднократно или постоянно участвует в ее возбуждении, в одной или обеих клетках происходит некоторый процесс роста или метаболические изменения, так что эффективность A , как одна из клетки, запускающие B , увеличиваются. ^[1]

Теорию часто резюмируют так: «Клетки, которые срабатывают вместе, соединяются вместе». ^[2] Однако Хебб подчеркнул, что ячейка A должна «принимать участие в срабатывании» ячейки B , и такая причинно-следственная связь может возникнуть только в том случае, если ячейка A срабатывает непосредственно перед, а не одновременно с ячейкой B. Этот аспект причинно-следственной связи в работе Хебба предвосхитил то, что сейчас известно о пластичности, зависящей от времени всплеска , которая требует временного приоритета. ^[3]

Теория пытается объяснить ассоциативное или Хеббианское обучение , при котором одновременная активация клеток приводит к выраженному увеличению синаптической силы между этими клетками. Он также обеспечивает биологическую основу для безошибочных методов обучения для обучения и восстановления памяти. При изучении нейронных сетей в когнитивных функциях их часто рассматривают как нейрональную основу обучения без учителя .

Хеббианские энграммы и теория сборки клеток

Теория Хебба касается того, как нейроны могут соединяться, образуя инграммы . Теории Хебба о форме и функциях клеточных ансамблей можно понять из следующего: ^{[1] : 70}

Общая идея старая: любые две клетки или системы клеток, которые неоднократно активны одновременно, будут иметь тенденцию становиться «ассоциированными», так что активность в одной облегчает активность в другой.

Хебб также писал: ^{[1] : 63.}

Когда одна клетка неоднократно помогает активировать другую, аксон первой клетки образует синаптические выступы (или увеличивает их, если они уже существуют) в контакте с сомой второй клетки.

[Д. Алан Олпорт] выдвигает дополнительные идеи относительно теории сборки клеток и ее роли в формировании инграмм, в соответствии с концепцией автоассоциации, описываемой следующим образом:

Если входные данные системы вызывают повторное возникновение одного и того же паттерна деятельности, набор активных элементов, составляющих этот паттерн, становится все более тесно взаимосвязанным. То есть каждый элемент будет стремиться включать все остальные элементы и (с отрицательными весами) отключать элементы, которые не являются частью шаблона. Другими словами, шаблон в целом станет «автоассоциированным». Мы можем назвать выученный (автоассоциированный) паттерн инграммой. ^{[4] : 44}

Работа в лаборатории Эрика Кандела предоставила доказательства участия хеббианских механизмов обучения в синапсах морских брюхоногих моллюсков Aplysia California . ^{[ нужна ссылка ]} Эксперименты по механизмам модификации Хеббиевых синапсов в синапсах центральной нервной системы позвоночных гораздо сложнее контролировать, чем эксперименты с относительно простыми синапсами периферической нервной системы , изученными у морских беспозвоночных. Большая часть работ по долговременным синаптическим изменениям между нейронами позвоночных (таким как долговременная потенциация ) предполагает использование нефизиологической экспериментальной стимуляции клеток головного мозга. Однако некоторые из физиологически значимых механизмов модификации синапсов, изученных в мозге позвоночных, действительно кажутся примерами процессов Хебба. В одном из таких исследований ^[5] рассматриваются результаты экспериментов, которые показывают, что долговременные изменения в синаптической силе могут быть вызваны физиологически значимой синаптической активностью, действующей как через хеббианские, так и нехеббианские механизмы.

Принципы

С точки зрения искусственных нейронов и искусственных нейронных сетей принцип Хебба можно описать как метод определения того, как изменить веса между модельными нейронами. Вес между двумя нейронами увеличивается, если два нейрона активируются одновременно, и уменьшается, если они активируются по отдельности. Узлы, которые имеют тенденцию быть либо положительными, либо одновременно отрицательными, имеют сильные положительные веса, тогда как те, которые имеют тенденцию быть противоположными, имеют сильные отрицательные веса.

Ниже приводится шаблонное описание обучения Хебба: (возможны многие другие описания)

${\displaystyle \,w_{ij}=x_{i}x_{j}}$

где — вес связи от нейрона к нейрону и вход для нейрона . Обратите внимание, что это обучение по шаблону (веса обновляются после каждого обучающего примера). В сети Хопфилда соединения устанавливаются в ноль, если (рефлексивные соединения не разрешены). В случае бинарных нейронов (активация 0 или 1) соединения будут установлены в 1, если соединенные нейроны имеют одинаковую активацию для шаблона. ${\displaystyle w_{ij}}$ ${\displaystyle j}$ ${\displaystyle i}$ ${\displaystyle x_{i}}$ ${\displaystyle i}$ ${\displaystyle w_{ij}}$ ${\displaystyle i=j}$

При использовании нескольких шаблонов обучения выражение становится средним из отдельных:

${\displaystyle w_{ij}={\frac {1}{p}}\sum _{k=1}^{p}x_{i}^{k}x_{j}^{k}=\langle x_{i}x_{j}\rangle ,\,}$

где — вес соединения от нейрона к нейрону , — количество обучающих шаблонов, входной сигнал для нейрона и <> — среднее значение по всем обучающим шаблонам. Это обучение по эпохам (веса обновляются после представления всех примеров обучения), являющееся последним термином, применимым как к дискретным, так и к непрерывным обучающим наборам. Опять же, в сети Хопфилда соединения обнуляются, если (нет рефлексивных соединений). ${\displaystyle w_{ij}}$ ${\displaystyle j}$ ${\displaystyle i}$ ${\displaystyle p}$ ${\displaystyle x_{i}^{k}}$ ${\displaystyle k}$ ${\displaystyle i}$ ${\displaystyle w_{ij}}$ ${\displaystyle i=j}$

Разновидностью обучения Хебба, которая учитывает такие явления, как блокировка и многие другие явления нейронного обучения, является математическая модель Гарри Клопфа. ^[6] Модель Клопфа воспроизводит множество биологических явлений, а также проста в реализации.

Связь с обучением без учителя, стабильностью и обобщением

Из-за простой природы обучения Хебба, основанного только на совпадении пре- и постсинаптической активности, может быть интуитивно непонятно, почему эта форма пластичности приводит к значимому обучению. Однако можно показать, что пластичность Хебба действительно улавливает статистические свойства входных данных таким образом, что это можно отнести к категории обучения без учителя.

Математически это можно показать на упрощенном примере. Давайте работать в упрощающем предположении об одном нейроне, основанном на частоте , со скоростью , чьи входы имеют скорости . Реакция нейрона обычно описывается как линейная комбинация его входных сигналов, за которой следует функция ответа : ${\displaystyle y(t)}$ ${\displaystyle x_{1}(t)...x_{N}(t)}$ ${\displaystyle y(t)}$ ${\displaystyle \sum _{i}w_{i}x_{i}}$ ${\displaystyle f}$

${\displaystyle y=f\left(\sum _{i=1}^{N}w_{i}x_{i}\right).}$

Как определено в предыдущих разделах, пластичность Хебба описывает эволюцию во времени синаптического веса : ${\displaystyle w}$

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}y.}$

Предполагая для простоты тождественную функцию ответа , мы можем написать ${\displaystyle f(a)=a}$

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}\sum _{j=1}^{N}w_{j}x_{j}}$

или в матричной форме:

${\displaystyle {\frac {d\mathbf {w} }{dt}}=\eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} .}$

Как и в предыдущей главе, если обучение по эпохам выполняется, можно выполнить усреднение по дискретному или непрерывному (по времени) обучающему набору : ${\displaystyle \langle \dots \rangle }$ ${\displaystyle \mathbf {x} }$

$${\displaystyle {\frac {d\mathbf {w} }{dt}}=\langle \eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} \rangle =\eta \langle \mathbf {x} \mathbf {x} ^{T}\rangle \mathbf {w} =\eta C\mathbf {w} .}$$

корреляционная матрицасимметричендиагонализуем ${\displaystyle C=\langle \,\mathbf {x} \mathbf {x} ^{T}\rangle }$ ${\displaystyle \langle \mathbf {x} \rangle =0}$ ${\displaystyle N}$ ${\displaystyle C}$

${\displaystyle \mathbf {w} (t)=k_{1}e^{\eta \alpha _{1}t}\mathbf {c} _{1}+k_{2}e^{\eta \alpha _{2}t}\mathbf {c} _{2}+...+k_{N}e^{\eta \alpha _{N}t}\mathbf {c} _{N}}$

где – произвольные константы, – собственные векторы и соответствующие им собственные значения. Поскольку корреляционная матрица всегда является положительно определенной матрицей , все собственные значения положительны, и можно легко увидеть, как приведенное выше решение всегда экспоненциально расходится во времени. Это внутренняя проблема, поскольку эта версия правила Хебба нестабильна, поскольку в любой сети с доминирующим сигналом синаптические веса будут увеличиваться или уменьшаться экспоненциально. Интуитивно это происходит потому, что всякий раз, когда пресинаптический нейрон возбуждает постсинаптический нейрон, вес между ними усиливается, вызывая еще более сильное возбуждение в будущем и так далее самоусиливающимся способом. Можно подумать, что решение состоит в том, чтобы ограничить частоту срабатывания постсинаптического нейрона путем добавления нелинейной функции насыщения ответа , но на самом деле можно показать, что для любой модели нейрона правило Хебба нестабильно. ^[7] Поэтому в сетевых моделях нейронов обычно используются другие теории обучения, такие как теория BCM , правило Оджи , ^[8] или обобщенный алгоритм Хебба . ${\displaystyle k_{i}}$ ${\displaystyle \mathbf {c} _{i}}$ ${\displaystyle C}$ ${\displaystyle \alpha _{i}}$ ${\displaystyle f}$

Тем не менее, даже для приведенного выше неустойчивого решения можно видеть, что по прошествии достаточного времени один из членов доминирует над другими, и

${\displaystyle \mathbf {w} (t)\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}}$

где – наибольшее собственное значение . В это время постсинаптический нейрон совершает следующую операцию: ${\displaystyle \alpha ^{*}}$ ${\displaystyle C}$

${\displaystyle y\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}\mathbf {x} }$

Поскольку, опять же, собственный вектор соответствует наибольшему собственному значению корреляционной матрицы между s , это точно соответствует вычислению первого главного компонента входных данных. ${\displaystyle \mathbf {c} ^{*}}$ ${\displaystyle x_{i}}$

Этот механизм можно расширить до выполнения полного PCA (анализа главных компонентов) входного сигнала путем добавления дополнительных постсинаптических нейронов при условии, что все постсинаптические нейроны не могут улавливать один и тот же главный компонент, например, путем добавления латерального торможения в постсинаптическом слое. Таким образом, мы связали обучение Хебба с PCA, который является элементарной формой обучения без учителя, в том смысле, что сеть может улавливать полезные статистические аспекты входных данных и «описывать» их в четком виде на выходе. ^[9]

Ограничения

Несмотря на широкое использование моделей Хебба для долговременной потенциации, принцип Хебба не охватывает все формы синаптической долгосрочной пластичности. Хебб не постулировал никаких правил для тормозных синапсов и не делал предсказаний для антипричинных последовательностей спайков (пресинаптический нейрон срабатывает после постсинаптического нейрона). Синаптическая модификация может происходить не только между активированными нейронами A и B, но и в соседних синапсах. ^[10] Поэтому все формы гетеросинаптической и гомеостатической пластичности считаются нехеббианскими. Примером является ретроградная передача сигналов пресинаптическим терминалям. ^[11] Соединением, наиболее часто идентифицируемым как выполняющее роль ретроградного медиатора, является оксид азота , который из-за своей высокой растворимости и диффузионной способности часто оказывает воздействие на близлежащие нейроны. ^[12] Этот тип диффузной синаптической модификации, известный как объемное обучение, не включен в традиционную модель Хебба. ^[13]

Хеббианский счет обучения зеркальных нейронов

Обучение Хебба и пластичность, зависящая от времени импульса, были использованы во влиятельной теории возникновения зеркальных нейронов . ^{[14] [15]} Зеркальные нейроны — это нейроны, которые активируются как тогда, когда человек выполняет действие, так и когда человек видит ^[16] или слышит ^[17], как другой выполняет аналогичное действие. Открытие этих нейронов оказало большое влияние на объяснение того, как люди понимают действия других, показав, что, когда человек воспринимает действия других, он активирует двигательные программы, которые он мог бы использовать для выполнения аналогичных действий. Активация этих двигательных программ затем добавляет информацию к восприятию и помогает предсказать, что человек будет делать дальше, на основе собственной двигательной программы воспринимающего. Задача заключалась в том, чтобы объяснить, как у людей появляются нейроны, которые реагируют как на выполнение действия, так и на то, когда он слышит или видит, как другой выполняет аналогичные действия.

Кристиан Кейзерс и Дэвид Перретт предположили, что, выполняя определенное действие, человек будет видеть, слышать и чувствовать выполнение этого действия. Эти реафферентные сенсорные сигналы вызовут активность нейронов, реагирующих на вид, звук и ощущение действия. Поскольку активность этих сенсорных нейронов будет постоянно перекрываться во времени с активностью мотонейронов, вызвавших действие, обучение Хебба предсказывает, что синапсы, соединяющие нейроны, реагирующие на вид, звук и ощущение действия, и синапсы нейронов, запускающих действие. действие должно быть потенцировано. То же самое происходит, когда люди смотрят на себя в зеркало, слышат свою болтовню или когда другие подражают им. После повторного опыта этой реафференции синапсы, соединяющие сенсорные и моторные представления действия, становятся настолько сильными, что мотонейроны начинают возбуждаться в ответ на звук или видение действия, и создается зеркальный нейрон.

Доказательства этой точки зрения получены во многих экспериментах, которые показывают, что двигательные программы могут запускаться новыми слуховыми или зрительными стимулами после неоднократного сочетания стимула с выполнением двигательной программы (обзор доказательств см. в Giudice et al., 2009). ^[18] ). Например, люди, которые никогда не играли на фортепиано, не активируют участки мозга, отвечающие за игру на фортепиано, при прослушивании фортепианной музыки. Доказано, что пяти часов уроков игры на фортепиано, во время которых участник подвергается звуку фортепиано каждый раз, когда он нажимает клавишу, достаточно, чтобы вызвать активность в двигательных областях мозга при прослушивании фортепианной музыки, когда она будет услышана позже. ^[19] В соответствии с тем фактом, что пластичность, зависящая от времени спайка, возникает только в том случае, если срабатывание пресинаптического нейрона предсказывает срабатывание постсинаптического нейрона, ^[20] связь между сенсорными стимулами и двигательными программами также усиливается только в том случае, если стимул в зависимости от двигательной программы.

Смотрите также

• Принцип Дейла
• Обнаружение совпадений в нейробиологии
• Леабра
• Метапластичность
• Тетаническая стимуляция
• Синаптотропная гипотеза
• Нейропластичность
• Бихевиоризм

Рекомендации

1. Хебб, DO (1949). Организация поведения . Нью-Йорк: Wiley & Sons.
2. Зигрид Лёвель, Геттингенский университет; Точное предложение таково: «нейроны соединяются вместе, если они срабатывают вместе» (Löwel, S. and Singer, W. (1992) Science 255 (опубликовано 10 января 1992 г.) Löwel, Siegrid; Singer, Wolf (1992). «Выбор Внутренние горизонтальные связи в зрительной коре посредством коррелированной активности нейронов». Журнал Science . США: Американская ассоциация по развитию науки. 255 (5041): 209–212. doi : 10.1126/science.1372754. ISSN  0036-8075. PMID  1372754.
3. Капорале Н; Дэн Ю (2008). «Пластичность, зависящая от времени всплеска: правило обучения Хебба». Ежегодный обзор неврологии . 31 : 25–46. doi : 10.1146/annurev.neuro.31.060407.125639. ПМИД  18275283.
4. Олпорт, Д.А. (1985). «Распределенная память, модульные системы и дисфазия». В Ньюмане, СК; Эпштейн Р. (ред.). Современные перспективы дисфазии . Эдинбург: Черчилль Ливингстон. ISBN 978-0-443-03039-0.
5. Полсен, О; Сейновский, Т. (1 апреля 2000 г.). «Естественные закономерности активности и долговременная синаптическая пластичность». Современное мнение в нейробиологии . 10 (2): 172–180. дои : 10.1016/s0959-4388(00)00076-3. ПМК 2900254 . ПМИД  10753798. 
6. Клопф, АХ (1972). Функция мозга и адаптивные системы — гетеростатическая теория. Технический отчет AFCRL-72-0164, Кембриджские исследовательские лаборатории ВВС, Бедфорд, Массачусетс.
7. Эулиано, Нил Р. (21 декабря 1999 г.). «Нейронные и адаптивные системы: основы посредством моделирования» (PDF) . Уайли. Архивировано из оригинала (PDF) 25 декабря 2015 г. Проверено 16 марта 2016 г.
8. Шуваль, Арель (3 января 2005 г.). «Физика мозга». Синаптическая основа обучения и памяти: теоретический подход . Центр медицинских наук Техасского университета в Хьюстоне. Архивировано из оригинала 10 июня 2007 г. Проверено 14 ноября 2007 г.
9. Герстнер, Вульфрам; Кистлер, Вернер М.; Науд, Ричард; Панински, Лиам (июль 2014 г.). Глава 19: Синаптическая пластичность и обучение. Издательство Кембриджского университета. ISBN 978-1107635197. Проверено 9 ноября 2020 г. {{cite book}}: |work=игнорируется ( помощь )
10. Хорган, Джон (май 1994 г.). «Нейронное подслушивание». Научный американец . 270 (5): 16. Бибкод : 1994SciAm.270e..16H. doi : 10.1038/scientificamerican0594-16. ПМИД  8197441.
11. Фитцсимондс, Рэйко; Му-Минг Пу (январь 1998 г.). «Ретроградная передача сигналов в развитии и модификации синапсов». Физиологические обзоры . 78 (1): 143–170. doi :10.1152/physrev.1998.78.1.143. PMID  9457171. S2CID  11604896.
12. Лопес, П; КП Араужо (2009). «Вычислительное исследование диффузных окрестностей в биологических и искусственных нейронных сетях» (PDF) . Международная совместная конференция по вычислительному интеллекту .
13. Митчисон, Дж; Н. Суиндейл (октябрь 1999 г.). «Может ли объемное обучение Хебба объяснить разрывы в кортикальных картах?». Нейронные вычисления . 11 (7): 1519–1526. дои : 10.1162/089976699300016115. PMID  10490935. S2CID  2325474.
14. Кейзерс C; Перретт Д.И. (2004). «Демистификация социального познания: взгляд Хебба». Тенденции в когнитивных науках . 8 (11): 501–507. doi :10.1016/j.tics.2004.09.005. PMID  15491904. S2CID  8039741.
15. Кейзерс, К. (2011). Эмпатический мозг .
16. Галлезе В; Фадига Л; Фогасси Л; Риццолатти Дж (1996). «Распознавание действий в премоторной коре». Мозг . 119 (Часть 2): 593–609. дои : 10.1093/мозг/119.2.593 . ПМИД  8800951.
17. Кейзерс C; Колер Э; Умилта М.А.; Нанетти Л; Фогасси Л; Галлезе В. (2003). «Аудиовизуальные зеркальные нейроны и распознавание действий». Exp Brain Res . 153 (4): 628–636. CiteSeerX 10.1.1.387.3307 . дои : 10.1007/s00221-003-1603-5. PMID  12937876. S2CID  7704309. 
18. Дель Джудис М; Манера V; Кейзерс С (2009). «Запрограммированы на обучение? Онтогенез зеркальных нейронов» (PDF) . Dev Sci . 12 (2): 350–363. дои : 10.1111/j.1467-7687.2008.00783.x. hdl : 2318/133096 . ПМИД  19143807.
19. Лахав А; Зальцман Э; Шлауг Г (2007). «Репрезентация звука в действии: сеть аудиомоторного распознавания при прослушивании вновь приобретенных действий». Дж. Нейроски . 27 (2): 308–314. doi : 10.1523/jneurosci.4822-06.2007. ПМК 6672064 . ПМИД  17215391. 
20. Бауэр EP; Леду Дж. Э.; Надер К. (2001). «Обусловливание страхом и ДП в боковой миндалевидном теле чувствительны к одним и тем же непредвиденным стимулам». Нат Нейроски . 4 (7): 687–688. дои : 10.1038/89465. PMID  11426221. S2CID  33130204.

дальнейшее чтение

• Хебб, DO (1961). «Отличительные особенности обучения у высших животных». В Ж. Ф. Делафресне (ред.). Мозговые механизмы и обучение . Лондон: Издательство Оксфордского университета.
• Хебб, DO (1940). «Поведение человека после обширного двустороннего удаления лобных долей». Архив неврологии и психиатрии . 44 (2): 421–438. doi : 10.1001/archneurpsyc.1940.02280080181011.
• Бишоп, CM (1995). Нейронные сети для распознавания образов . Оксфорд: Издательство Оксфордского университета. ISBN 978-0-19-853849-3.
• Полсен, О.; Сейновский, Т.Дж. (2000). «Естественные закономерности активности и долговременная синаптическая пластичность». Современное мнение в нейробиологии . 10 (2): 172–179. дои : 10.1016/S0959-4388(00)00076-3. ПМК  2900254 . ПМИД  10753798.

Внешние ссылки

• Обзор. Архивировано 2 мая 2017 г. на Wayback Machine.
• Учебное пособие по Hebbian Learning (Часть 1: Фильтрация новинок, Часть 2: PCA)