Теория Хебба

Нейробиологическая теория

Теория Хебба — нейропсихологическая теория, утверждающая, что увеличение синаптической эффективности возникает из- за многократной и постоянной стимуляции пресинаптической клетки постсинаптической. Это попытка объяснить синаптическую пластичность , адаптацию нейронов мозга в процессе обучения. Она была введена Дональдом Хеббом в его книге 1949 года «Организация поведения» . ^[1] Теория также называется правилом Хебба , постулатом Хебба и теорией сборки клеток . Хебб формулирует ее следующим образом:

Предположим, что сохранение или повторение реверберационной активности (или «следа») имеет тенденцию вызывать длительные клеточные изменения, которые повышают ее стабильность. ... Когда аксон клетки A находится достаточно близко, чтобы возбудить клетку B , и неоднократно или постоянно принимает участие в ее активации, в одной или обеих клетках происходит некоторый процесс роста или метаболические изменения, так что эффективность A , как одной из клеток, активирующих B , увеличивается. ^{[1] : 62}

Теорию часто обобщают как « Нейроны, которые активизируются вместе, связываются вместе ». ^[2] Однако Хебб подчеркивал, что клетка A должна «принимать участие в активации» клетки B , и такая причинно-следственная связь может возникнуть только в том случае, если клетка A активизируется непосредственно перед клеткой B , а не одновременно с ней . Этот аспект причинно-следственной связи в работе Хебба предвосхитил то, что теперь известно о пластичности, зависящей от времени спайка , которая требует временного предшествования. ^[3]

Теория пытается объяснить ассоциативное или хеббовское обучение , при котором одновременная активация клеток приводит к выраженному увеличению синаптической силы между этими клетками. Она также обеспечивает биологическую основу для безошибочных методов обучения для образования и восстановления памяти. При изучении нейронных сетей в когнитивной функции ее часто рассматривают как нейронную основу неконтролируемого обучения .

Энграммы Хебба и теория сборки клеток

Теория Хебба касается того, как нейроны могут соединяться, чтобы стать энграммами . Теории Хебба о форме и функции клеточных ансамблей можно понять из следующего: ^{[1] : 70}

Общая идея стара и заключается в том, что любые две клетки или системы клеток, которые постоянно активны в одно и то же время, будут стремиться стать «ассоциированными», так что активность одной из них способствует активности другой.

Хебб также написал: ^{[1] : 63}

Когда одна клетка неоднократно помогает другой в активации, аксон первой клетки образует синаптические выступы (или увеличивает их, если они уже существуют) в контакте с сомой второй клетки.

[Д. Алан Оллпорт] выдвигает дополнительные идеи относительно теории сборки клеток и ее роли в формировании энграмм, следуя концепции автоассоциации, описываемой следующим образом:

Если входы в систему вызывают повторное возникновение одного и того же паттерна активности, набор активных элементов, составляющих этот паттерн, будет становиться все более и более взаимосвязанным. То есть, каждый элемент будет стремиться включить каждый другой элемент и (с отрицательными весами) выключить элементы, которые не являются частью паттерна. Другими словами, паттерн в целом станет «автоассоциированным». Мы можем назвать усвоенный (автоассоциированный) паттерн энграммой. ^{[4] : 44}

Работа в лаборатории Эрика Кандела предоставила доказательства участия механизмов обучения Хебба в синапсах у морского брюхоногого моллюска Aplysia californica . ^{[ требуется ссылка ]} Эксперименты по механизмам модификации синапсов Хебба в синапсах центральной нервной системы позвоночных гораздо сложнее контролировать, чем эксперименты с относительно простыми синапсами периферической нервной системы, изучаемыми у морских беспозвоночных. Большая часть работы по долгосрочным синаптическим изменениям между нейронами позвоночных (такими как долгосрочная потенциация ) включает использование нефизиологической экспериментальной стимуляции клеток мозга. Однако некоторые из физиологически значимых механизмов модификации синапсов, которые были изучены в мозге позвоночных, по-видимому, являются примерами процессов Хебба. Одно из таких исследований ^[5] рассматривает результаты экспериментов, которые указывают на то, что долгосрочные изменения синаптической силы могут быть вызваны физиологически значимой синаптической активностью, работающей как через механизмы Хебба, так и через не-механизмы Хебба.

Принципы

С точки зрения искусственных нейронов и искусственных нейронных сетей принцип Хебба можно описать как метод определения того, как изменить веса между нейронами модели. Вес между двумя нейронами увеличивается, если два нейрона активируются одновременно, и уменьшается, если они активируются по отдельности. Узлы, которые имеют тенденцию быть либо оба положительными, либо оба отрицательными одновременно, имеют сильные положительные веса, в то время как те, которые имеют тенденцию быть противоположными, имеют сильные отрицательные веса.

Ниже приводится шаблонное описание обучения по Хеббу: (возможны и многие другие описания)

${\displaystyle \,w_{ij}=x_{i}x_{j}}$

где — вес связи от нейрона к нейрону и вход для нейрона . Обратите внимание, что это обучение по шаблону (веса обновляются после каждого примера обучения). В сети Хопфилда связи устанавливаются в ноль, если (рефлексивные связи не допускаются). С бинарными нейронами (активации 0 или 1) связи будут установлены в 1, если связанные нейроны имеют одинаковую активацию для шаблона. ${\displaystyle w_{ij}}$ ${\displaystyle j}$ ${\displaystyle i}$ ${\displaystyle x_{i}}$ ${\displaystyle i}$ ${\displaystyle w_{ij}}$ ${\displaystyle i=j}$

При использовании нескольких шаблонов обучения выражение становится средним значением отдельных шаблонов:

${\displaystyle w_{ij}={\frac {1}{p}}\sum _{k=1}^{p}x_{i}^{k}x_{j}^{k}}$

где — вес связи от нейрона к нейрону , — количество обучающих шаблонов и -й вход для нейрона . Это обучение по эпохам (веса обновляются после того, как представлены все обучающие примеры), последний термин применим как к дискретным, так и к непрерывным обучающим наборам. Опять же, в сети Хопфилда связи устанавливаются в ноль, если (нет рефлексивных связей). ${\displaystyle w_{ij}}$ ${\displaystyle j}$ ${\displaystyle i}$ ${\displaystyle p}$ ${\displaystyle x_{i}^{k}}$ ${\displaystyle k}$ ${\displaystyle i}$ ${\displaystyle w_{ij}}$ ${\displaystyle i=j}$

Разновидностью обучения Хебба, которая учитывает такие явления, как блокирование и многие другие явления нейронного обучения, является математическая модель Гарри Клопфа. ^[6] Модель Клопфа воспроизводит множество биологических явлений, а также проста в реализации.

Связь с неконтролируемым обучением, стабильностью и обобщением

Из-за простой природы обучения Хебба, основанного только на совпадении пре- и постсинаптической активности, может быть не совсем понятно, почему эта форма пластичности приводит к значимому обучению. Однако можно показать, что пластичность Хебба действительно улавливает статистические свойства входных данных таким образом, что ее можно отнести к категории неконтролируемого обучения.

Это можно математически показать на упрощенном примере. Давайте работать в рамках упрощающего предположения об одном нейроне, основанном на скорости , скорость которого составляет , входы которого имеют скорости . Реакция нейрона обычно описывается как линейная комбинация его входа, , за которой следует функция отклика : ${\displaystyle y(t)}$ ${\displaystyle x_{1}(t)...x_{N}(t)}$ ${\displaystyle y(t)}$ ${\displaystyle \sum _{i}w_{i}x_{i}}$ ${\displaystyle f}$

${\displaystyle y=f\left(\sum _{i=1}^{N}w_{i}x_{i}\right).}$

Как определено в предыдущих разделах, пластичность Хебба описывает эволюцию синаптического веса во времени : ${\displaystyle w}$

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}y.}$

Предполагая для простоты функцию отклика тождественна , мы можем записать ${\displaystyle f(a)=a}$

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}\sum _{j=1}^{N}w_{j}x_{j}}$

или в матричной форме:

${\displaystyle {\frac {d\mathbf {w} }{dt}}=\eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} .}$

Как и в предыдущей главе, если обучение по эпохам выполняется, можно сделать усреднение по дискретному или непрерывному (по времени) обучающему набору : где — корреляционная матрица входных данных при дополнительном предположении, что ( т.е. среднее значение входных данных равно нулю). Это система связанных линейных дифференциальных уравнений. Поскольку симметрична , она также диагонализуема , и решение может быть найдено путем работы в ее базисе собственных векторов в виде ${\displaystyle \langle \dots \rangle }$ ${\displaystyle \mathbf {x} }$ $${\displaystyle {\frac {d\mathbf {w} }{dt}}=\langle \eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} \rangle =\eta \langle \mathbf {x} \mathbf {x} ^{T}\rangle \mathbf {w} =\eta C\mathbf {w} .}$$ ${\displaystyle C=\langle \,\mathbf {x} \mathbf {x} ^{T}\rangle }$ ${\displaystyle \langle \mathbf {x} \rangle =0}$ ${\displaystyle N}$ ${\displaystyle C}$

${\displaystyle \mathbf {w} (t)=k_{1}e^{\eta \alpha _{1}t}\mathbf {c} _{1}+k_{2}e^{\eta \alpha _{2}t}\mathbf {c} _{2}+...+k_{N}e^{\eta \alpha _{N}t}\mathbf {c} _{N}}$

где — произвольные константы, — собственные векторы и их соответствующие собственные значения. Поскольку корреляционная матрица всегда является положительно-определенной матрицей , все собственные значения положительны, и можно легко увидеть, что приведенное выше решение всегда экспоненциально расходится во времени. Это внутренняя проблема из-за того, что эта версия правила Хебба нестабильна, так как в любой сети с доминирующим сигналом синаптические веса будут увеличиваться или уменьшаться экспоненциально. Интуитивно это происходит потому, что всякий раз, когда пресинаптический нейрон возбуждает постсинаптический нейрон, вес между ними усиливается, вызывая еще более сильное возбуждение в будущем и так далее, самоусиливающимся образом. Можно подумать, что решение состоит в том, чтобы ограничить частоту срабатывания постсинаптического нейрона, добавив нелинейную, насыщающую функцию отклика , но на самом деле можно показать, что для любой модели нейрона правило Хебба нестабильно. ^[7] Поэтому сетевые модели нейронов обычно используют другие теории обучения, такие как теория BCM , правило Ойи ^[8] или обобщенный алгоритм Хебба . ${\displaystyle k_{i}}$ ${\displaystyle \mathbf {c} _{i}}$ ${\displaystyle C}$ ${\displaystyle \alpha _{i}}$ ${\displaystyle f}$

Несмотря на это, даже для нестабильного решения выше можно увидеть, что по прошествии достаточного времени один из членов доминирует над другими, и

${\displaystyle \mathbf {w} (t)\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}}$

где — наибольшее собственное значение . В это время постсинаптический нейрон выполняет следующую операцию: ${\displaystyle \alpha ^{*}}$ ${\displaystyle C}$

${\displaystyle y\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}\mathbf {x} }$

Поскольку, опять же, — это собственный вектор, соответствующий наибольшему собственному значению корреляционной матрицы между s, это в точности соответствует вычислению первого главного компонента входных данных. ${\displaystyle \mathbf {c} ^{*}}$ ${\displaystyle x_{i}}$

Этот механизм может быть расширен для выполнения полного PCA (анализа главных компонентов) входа путем добавления дополнительных постсинаптических нейронов, при условии, что постсинаптические нейроны не смогут все выбрать один и тот же главный компонент, например, путем добавления латерального торможения в постсинаптическом слое. Таким образом, мы связали обучение Хебба с PCA, которое является элементарной формой неконтролируемого обучения, в том смысле, что сеть может выбрать полезные статистические аспекты входа и «описать» их в дистиллированном виде в своем выходе. ^[9]

Ограничения

Несмотря на общее использование моделей Хебба для долговременной потенциации, принцип Хебба не охватывает все формы синаптической долговременной пластичности. Хебб не постулировал никаких правил для тормозных синапсов и не делал прогнозов для антикаузальных последовательностей спайков (пресинаптический нейрон срабатывает после постсинаптического нейрона). Синаптическая модификация может происходить не только между активированными нейронами A и B, но и в соседних синапсах. ^[10] Поэтому все формы гетеросинаптической и гомеостатической пластичности считаются нехеббовскими. Примером является ретроградная передача сигналов к пресинаптическим окончаниям. ^[11] Соединение, которое чаще всего идентифицируется как выполняющее эту ретроградную роль передатчика, — это оксид азота , который из-за своей высокой растворимости и диффузионной способности часто оказывает воздействие на близлежащие нейроны. ^[12] Этот тип диффузной синаптической модификации, известный как объемное обучение, не включен в традиционную модель Хебба. ^[13]

Хеббовский отчет о зеркальных нейронах

Обучение по Хеббу и пластичность, зависящая от времени спайка, использовались во влиятельной теории возникновения зеркальных нейронов . ^{[14] [15]} Зеркальные нейроны — это нейроны, которые активируются как при выполнении действия человеком, так и при виде ^[16] или при слухе ^[17] другого человека, выполняющего похожее действие. Открытие этих нейронов оказало большое влияние на объяснение того, как люди понимают действия других, показав, что когда человек воспринимает действия других, он активирует двигательные программы, которые он использовал бы для выполнения похожих действий. Затем активация этих двигательных программ добавляет информацию к восприятию и помогает предсказать, что человек сделает дальше, на основе собственной двигательной программы воспринимающего. Сложность состояла в том, чтобы объяснить, как у людей появляются нейроны, которые реагируют как при выполнении действия, так и при слухе или видении, как другой человек выполняет похожие действия.

Кристиан Кейзерс и Дэвид Перретт предположили, что когда человек выполняет определенное действие, он будет видеть, слышать и чувствовать выполнение действия. Эти реафферентные сенсорные сигналы будут вызывать активность в нейронах, реагирующих на вид, звук и ощущение действия. Поскольку активность этих сенсорных нейронов будет последовательно перекрываться во времени с активностью двигательных нейронов, вызвавших действие, хеббианское обучение предсказывает, что синапсы, соединяющие нейроны, реагирующие на вид, звук и ощущение действия, и синапсы нейронов, запускающих действие, должны быть потенцированными. То же самое верно, когда люди смотрят на себя в зеркало, слышат свой лепет или их подражают другие. После многократного опыта этой реафферентации синапсы, соединяющие сенсорные и двигательные представления действия, становятся настолько сильными, что двигательные нейроны начинают активироваться на звук или изображение действия, и создается зеркальный нейрон.

Доказательства этой точки зрения получены из многих экспериментов, которые показывают, что двигательные программы могут быть вызваны новыми слуховыми или визуальными стимулами после повторного сопряжения стимула с выполнением двигательной программы (для обзора доказательств см. Giudice et al., 2009 ^[18] ). Например, люди, которые никогда не играли на пианино, не активируют области мозга, участвующие в игре на пианино, при прослушивании фортепианной музыки. Пять часов уроков игры на фортепиано, на которых участник подвергается воздействию звука пианино каждый раз, когда он нажимает клавишу, доказано достаточными для запуска активности в двигательных областях мозга при прослушивании фортепианной музыки, когда она звучит в более позднее время. ^[19] В соответствии с тем фактом, что пластичность, зависящая от времени спайка, возникает только в том случае, если активация пресинаптического нейрона предсказывает активацию постсинаптического нейрона, ^[20] связь между сенсорными стимулами и двигательными программами также, по-видимому, усиливается только в том случае, если стимул зависит от двигательной программы.

Смотрите также

• принцип Дейла
• Обнаружение совпадений в нейробиологии
• Леабра
• Метапластичность
• Тетаническая стимуляция
• Синаптотропная гипотеза
• Нейропластичность
• Бихевиоризм
• Трехфакторное обучение

Ссылки

1. Хебб, DO (1949). Организация поведения . Нью-Йорк: Wiley & Sons.
2. Зигрид Лёвель, Гёттингенский университет; Точное предложение: «нейроны связываются вместе, если они срабатывают вместе» (Лёвель, С. и Сингер, В. (1992) Science 255 (опубликовано 10 января 1992 г.) Лёвель, Зигрид; Сингер, Вольф (1992). «Выбор внутренних горизонтальных связей в зрительной коре с помощью коррелированной нейронной активности». Science Magazine . 255 (5041). США: Американская ассоциация содействия развитию науки: 209–212. Bibcode :1992Sci...255..209L. doi :10.1126/science.1372754. ISSN  0036-8075. PMID  1372754.
3. Caporale N; Dan Y (2008). «Пластичность, зависящая от времени спайка: правило обучения Хебба». Annual Review of Neuroscience . 31 : 25–46. doi : 10.1146/annurev.neuro.31.060407.125639. PMID  18275283.
4. Allport, DA (1985). "Распределенная память, модульные системы и дисфазия". В Newman, SK; Epstein R. (ред.). Современные перспективы в дисфазии . Эдинбург: Churchill Livingstone. ISBN 978-0-443-03039-0.
5. Paulsen, O; Sejnowski, T (1 апреля 2000 г.). «Естественные закономерности активности и долгосрочная синаптическая пластичность». Current Opinion in Neurobiology . 10 (2): 172–180. doi : 10.1016/s0959-4388(00)00076-3. PMC 2900254. PMID  10753798. 
6. Клопф, AH (1972). Функция мозга и адаптивные системы — гетеростатическая теория. Технический отчет AFCRL-72-0164, Исследовательские лаборатории ВВС Кембриджа, Бедфорд, Массачусетс.
7. Эулиано, Нил Р. (1999-12-21). "Нейронные и адаптивные системы: основы через моделирование" (PDF) . Wiley. Архивировано из оригинала (PDF) 2015-12-25 . Получено 2016-03-16 .
8. Shouval, Harel (2005-01-03). "Физика мозга". Синаптическая основа обучения и памяти: теоретический подход . Центр медицинских наук Техасского университета в Хьюстоне. Архивировано из оригинала 2007-06-10 . Получено 2007-11-14 .
9. Герстнер, Вульфрам; Кистлер, Вернер М.; Науд, Ричард; Панински, Лиам (июль 2014 г.). Глава 19: Синаптическая пластичность и обучение. Cambridge University Press. ISBN 978-1107635197. Получено 2020-11-09 . {{cite book}}: |work=проигнорировано ( помощь )
10. Хорган, Джон (май 1994). «Нейронное подслушивание». Scientific American . 270 (5): 16. Bibcode : 1994SciAm.270e..16H. doi : 10.1038/scientificamerican0594-16. PMID  8197441.
11. Фицсаймондс, Рейко; Му-Минг Пу (январь 1998). «Ретроградная передача сигналов в развитии и модификации синапсов». Physiological Reviews . 78 (1): 143–170. doi :10.1152/physrev.1998.78.1.143. PMID  9457171. S2CID  11604896.
12. Лопес, П.; К. П. Араухо (2009). "Вычислительное исследование диффузных окрестностей в биологических и искусственных нейронных сетях" (PDF) . Международная совместная конференция по вычислительному интеллекту .
13. Митчисон, Г.; Н. Суиндейл (октябрь 1999 г.). «Может ли объемное обучение Хебба объяснить разрывы в корковых картах?». Neural Computation . 11 (7): 1519–1526. doi :10.1162/089976699300016115. PMID  10490935. S2CID  2325474.
14. Keysers C; Perrett DI (2004). «Демистификация социального познания: перспектива Хебба». Тенденции в когнитивных науках . 8 (11): 501–507. doi :10.1016/j.tics.2004.09.005. PMID  15491904. S2CID  8039741.
15. Кейзерс, К. (2011). Эмпатический мозг .
16. Галлезе В; Фадига Л; Фогасси Л; Риццолатти Дж (1996). «Распознавание действий в премоторной коре». Мозг . 119 (Часть 2): 593–609. дои : 10.1093/мозг/119.2.593 . ПМИД  8800951.
17. Кейзерс C; Колер Э; Умилта М.А.; Нанетти Л; Фогасси Л; Галлезе В. (2003). «Аудиовизуальные зеркальные нейроны и распознавание действий». Exp Brain Res . 153 (4): 628–636. CiteSeerX 10.1.1.387.3307 . дои : 10.1007/s00221-003-1603-5. PMID  12937876. S2CID  7704309. 
18. Del Giudice M; Manera V; Keysers C (2009). «Запрограммированы на обучение? Онтогенез зеркальных нейронов» (PDF) . Dev Sci . 12 (2): 350–363. doi :10.1111/j.1467-7687.2008.00783.x. hdl : 2318/133096 . PMID  19143807.
19. Lahav A; Saltzman E; Schlaug G (2007). «Действие представления звука: аудиомоторная сеть распознавания при прослушивании недавно приобретенных действий». J Neurosci . 27 (2): 308–314. doi :10.1523/jneurosci.4822-06.2007. PMC 6672064 . PMID  17215391. 
20. Bauer EP; LeDoux JE; Nader K (2001). «Обусловливание страха и долговременная потенциация в латеральной миндалине чувствительны к одним и тем же стимульным обстоятельствам». Nat Neurosci . 4 (7): 687–688. doi :10.1038/89465. PMID  11426221. S2CID  33130204.

Дальнейшее чтение

• Хебб, Д.О. (1961). «Отличительные черты обучения у высших животных». В JF Delafresnaye (ред.). Механизмы мозга и обучение . Лондон: Oxford University Press.
• Хебб, Д.О. (1940). «Поведение человека после обширного двустороннего удаления лобных долей». Архивы неврологии и психиатрии . 44 (2): 421–438. doi :10.1001/archneurpsyc.1940.02280080181011.
• Бишоп, CM (1995). Нейронные сети для распознавания образов . Оксфорд: Oxford University Press. ISBN 978-0-19-853849-3.
• Paulsen, O.; Sejnowski, TJ (2000). «Естественные закономерности активности и долгосрочная синаптическая пластичность». Current Opinion in Neurobiology . 10 (2): 172–179. doi :10.1016/S0959-4388(00)00076-3. PMC  2900254. PMID  10753798 .

Внешние ссылки

• Обзор Архивировано 2017-05-02 в Wayback Machine
• Учебное пособие по изучению языка Хебба (часть 1: Фильтрация новизны, часть 2: PCA)