Теория BCM

Нейробиологическая модель обучения

Теория Биненштока–Купера–Манро ( BCM ) , синаптическая модификация BCM или правило BCM , названное в честь Эли Биненштока, Леона Купера и Пола Манро, является физической теорией обучения в зрительной коре, разработанной в 1981 году. Модель BCM предлагает скользящий порог для индукции долговременной потенциации (LTP) или долговременной депрессии (LTD) и утверждает, что синаптическая пластичность стабилизируется динамической адаптацией усредненной по времени постсинаптической активности. Согласно модели BCM, когда пресинаптический нейрон активируется, постсинаптические нейроны будут иметь тенденцию подвергаться LTP, если он находится в состоянии высокой активности (например, активируется с высокой частотой и/или имеет высокую внутреннюю концентрацию кальция), или LTD, если он находится в состоянии низкой активности (например, активируется с низкой частотой, низкая внутренняя концентрация кальция). ^[1] Эта теория часто используется для объяснения того, как корковые нейроны могут подвергаться как LTP, так и LTD в зависимости от различных протоколов кондиционирующих стимулов, применяемых к пресинаптическим нейронам (обычно высокочастотная стимуляция, или HFS, для LTP или низкочастотная стимуляция, LFS, для LTD). ^[2]

Разработка

В 1949 году Дональд Хебб предложил рабочий механизм памяти и вычислительной адаптации в мозге, который теперь называется обучением Хебба , или принципом, что клетки, которые активируются вместе, связываются вместе . ^[3] Это понятие является основополагающим в современном понимании мозга как нейронной сети, и хотя оно не является универсально верным, оно остается хорошим первым приближением, подкрепленным десятилетиями доказательств. ^{[3] [4]}

Однако у правила Хебба есть проблемы, а именно, что у него нет механизма ослабления связей и верхней границы того, насколько сильными они могут стать. Другими словами, модель нестабильна как теоретически, так и вычислительно. Более поздние модификации постепенно улучшили правило Хебба, нормализовав его и допустив распад синапсов, когда отсутствие активности или несинхронизированная активность между нейронами приводит к потере прочности связи. Новые биологические данные вывели эту активность на пик в 1970-х годах, когда теоретики формализовали различные приближения в теории, такие как использование частоты срабатывания вместо потенциала при определении возбуждения нейрона и предположение об идеальной и, что более важно, линейной синаптической интеграции сигналов. То есть, нет неожиданного поведения при добавлении входных токов для определения того, сработает ли клетка.

Эти приближения привели к появлению базовой формы BCM в 1979 году, но последним шагом стала форма математического анализа для доказательства устойчивости и вычислительного анализа для доказательства применимости, что достигло кульминации в статье Биненстока, Купера и Манро 1982 года.

С тех пор эксперименты показали доказательства поведения BCM как в зрительной коре , так и в гиппокампе , последний из которых играет важную роль в формировании и хранении воспоминаний. Обе эти области хорошо изучены экспериментально, но ни теория, ни эксперимент еще не установили окончательного синаптического поведения в других областях мозга. Было высказано предположение, что в мозжечке синапс параллельного волокна к клетке Пуркинье следует «обратному правилу BCM», что означает, что во время активации параллельного волокна высокая концентрация кальция в клетке Пуркинье приводит к LTD, тогда как более низкая концентрация приводит к LTP. ^[2] Кроме того, биологическая реализация синаптической пластичности в BCM еще не установлена. ^[5]

Теория

Основное правило BCM имеет вид

${\displaystyle \,{\frac {dm_{j}(t)}{dt}}=\phi ({\textbf {c}}(t))d_{j}(t)-\epsilon m_{j}(t),}$

где:

• ${\displaystyle m_{j}}$- синаптический вес th-го синапса, ${\displaystyle j}$
• ${\displaystyle d_{j}}$входной ток синапса, ${\displaystyle j}$
• ${\displaystyle c(t)={\textbf {w}}(t){\textbf {d}}(t)=\sum _{j}w_{j}(t)d_{j}(t)}$является внутренним произведением весов и входных токов (взвешенная сумма входов),
• ${\displaystyle \phi (c)}$— нелинейная функция. Эта функция должна менять знак при некотором пороге , то есть, если и только если . Подробности и свойства см. ниже. ${\displaystyle \theta _{M}}$ ${\displaystyle \phi (c)<0}$ ${\displaystyle c<\theta _{M}}$
• и представляет собой (часто пренебрежимо малую) постоянную времени равномерного распада всех синапсов. ${\displaystyle \epsilon }$

Эта модель представляет собой модифицированную форму правила обучения Хебба и требует подходящего выбора функции , чтобы избежать проблем нестабильности Хебба. ${\displaystyle {\dot {m_{j}}}=cd_{j}}$ ${\displaystyle \phi }$

Биненшток и др. ^[6] переписывают как функцию, где — это среднее по времени значение . С этой модификацией и отбрасыванием равномерного распада правило принимает векторную форму: ${\displaystyle \phi (c)}$ ${\displaystyle \phi (c,{\bar {c}})}$ ${\displaystyle {\bar {c}}}$ ${\displaystyle c}$

${\displaystyle {\dot {\mathbf {m} }}(t)=\phi (c(t),{\bar {c}}(t))\mathbf {d} (t)}$

Условия для стабильного обучения строго выводятся в BCM, отмечая, что с приближением среднего результата достаточно, чтобы ${\displaystyle c(t)={\textbf {m}}(t)\cdot {\textbf {d}}(t)}$ ${\displaystyle {\bar {c}}(t)\approx {\textbf {m}}(t){\bar {\mathbf {d} }}}$

${\displaystyle \,\operatorname {sgn} \phi (c,{\bar {c}})=\operatorname {sgn} \left(c-\left({\frac {\bar {c}}{c_{0}}}\right)^{p}{\bar {c}}\right)~~{\textrm {for}}~c>0,~{\textrm {and}}}$

${\displaystyle \,\phi (0,{\bar {c}})=0~~{\textrm {for}}~{\textrm {all}}~{\bar {c}},}$

или, что то же самое, что порог , где и — фиксированные положительные константы. ^[6] ${\displaystyle \theta _{M}({\bar {c}})=({\bar {c}}/c_{0})^{p}{\bar {c}}}$ ${\displaystyle p}$ ${\displaystyle c_{0}}$

При реализации теория часто принимается так, что

${\displaystyle \,\phi (c,{\bar {c}})=c(c-\theta _{M})~~~{\textrm {and}}~~~\theta _{M}={\bar {c}}^{2}={\frac {1}{\tau }}\int _{-\infty }^{t}c^{2}(t^{\prime })e^{-(t-t^{\prime })/\tau }dt^{\prime },}$

где - постоянная времени селективности. ${\displaystyle \tau }$

Модель имеет недостатки, так как она требует как долгосрочного потенцирования , так и долгосрочного угнетения , или увеличения и уменьшения синаптической силы, что не наблюдалось во всех корковых системах. Кроме того, она требует переменного порога активации и сильно зависит от стабильности выбранных фиксированных точек и . Однако сила модели в том, что она включает все эти требования из независимо выведенных правил стабильности, таких как нормализуемость и функция затухания со временем, пропорциональным квадрату выхода. ^[7] ${\displaystyle c_{0}}$ ${\displaystyle p}$

Пример

Этот пример является частным случаем примера из главы «Математические результаты» работы Биненштока и др. ^[6] , предполагая, что и . При этих значениях и мы решаем , что удовлетворяет условиям устойчивости, указанным в предыдущей главе. ${\displaystyle p=2}$ ${\displaystyle c_{0}=1}$ ${\displaystyle \theta _{M}=({\bar {c}}/c_{0})^{p}{\bar {c}}={\bar {c}}^{3}}$ ${\displaystyle \phi (c,{\bar {c}})=c(c-\theta _{M})}$

Предположим, что два пресинаптических нейрона обеспечивают входы и , их активность представляет собой повторяющийся цикл с половиной времени и оставшимся временем . Среднее значение по времени будет средним значением в первой и второй половине цикла. ${\displaystyle d_{1}}$ ${\displaystyle d_{2}}$ ${\displaystyle \mathbf {d} =(d_{1},d_{2})=(0.9,0.1)}$ ${\displaystyle \mathbf {d} =(0.2,0.7)}$ ${\displaystyle {\bar {c}}}$ ${\displaystyle c}$

Пусть начальное значение весов . В первой половине времени и , взвешенная сумма равна 0,095 и мы используем то же значение в качестве начального среднего . Это означает , , . Добавляя 10% производной к весам , мы получаем новые . ${\displaystyle \mathbf {m} =(0.1,0.05)}$ ${\displaystyle \mathbf {d} =(0.9,0.1)}$ ${\displaystyle \mathbf {m} =(0.1,0.05)}$ ${\displaystyle c}$ ${\displaystyle {\bar {c}}}$ ${\displaystyle \theta _{M}=0.001}$ ${\displaystyle \phi =0.009}$ ${\displaystyle {\dot {m}}=(0.008,0.001)}$ ${\displaystyle \mathbf {m} =(0.101,0.051)}$

В следующей половине времени входы и веса . Это означает , полного цикла 0,075, , , . Добавляя 10% производной к весам, получаем новые . ${\displaystyle \mathbf {d} =(0.2,0.7)}$ ${\displaystyle \mathbf {m} =(0.101,0.051)}$ ${\displaystyle c=0.055}$ ${\displaystyle {\bar {c}}}$ ${\displaystyle \theta _{M}=0.000}$ ${\displaystyle \phi =0.003}$ ${\displaystyle {\dot {m}}=(0.001,0.002)}$ ${\displaystyle \mathbf {m} =(0.110,0.055)}$

Повторяя предыдущий цикл, получаем, что после нескольких сотен итераций устойчивость достигается при , (первая половина) и (оставшееся время), , , и . ${\displaystyle \mathbf {m} =(3.246,-0.927)}$ ${\displaystyle c={\sqrt {8}}=2.828}$ ${\displaystyle c=0.000}$ ${\displaystyle {\bar {c}}={\sqrt {8}}/2=1.414}$ ${\displaystyle \theta _{M}={\sqrt {8}}=2.828}$ ${\displaystyle \phi =0.000}$ ${\displaystyle {\dot {m}}=(0.000,0.000)}$

Обратите внимание, как, как и предсказывалось, конечный вектор веса стал ортогональным к одному из входных шаблонов, являясь конечными значениями в обоих интервалах нулей функции . ${\displaystyle m}$ ${\displaystyle c}$ ${\displaystyle \phi }$

Эксперимент

Первое крупное экспериментальное подтверждение BCM было получено в 1992 году при исследовании LTP и LTD в гиппокампе . Экспериментальная работа Серены Дудек показала качественное согласие с окончательной формой функции активации BCM. ^[8] Этот эксперимент был позже воспроизведен в зрительной коре , для моделирования которой изначально был разработан BCM. ^[9] Эта работа предоставила дополнительные доказательства необходимости переменной пороговой функции для стабильности в обучении хеббовского типа (BCM или других).

Экспериментальные данные не были специфичны для BCM, пока Риттенхаус и др. не подтвердили предсказание BCM о синаптической модификации в зрительной коре, когда один глаз выборочно закрыт. В частности,

${\displaystyle \log \left({\frac {m_{\rm {closed}}(t)}{m_{\rm {closed}}(0)}}\right)\sim -{\overline {n^{2}}}t,}$

где описывает дисперсию спонтанной активности или шума в закрытом глазу, а — время с момента закрытия. Эксперимент согласуется с общей формой этого предсказания и дает объяснение динамики монокулярного закрытия глаза ( монокулярной депривации ) по сравнению с бинокулярным закрытием глаза. ^[10] Экспериментальные результаты далеки от окончательных, но до сих пор отдают предпочтение BCM по сравнению с конкурирующими теориями пластичности. ${\displaystyle {\overline {n^{2}}}}$ ${\displaystyle t}$

Приложения

Хотя алгоритм BCM слишком сложен для крупномасштабной параллельной распределенной обработки , он был с некоторым успехом использован в латеральных сетях. ^[11] Более того, некоторые существующие алгоритмы обучения вычислительных сетей были сделаны соответствующими обучению BCM. ^[12]

Ссылки

1. Ижикевич, Евгений М.; Десаи, Нирадж С. (2003-07-01). «Связь STDP с BCM». Neural Computation . 15 (7): 1511–1523. doi :10.1162/089976603321891783. ISSN  0899-7667. PMID  12816564. S2CID  1919612.
2. Coesmans, Michiel; Weber, John T.; Zeeuw, Chris I. De; Hansel, Christian (2004). «Пластичность двунаправленных параллельных волокон в мозжечке под контролем лазающих волокон». Neuron . 44 (4): 691–700. doi : 10.1016/j.neuron.2004.10.031 . PMID  15541316. S2CID  9061314.
3. Принципы нейронауки . Кандел, Эрик Р. (5-е изд.). Нью-Йорк. 2013. ISBN 978-0-07-139011-8. OCLC  795553723.{{cite book}}: CS1 maint: location missing publisher (link) CS1 maint: others (link)
4. Маркрам, Генри; Герстнер, Вульфрам ; Шёстрём, Пер Йеспер (2012). «Пластичность, зависящая от времени спайка: всесторонний обзор». Frontiers in Synaptic Neuroscience . 4 : 2. doi : 10.3389/fnsyn.2012.00002 . ISSN  1663-3563. PMC 3395004. PMID 22807913  . 
5. Купер, Л. Н. (2000). «Воспоминания и память: подход физика к мозгу» (PDF) . Международный журнал современной физики A . 15 (26): 4069–4082. doi :10.1142/s0217751x0000272x . Получено 11 ноября 2007 г.
6. Bienenstock, Elie L.; Leon Cooper ; Paul Munro (январь 1982 г.). "Теория развития селективности нейронов: ориентационная специфичность и бинокулярное взаимодействие в зрительной коре" (PDF) . The Journal of Neuroscience . 2 (1): 32–48. doi :10.1523/JNEUROSCI.02-01-00032.1982. PMC 6564292 . PMID  7054394 . Получено 11.11.2007 . 
7. Intrator, Nathan (2006–2007). «Теория синаптической пластичности BCM». Neural Computation . School of Computer Science, Tel-Aviv University . Получено 11 ноября 2007 г.
8. Дудек, Серена М. ; Марк Бир (1992). «Гомосинаптическая долгосрочная депрессия в области CA1 гиппокампа и эффекты блокады рецепторов N-метил-D-аспартата» (PDF) . Proc. Natl. Acad. Sci . 89 (10): 4363–4367. Bibcode :1992PNAS...89.4363D. doi : 10.1073/pnas.89.10.4363 . PMC 49082 . PMID  1350090 . Получено 11.11.2007 . 
9. Кирквуд, Альфредо; Марк Г. Риулт; Марк Ф. Бир (1996). «Модификация синаптической пластичности в зрительной коре крысы, зависящая от опыта». Nature . 381 (6582): 526–528. Bibcode :1996Natur.381..526K. doi :10.1038/381526a0. PMID  8632826. S2CID  2705694.
10. Риттенхаус, Синтия Д.; Харел З. Шувал; Майкл А. Парадизо; Марк Ф. Бир (1999). «Монокулярная депривация вызывает гомосинаптическую долгосрочную депрессию в зрительной коре». Nature . 397 (6717): 347–50. Bibcode :1999Natur.397..347R. doi :10.1038/16922. PMID  9950426. S2CID  4302032.
11. Intrator, Nathan (2006–2007). "BCM Learning Rule, Comp Issues" (PDF) . Нейронные вычисления . Факультет компьютерных наук, Тель-Авивский университет . Получено 2007-11-11 .
12. Baras, Dorit; Ron Meir (2007). "Reinforcement Learning, Spike-Time-Dependent Plasticity, and the BCM Rule" (PDF) . Neural Computation . 19 (8): 2245–2279. CiteSeerX 10.1.1.119.395 . doi :10.1162/neco.2007.19.8.2245. PMID  17571943. S2CID  40872097. 2561. Архивировано из оригинала (PDF) 21.07.2011 . Получено 11.11.2007 . 

Внешние ссылки

• Статья в Scholarpedia