Связывающий нейрон

Обработка входных импульсов в универсальном нейроне

Связывающий нейрон ( BN) — это абстрактная концепция обработки входных импульсов в общем нейроне на основе их временной когерентности и уровня нейронного торможения. Математически эта концепция может быть реализована большинством нейронных моделей, включая известную модель leaky integration-and-fire . Концепция BN возникла в работах 1996 и 1998 годов AK Vidybida, ^{[1] [2]}

Описание концепции

Для обычного нейрона стимулами являются возбуждающие импульсы. Обычно для возбуждения нейрона до уровня, когда он срабатывает и испускает выходной импульс, необходимо более одного входного импульса. Пусть нейрон получает входные импульсы в последовательные моменты времени . В концепции BN временная когерентность между входными импульсами определяется следующим образом ${\displaystyle n}$ ${\displaystyle t_{1},t_{2},\dots ,t_{n}}$ ${\displaystyle tc}$

${\displaystyle tc={\frac {1}{t_{n}-t_{1}}}\,.}$

Высокая степень временной когерентности между входными импульсами предполагает, что во внешних средах все импульсы могут быть созданы одним сложным событием. Соответственно, если BN стимулируется высококогерентным набором входных импульсов, он срабатывает и испускает выходной импульс. В терминологии BN, BN связывает элементарные события (входные импульсы) в единое событие (выходной импульс). Связывание происходит, если входные импульсы достаточно когерентны во времени, и не происходит, если эти импульсы не имеют необходимой степени когерентности. ${\displaystyle n}$

Ингибирование в концепции BN (по сути, медленное соматическое калиевое ингибирование) контролирует степень временной когерентности, необходимую для связывания: чем выше уровень торможения, тем более высокая степень временной когерентности необходима для того, чтобы произошло связывание.

Схема обработки сигнала в соответствии с концепцией связующего нейрона. --- моменты получения входных импульсов. ${\displaystyle t_{1},t_{2},\dots ,t_{n}}$

Излученный выходной импульс рассматривается как абстрактное представление составного события (набора когерентных во времени входных импульсов), см. Схему.

Источник

«Хотя нейрону требуется энергия, его главная функция — получать сигналы и отправлять их, то есть обрабатывать информацию». — эти слова Фрэнсиса Крика указывают на необходимость описания нейронной деятельности в терминах обработки абстрактных сигналов ^[3] В этом курсе предлагаются два абстрактных понятия, а именно «детектор совпадений» и «временной интегратор», ^{[4] [5]} Первое предполагает, что нейрон генерирует импульс, если одновременно поступает несколько входных импульсов. В концепции временного интегратора нейрон генерирует импульс после получения нескольких входных импульсов, распределенных во времени. Каждое из двух учитывает некоторые особенности реальных нейронов, поскольку известно, что реалистичный нейрон может демонстрировать как режимы активности детектора совпадений, так и временного интегратора в зависимости от применяемой стимуляции, ^[6] В то же время известно, что нейрон вместе с возбуждающими импульсами получает и тормозную стимуляцию. Естественным развитием двух вышеупомянутых концепций могла бы стать концепция, которая наделяет торможение собственной ролью обработки сигнала.

В нейронауке есть идея проблемы связывания . Например, во время зрительного восприятия такие признаки, как форма, цвет и стереопсис, представлены в мозге различными нейронными ансамблями. Механизм, гарантирующий, что эти признаки будут восприниматься как принадлежащие одному реальному объекту, называется «связыванием признаков». ^[7] Экспериментально подтвержденное мнение заключается в том, что для связывания необходима точная временная координация между нейронными импульсами. ^{[8] [9] [10] [11] [12] [13]} Эта координация в основном означает, что сигналы о различных признаках должны поступать в определенные области мозга в течение определенного временного окна.

Концепция BN воспроизводит на уровне отдельного родового нейрона требование, необходимое для связывания признаков, которое было сформулировано ранее на уровне крупномасштабных нейронных ансамблей. Его формулировка стала возможной благодаря анализу реакции модели Ходжкина–Хаксли на стимулы, аналогичные тем, которые реальные нейроны получают в естественных условиях, см. «Математические реализации» ниже.

Математические реализации

Модель Ходжкина–Хаксли (ХХ)

Модель Ходжкина–Хаксли — физиологически обоснованная нейронная модель, действующая на основе трансмембранных ионных токов и описывающая механизм генерации потенциала действия .

В статье ^[14] реакция модели HH была изучена численно на стимулы, состоящие из множества возбуждающих импульсов, распределенных случайным образом в пределах временного окна : ${\displaystyle U(t)}$ ${\displaystyle W}$

${\displaystyle U(t)=\sum _{k=1}^{NP}V(t-t_{k}),\qquad t_{k}\in [0;W].}$

Здесь обозначает величину возбуждающего постсинаптического потенциала в момент ; — момент прибытия -го импульса; — общее число импульсов, из которых состоит стимул. Числа случайны, распределены равномерно в интервале . Стимулирующий ток, применяемый в уравнениях ГГ, имеет следующий вид ${\displaystyle V(t)}$ ${\displaystyle t}$ ${\displaystyle t_{k}}$ ${\displaystyle k}$ ${\displaystyle NP}$ ${\displaystyle t_{k}}$ ${\displaystyle [0;W]}$

${\displaystyle I(t)=-C_{M}\ {\frac {dU(t)}{dt}},}$

где — емкость единицы площади возбудимой мембраны. Вероятность генерации потенциала действия рассчитывалась как функция ширины окна . Различные постоянные калиевые проводимости добавлялись к уравнениям ГХ с целью создания определенных уровней тормозного потенциала. Полученные зависимости, если их пересчитать как функции от , что аналогично временной когерентности импульсов в сложном стимуле, имеют ступенчатый вид. Местоположение ступеньки контролируется уровнем тормозного потенциала, см. рис. 1. Благодаря такому типу зависимости уравнения ГХ можно рассматривать как математическую модель концепции БН. ${\displaystyle C_{M}}$ ${\displaystyle W}$ ${\displaystyle TC={\frac {1}{W}}}$

Рис. 1. Вероятность срабатывания ( ) нейрона типа Ходжкина–Хаксли, стимулированного набором входных импульсов, как функция временной когерентности импульсов. Кривые слева направо соответствуют увеличению калиевой проводимости, то есть увеличению степени торможения. ${\displaystyle fp}$ ${\displaystyle NP}$

Интегральный и активный нейрон с утечкой (LIF)

Утечка интегрирующего и возбуждающего нейрона является широко используемой абстрактной нейронной моделью. Если поставить аналогичную задачу для нейрона LIF с соответствующим образом выбранным механизмом торможения, то можно получить и ступенчатые зависимости, подобные рис. 1. Поэтому нейрон LIF также можно рассматривать как математическую модель концепции BN.

Модель связывающего нейрона

Модель связывающего нейрона реализует концепцию BN в наиболее утонченной форме. ^[15] В этой модели каждый входной импульс хранится в нейроне в течение фиксированного времени , а затем исчезает. Этот вид памяти служит суррогатом возбуждающего постсинаптического потенциала . Модель имеет порог : если количество сохраненных в BN импульсов превышает , то нейрон запускает спайк и очищает свою внутреннюю память. Наличие торможения приводит к уменьшению . В модели BN необходимо контролировать время жизни любого сохраненного импульса во время расчета ответа нейрона на входную стимуляцию. Это делает модель BN более сложной для численного моделирования, чем модель LIF. С другой стороны, любой импульс проводит конечное время в нейроне модели BN. Это отличается от модели LIF, где следы любого импульса могут присутствовать бесконечно долго. Это свойство модели BN позволяет получить точное описание выходной активности BN, стимулированной случайным потоком входных импульсов, см. ^{[16] [17]} . ^[18] ${\displaystyle \tau }$ ${\displaystyle N_{th}}$ ${\displaystyle N_{th}}$ ${\displaystyle \tau }$ ${\displaystyle \tau }$

Предельный случай БС с бесконечной памятью, τ →∞, соответствует временному интегратору. Предельный случай БС с бесконечно короткой памятью, τ →0, соответствует детектору совпадений.

Реализация интегральной схемы

Вышеупомянутые и другие нейронные модели и сети, созданные на их основе, могут быть реализованы в микрочипах. Среди различных чипов стоит упомянуть программируемые поля вентильных матриц . Эти чипы могут быть использованы для реализации любой нейронной модели, но модель BN может быть запрограммирована наиболее естественно, поскольку она может использовать только целые числа и не требует решения дифференциальных уравнений. Эти возможности используются, например, в ^[19] и ^[20]

Ограничения

Как абстрактная концепция модель BN подвержена необходимым ограничениям. Среди них такие, как игнорирование морфологии нейронов, идентичность величины входных импульсов, замена набора переходных процессов с различным временем релаксации, известных для реального нейрона, на единое время жизни, импульса в нейроне, отсутствие рефрактерности и быстрого (хлорного) торможения. Модель BN имеет те же ограничения, однако некоторые из них можно устранить в сложной модели, см., например, ^[21] , где модель BN используется с рефрактерностью и быстрым торможением. ${\displaystyle \tau }$

Ссылки

1. Видибида, АК (1996). «Нейрон как дискриминатор временной когерентности». Биологическая кибернетика . 74 (6): 537–542. doi :10.1007/BF00209424. PMID  8672560. S2CID  19862684.
2. Видибида, АК (1998). «Ингибирование как контроллер связывания на уровне отдельного нейрона». BioSystems . 48 (1–3): 263–267. doi :10.1016/S0303-2647(98)00073-2. PMID  9886656.
3. Ф. Крик. Удивительная гипотеза. Touchstone., 1995.
4. Абелес, М. (1982). «Роль коркового нейрона: интегратор или детектор совпадений?». Израильский журнал медицинских наук . 18 (1): 83–92. PMID  6279540.
5. Кёниг, П.; Энгель, АК; Сингер, В. (1996). «Интегратор или детектор совпадений? пересмотр роли кортикального нейрона». Тенденции в нейронауках . 19 (4): 130–137. doi :10.1016/S0166-2236(96)80019-1. PMID  8658595. S2CID  14664183.
6. Рудольф, М.; Дестекс, А. (2003). «Настройка неокортикальных пирамидальных нейронов между интеграторами и детекторами совпадений». Журнал вычислительной нейронауки . 14 (3): 239–251. doi :10.1023/A:1023245625896. PMID  12766426. S2CID  3695640.
7. JP Sougné. Проблема связывания. В Encyclopedia of Cognitive Science. John Wiley & Sons, Ltd, 2006.
8. Трейсман, AM; Гелад, G. (1980). «Теория интеграции признаков внимания». Когнитивная психология . 12 (1): 97–136. doi :10.1016/0010-0285(80)90005-5. PMID  7351125. S2CID  353246.
9. фон дер Мальсбург, К. (1999). «Что и почему связывается: точка зрения разработчика моделей». Neuron . 24 (8): 95–104. doi : 10.1016/S0896-6273(00)80825-9 . PMID  10677030. S2CID  7057525.
10. Экхорн, Р.; Бауэр, Р.; Джордан, В.; Брош, М.; Крузе, В.; Мунк, М.; Рейтбёк, Х. Дж. (1988). «Когерентные колебания: механизм связывания признаков в зрительной коре?». Биологическая кибернетика . 60 (2): 121–130. doi :10.1007/BF00202899. PMID  3228555. S2CID  206771651.
11. Дамасио, AR (1989). «Концепции в мозге». Mind & Language . 4 (1–2): 25–28. doi :10.1111/j.1468-0017.1989.tb00236.x.
12. AK Engel, P. König, AK Kreiter, CM Gray и W. Singer. Временное кодирование когерентными колебаниями как потенциальное решение проблемы связывания: физиологические данные. В HG Schuster и W. Singer, редакторы, Nonlinear Dynamics and Neuronal Networks, страницы 325. VCH Weinheim, 1991.
13. Мерцених, Майкл М. (1993). «Нейронные механизмы, лежащие в основе временной интеграции, сегментации и представления входной последовательности: некоторые следствия для происхождения трудностей в обучении». Анналы Нью-Йоркской академии наук . 682 (1): 1–22. Bibcode : 1993NYASA.682....1M. doi : 10.1111/j.1749-6632.1993.tb22955.x. PMID  8323106. S2CID  44698935.
14. Видибида, АК (1996). «Нейрон как дискриминатор временной когерентности». Биологическая кибернетика . 74 (6): 537–542. doi :10.1007/BF00209424. PMID  8672560. S2CID  19862684.
15. Энциклопедия информатики и технологий (2014). Мехди Хосров-Пур (ред.). Связывающий нейрон (Третье изд.). Херши, Пенсильвания: IGI Global. стр. 1123–1134. ISBN 978-1-4666-5889-9.
16. Видибида, АК (2007). «Выходной поток связывающего нейрона». Украинский математический журнал . 59 (12): 1819–1839. doi :10.1007/s11253-008-0028-5. S2CID  120989952.
17. Видибида, АК; Кравчук, КГ (2013). «Задержка обратной связи делает статистику нейронной активации немарковской». Украинский математический журнал . 64 (12): 1793–1815. doi :10.1007/s11253-013-0753-2. S2CID  123193380.
18. Аруначалам, В.; Ахаван-Табатабаи, Р.; Лопес, К. (2013). «Результаты исследования модели связывающих нейронов и их значение для модифицированной модели песочных часов для нейронной сети». Вычислительные и математические методы в медицине . 2013 : 374878. doi : 10.1155/2013/374878 . PMC 3876776. PMID  24396394. 
19. Росселло, Дж. Л.; Каналс, В.; Морро, А.; Оливер, А. (2012). «Аппаратная реализация стохастических импульсных нейронных сетей». Международный журнал нейронных систем . 22 (4): 1250014. doi :10.1142/S0129065712500141. PMID  22830964.
20. Ван, Р.; Коэн, Г.; Штифель, К. М.; Гамильтон, Т. Дж.; Тапсон, Дж.; Шайк, А. ван (2013). «Реализация полихронной импульсной нейронной сети на основе fpga с адаптацией к задержке». Frontiers in Neuroscience . 7 : 14. doi : 10.3389/fnins.2013.00014 . PMC 3570898. PMID  23408739. 
21. Кравчук, КГ; Видыбида, АК (2014). «Немарковская статистика спайков нейрона с отложенной обратной связью при наличии рефрактерности». Математические биологические науки и инженерия . 11 (1): 81–104. doi : 10.3934/mbe.2014.11.81 . PMID  24245681.