Уоррен Стерджис Маккалок

Американский нейрофизиолог и кибернетик

Уоррен Стерджис Маккалок (16 ноября 1898 г. — 24 сентября 1969 г.) — американский нейропсихолог и кибернетик, известный своей работой над обоснованием некоторых теорий мозга и вкладом в движение кибернетики . ^[1] Вместе с Уолтером Питтсом Маккалок создал вычислительные модели, основанные на математических алгоритмах, называемых пороговой логикой , которые разделили исследование на два различных подхода: один подход был сосредоточен на биологических процессах в мозге, а другой — на применении нейронных сетей к искусственному интеллекту . ^[2]

Биография

Уоррен Стерджис Маккалок родился в Оранже, штат Нью-Джерси , в 1898 году. Его брат был инженером-химиком , и Уоррен изначально планировал присоединиться к христианскому служению . В подростковом возрасте он был связан с теологами Генри Слоаном Коффином , Гарри Эмерсоном Фосдиком , Германом Карлом Вильгельмом Куммом и Джулианом Ф. Хеккером . Его также наставником был квакер Руфус Джонс . ^[3] Он учился в колледже Хаверфорд, затем изучал философию и психологию в Йельском университете , где получил степень бакалавра гуманитарных наук в 1921 году. Он продолжил изучать психологию в Колумбийском университете и получил степень магистра гуманитарных наук в 1923 году. Получив степень доктора медицины в 1927 году в Колледже врачей и хирургов Колумбийского университета в Нью-Йорке, он прошел стажировку в больнице Бельвью , штат Нью-Йорк. Затем он работал под руководством Эйльхарда фон Домаруса в Государственной больнице для душевнобольных Рокленда . ^[4] Он вернулся в академическую сферу в 1934 году. С 1934 по 1941 год он работал в лаборатории нейрофизиологии Йельского университета.

В 1941 году он переехал в Чикаго и присоединился к кафедре психиатрии в Иллинойсском университете в Чикаго , где он был профессором психиатрии, а также директором Иллинойсского нейропсихиатрического института до 1951 года. ^[5] С 1952 года он работал в Массачусетском технологическом институте в Кембридже, штат Массачусетс, с Норбертом Винером . Он был одним из основателей Американского общества кибернетики и его вторым президентом в 1967–1968 годах. Он был наставником британского пионера операционных исследований Стаффорда Бира .

У Маккалока был широкий круг интересов и талантов. В дополнение к его научным вкладам он писал стихи ( сонеты ), а также проектировал и строил здания и плотину на своей ферме в Олд-Лайме , Коннектикут.

Маккалок женился на Рут Мецгер, известной как «Грач», в 1924 году, и у них было трое детей. ^[6] Он умер в Кембридже в 1969 году.

Работа

Его помнят по работе с Джоаннесом Грегориусом Дюссером де Баренном из Йельского университета ^[7] и позднее с Уолтером Питтсом из Чикагского университета . Он заложил основу для некоторых теорий мозга в ряде классических работ, включая « Логическое исчисление идей, имманентных нервной деятельности » (1943) и « Как мы познаем универсалии: восприятие слуховых и визуальных форм » (1947), обе из которых опубликованы в « Бюллетене математической биофизики» . Первая «широко признана основополагающим вкладом в теорию нейронных сетей, теорию автоматов, теорию вычислений и кибернетику». ^[1]

Маккалок был председателем ряда конференций Macy, посвященных кибернетике. Они, во многом благодаря разнообразию бэкграундов участников, которых привлекал Маккалок, стали основой для этой области.

В «Кибернетике» Винера (1948) он рассказал о событии, произошедшем весной 1947 года, когда Маккалок спроектировал машину, позволяющую слепым читать, преобразуя печатные буквы в тоны. Он спроектировал ее так, чтобы тон был инвариантным для одной и той же буквы, рассматриваемой под разными углами. Герхардт фон Бонин увидел конструкцию и сразу спросил: «Это схема четвертого слоя зрительной коры мозга?». ^{[8] : 22, 140}

В последние дни своей жизни в 1960-х годах он работал над петлями, колебаниями и триадическими отношениями с Морено-Диасом; над ретикулярной формацией с Килмером и над динамическими моделями памяти с Да Фонсекой. ^[9] Его работа в 1960-х годах была обобщена в статье 1968 года. ^[10]

Нейробиология

Он изучал возбуждение мозга с помощью нейронографии со стрихнином , которая была методом картирования связей мозга. Нанесение стрихнина на одну точку мозга вызывает возбуждение в разных точках мозга. ^[11] Бейли, Бонин и Маккалок провели серию исследований в 1940-х годах, которые выявили связи в мозге макак и шимпанзе, которые согласуются с современным пониманием VOF . ^{[12] [13]}

Математическая логика

В 1919 году он начал работать в основном над математической логикой, а к 1923 году попытался создать логику переходных глаголов . Его цель в психологии — изобрести «психон» или «наименьший психический случай», который является бинарными атомарными событиями с необходимыми причинами, такими, что их можно объединить для создания сложных логических предложений относительно их антецедентов. В 1929 году он заметил, что они могут соответствовать активациям нейронов в мозге по принципу «все или ничего». ^[3]

В статье 1943 года они описали, как воспоминания могут быть сформированы нейронной сетью с петлями в ней или изменяемыми синапсами. Затем они кодируют предложения типа «Был некоторый x такой, что x был ψ» или , и показали, что петлевые нейронные сети могут кодировать всю логику первого порядка с равенством и наоборот, любые петлевые нейронные сети эквивалентны предложению в логике первого порядка с равенством, тем самым показывая, что они эквивалентны по логической выразительности. ^[3] ${\displaystyle (\exists x)(\psi x)}$

В статье 1943 года описываются нейронные сети, работающие во времени, а логические универсалии — «существует» и «для всех» — для пространственных объектов, таких как геометрические фигуры, получили дальнейшее развитие в статье 1947 года. ^[14]

Он работал с Мануэлем Блюмом , изучая, как нейронная сеть может быть «логически стабильной», то есть может реализовывать булеву функцию, даже если пороги активации отдельных нейронов различаются. ^{[15] : 64} Они были вдохновлены проблемой того, как мозг может выполнять те же функции, такие как дыхание, под воздействием кофеина или алкоголя , которые смещают порог активации по всему мозгу. ^[3]

Он работал над триадическими отношениями, расширением исчисления отношений для обработки отношений, связывающих 3 объекта, например, «A дает B в C» или «A воспринимает B как C». Он был убежден, что такая логика необходима для понимания мозговой активности. ^{[10] [16]}

Как мы узнаем универсалии

В статье 1947 года « Как мы узнаем универсалии » они изучали проблему распознавания объектов, несмотря на изменения в представлении. Например, распознавание квадрата при разных углах зрения и условиях освещения или распознавание фонемы при разной громкости и тонах. То есть распознавание объектов, инвариантных под действием некоторой группы симметрии . Эта проблема была частично вдохновлена ​​практической проблемой проектирования машины для чтения слепыми (изложенной в «Кибернетике » Винера , см. выше). ^[17]

В статье предложены два решения. Первое заключается в вычислении инварианта путем усреднения по группе симметрии. Пусть группа симметрии будет , а объект, который нужно распознать, будет . Пусть нейронная сеть реализует функцию . Тогда представление, инвариантное по группе, будет , среднее по действию группы. Второе решение заключается в схеме отрицательной обратной связи, которая управляет каноническим представлением. Рассмотрим задачу распознавания того, является ли объект квадратом. Схема перемещает глаз так, что «центр тяжести яркости» объекта перемещается в середину поля зрения. Затем это эффективно преобразует каждый объект в каноническое представление, которое затем можно сравнить с представлением в мозге. ^{[18] [19]} ${\displaystyle G}$ ${\displaystyle x}$ ${\displaystyle T}$ ${\displaystyle {\frac {1}{|G|}}\sum _{g\in G}T(gx)}$

Моделирование нейронных сетей

В статье 1943 года Маккалок и Питтс попытались продемонстрировать, что программа машины Тьюринга может быть реализована в конечной сети формальных нейронов (в данном случае машина Тьюринга содержит их модель мозга, но обратное неверно ^[20] ), что нейрон является базовой логической единицей мозга. В статье 1947 года они предложили подходы к проектированию «нервных сетей» для распознавания визуальных входов, несмотря на изменения ориентации или размера.

С 1952 года Маккалок работал в Исследовательской лаборатории электроники Массачусетского технологического института, занимаясь в основном моделированием нейронных сетей . Его команда исследовала зрительную систему лягушки, принимая во внимание работу Маккалока 1947 года, и обнаружила, что глаз предоставляет мозгу информацию, которая уже в определенной степени организована и интерпретирована, а не просто передает изображение.

С Роберто Морено-Диасом он изучал формализованную проблему памяти. Учитывая, что нейронные сети могут описывать память с помощью паттерна колебаний по кругу, они изучали количество возможных паттернов колебаний, которые могут поддерживаться некоторой нейронной сетью с нейронами. Это оказалось (Шнабель, 1966). ^[21] Кроме того, они доказали теорему универсальности, в которой для каждого существует нейронная сеть (возможно, с более чем нейронами) с бинарными входами, так что для любого паттерна колебаний, реализуемого некоторой нейронной сетью с нейронами, существует двоичный вход для этой универсальной сети, такой, что он демонстрирует тот же паттерн. ^{[22] [23] [24]} ${\displaystyle N}$ ${\displaystyle K(N)={\binom {2^{N}}{k}}\sum _{k=1}^{2^{N}-1}k!}$ ${\displaystyle N}$ ${\displaystyle N}$ ${\displaystyle \log _{2}K(N)}$ ${\displaystyle N}$

Контроль

Маккалок рассматривал проблему противоречивой информации и мотивов, которую он назвал « гетерархией » мотивов, имея в виду, что мотивы не упорядочены линейно, но могут быть упорядочены как . ^[25] Он выдвинул концепцию ретикулярных образований «фишки для покера» относительно того, как мозг справляется с противоречивой информацией в демократической, соматотопической нейронной сети. В частности, как мозг может обязать животное к единому курсу действий, когда ситуация неоднозначна. ${\displaystyle A>B>C>A}$

Они разработали прототип нейронной сети «RETIC» с «12 анастоматически связанными модулями, сложенными в столбчатый массив», который может переключаться между однозначными стабильными режимами на основе неоднозначных входных данных. ^{[26] [16]}

Его принцип «Избыточности потенциального командования» ^[26] был разработан фон Ферстером и Паском в их исследовании самоорганизации ^[27] и Паском в его Теории разговора и Теории взаимодействия акторов . ^[28]

Публикации

Маккалок написал книгу и несколько статей: ^[29]

• 1965, Воплощения разума . MIT Press, Кембридж,
• 1993, Полное собрание сочинений Уоррена С. Маккалока . Intersystems Publications: Салинас, Калифорния.

Статьи, подборка:

• 1943, «Логическое исчисление идей, имманентных нервной деятельности». С Уолтером Питтсом . В: Bulletin of Mathematical Biophysics Vol 5, pp 115–133.
• 1945, «Гетерархия значений, определяемая топологией нервных сетей». В: Бюллетень математической биофизики , 7, 1945, 89–93.
• 1959, «Что глаз лягушки говорит мозгу лягушки». С Джеромом Леттвином , HR Матураной и WH Питтсом . В: Proc. of the IRE Vol 47 (11).
• 1969, «Воспоминания о многочисленных источниках кибернетики», опубликовано в: ASC FORUM Том VI, Номер 2 - Лето 1974.

Статьи, опубликованные Чикагским литературным клубом:

• 1945, «Одно слово за другим».
• 1959, «Прошлое заблуждения».
• 1959, «Естественное соответствие».

Смотрите также

• Диаграмма Рэндольфа

Ссылки

1. Ken Aizawa (2004), "McCulloch, Warren Sturgis". В: Словарь философии разума. Получено 17 мая 2008 г.
2. Маккалок, Уоррен; Уолтер Питтс (1943). «Логическое исчисление идей, имманентных нервной деятельности». Бюллетень математической биофизики . 5 (4): 115–133. doi :10.1007/BF02478259.
3. Маккалок, Уоррен (1961). «Что такое число, чтобы человек мог его знать, и человек, чтобы он мог знать Число» (PDF) . Бюллетень общей семантики (26 и 27): 7–18.
4. Абрахам, Тара Х. (2002). «(Физио)логические контуры: интеллектуальные истоки нейронных сетей Маккалока-Питтса». Журнал истории поведенческих наук . 38 (1): 3–25. doi :10.1002/jhbs.1094. ISSN  0022-5061. PMID  11835218.
5. Смалхейзер, Нил (2000). «Уолтер Питтс». Перспективы в биологии и медицине . 43 (43, 2): 217–226. doi :10.1353/pbm.2000.0009. PMID  10804586. S2CID  8757655.
6. Х., Абрахам, Тара (2016-10-28). Бунтарь-гений: трансдисциплинарная жизнь Уоррена С. Маккалока в науке . Кембридж, Массачусетс. ISBN 9780262035095. OCLC  946160418.{{cite book}}: CS1 maint: местоположение отсутствует издатель ( ссылка ) CS1 maint: несколько имен: список авторов ( ссылка )
7. "Жоан Грегориус Дюссер де Баренн". Йельский университет биологической медицины . 12 (6): 742.2–746. 1940. ЧВК 2602446 . ПМИД  21433922. 
8. Винер, Норберт. Кибернетика или управление и связь в животном и машине . (1948)
9. де Блазио, Габриэль; Морено-Диас, Арминда; Морено-Диас, Роберто (2018), Морено-Диас, Роберто; Пихлер, Франц; Кесада-Аренсибия, Алексис (ред.), «Отношение Маккаллоха к коннекционизму и искусственному интеллекту», Теория компьютерных систем - EUROCAST 2017 , том. 10671, Чам: Springer International Publishing, стр. 41–48, номер документа : 10.1007/978-3-319-74718-7_6, ISBN. 978-3-319-74717-0, получено 2024-10-12
10. McCulloch, WS (1968), Caianiello, ER (ред.), «Логика и замкнутые контуры для компьютерного путешествия на Марс», Neural Networks , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 65–91, doi :10.1007/978-3-642-87596-0_7, ISBN 978-3-642-87598-4, получено 2024-10-12
11. de Barenne, JG Dusser; McCulloch, WS (1939-10-31). "Физиологическое разграничение нейронов в центральной нервной системе". American Journal of Physiology-Legacy Content . 127 (4): 620–628. doi :10.1152/ajplegacy.1939.127.4.620. ISSN  0002-9513.
12. Изокортекс шимпанзе. Персиваль Бейли, Герхардт фон Бонин и Уоррен С. Маккалок. Урбана, Иллинойс, Издательство Иллинойсского университета, 1950
13. Takemura, Hiromasa; Pestilli, Franco; Weiner, Kevin S. (2019-09-01). «Сравнительная нейроанатомия: Интеграция классических и современных методов для понимания ассоциативных волокон, соединяющих дорсальную и вентральную зрительную кору». Neuroscience Research . 146 : 1–12. doi :10.1016/j.neures.2018.10.011. ISSN  0168-0102. PMC 6491271. PMID 30389574  . 
14. Питтс, Уолтер; Маккалок, Уоррен С. (1947-09-01). «Как мы узнаем универсалии восприятия слуховых и визуальных форм». Бюллетень математической биофизики . 9 (3): 127–147. doi :10.1007/BF02478291. ISSN  1522-9602. PMID  20262674.
15. Блюм, Мануэль. «Свойства нейрона со многими входами». Симпозиум по бионике: живые прототипы — ключ к новым технологиям, 13-14-15 сентября 1960 г. Технический отчет WADD, 60-600. (1961)
16. Arbib, Michael A (2000). «Поиск логики нервной системы Уоррена Маккалока». Перспективы в биологии и медицине . 43 (2): 193–216. doi :10.1353/pbm.2000.0001. ISSN  1529-8795.
17. Masani, PR (1990), «Маккалок, Питтс и эволюция нейрофизиологических идей Винера», Норберт Винер 1894–1964 , Базель: Birkhäuser Basel, стр. 218–238, doi :10.1007/978-3-0348-9252-0_16, ISBN 978-3-0348-9963-5, получено 2024-10-13
18. Айзава, Кеннет (сентябрь 2012 г.). «Поворот Уоррена Маккалока к кибернетике: что внес Уолтер Питтс». Interdisciplinary Science Reviews . 37 (3): 206–217. Bibcode : 2012ISRv...37..206A. doi : 10.1179/0308018812Z.00000000017. ISSN  0308-0188.
19. Masani, PR (1990), «Маккалок, Питтс и эволюция нейрофизиологических идей Винера», Норберт Винер 1894–1964 , Базель: Birkhäuser Basel, стр. 218–238, doi :10.1007/978-3-0348-9252-0_16, ISBN 978-3-0348-9963-5, получено 2024-10-14
20. см.: SC Kleene, «Представления событий в нервных сетях и конечных автоматах»
21. Шнабель, CPJ Число режимов колебаний сети из N нейронов . Ежеквартальный отчет о ходе работ № 80, Исследовательская лаборатория электроники, Массачусетский технологический институт, Кембридж, Массачусетс, 15 января 1966 г. С. 253.
22. Морено-Диас, Р. Реализуемость нейронной сети, способной ко всем возможным режимам колебаний . Ежеквартальный отчет о ходе работ № 82, Исследовательская лаборатория электроники, Массачусетский технологический институт, Кембридж, Массачусетс, 15 июля 1966 г. С. 280-285.
23. Морено-Диас, Р. и В. С. Маккалок. « Циркулярности в сетях и концепция функциональных матриц ». Биокибернетика центральной нервной системы, Little, Brown and Company, Бостон (1969): 145-151.
24. Moreno-Díaz, Roberto; Moreno-Díaz, Arminda (2007-04-01). «О наследии WS McCulloch». Biosystems . BIOCOMP 2005: Избранные доклады, представленные на Международной конференции — Диффузионные процессы в нейробиологии и субклеточной биологии. 88 (3): 185–190. Bibcode : 2007BiSys..88..185M. doi : 10.1016/j.biosystems.2006.08.010. ISSN  0303-2647.
25. Маккалок, Уоррен С. (июнь 1945 г.). «Гетерархия значений, определяемых топологией нервных сетей». Бюллетень математической биофизики . 7 (2): 89–93. doi :10.1007/BF02478457. ISSN  0007-4985. PMID  21006853.
26. Kilmer, WL; McCulloch, WS; Blum, J. (1968), Mesarović, MD (ред.), "Некоторые механизмы для теории ретикулярной формации", Systems Theory and Biology , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 286–375, doi :10.1007/978-3-642-88343-9_14, ISBN 978-3-642-88345-3
27. "Прогностическая модель для самоорганизующихся систем", Часть I: Cybernetica 3, стр. 258–300; Часть II: Cybernetica 4, стр. 20–55, 1961 Хайнц фон Фёрстер и Гордон Паск
28. Гордон Паск (1996). Самоорганизация Хайнца фон Ферстера, основоположника теорий разговора и взаимодействия.
29. Его статьи в настоящее время хранятся в коллекции рукописей Американского философского общества .

Дальнейшее чтение

• Гений-бунтарь: трансдисциплинарная жизнь Уоррена С. Маккалока в науке (Кембридж, Массачусетс: MIT Press, 2016).
• New York Times (1969), Некрологи, 25 сентября.
• Кревье, Дэниел (1993), ИИ: бурные поиски искусственного интеллекта , BasicBooks, Нью-Йорк, штат Нью-Йорк.