stringtranslate.com

Джон Хопфилд

Джон Джозеф Хопфилд (родился 15 июля 1933 года) [1] — американский физик и почетный профессор Принстонского университета , наиболее широко известный своим исследованием ассоциативных нейронных сетей в 1982 году. Он известен разработкой сети Хопфилда . До ее изобретения исследования в области искусственного интеллекта (ИИ) находились в периоде упадка или зиме ИИ , работа Хопфилда возродила масштабный интерес к этой области. [2] [3]

В 2024 году Хопфилд вместе с Джеффри Хинтоном был удостоен Нобелевской премии по физике за основополагающий вклад в машинное обучение , в частности, за работу над искусственными нейронными сетями . [4] [2] Он был удостоен различных крупных физических наград за свою работу в междисциплинарных областях, включая физику конденсированного состояния , статистическую физику и биофизику .

Биография

Ранняя жизнь и образование

Джон Джозеф Хопфилд родился в 1933 году в Чикаго [1] в семье физиков Джона Джозефа Хопфилда (урождённого Яна Юзефа Хмелевского) и Хелен Хопфилд (урождённой Стафф). [5] [6]

Хопфилд получил степень бакалавра искусств со специализацией в области физики в колледже Свортмор в Пенсильвании в 1954 году и степень доктора философии по физике в Корнеллском университете в 1958 году. [1] Его докторская диссертация называлась «Квантово-механическая теория вклада экситонов в комплексную диэлектрическую проницаемость кристаллов». [7] Его научным руководителем был Альберт Оверхаузер . [1]

Карьера

Он провел два года в теоретической группе в Bell Laboratories, работая над оптическими свойствами полупроводников совместно с Дэвидом Гилбертом Томасом [8] , а затем над количественной моделью для описания кооперативного поведения гемоглобина совместно с Робертом Г. Шульманом . [1] [5] [9] Впоследствии он стал преподавателем в Калифорнийском университете в Беркли (физика, 1961–1964), [2] Принстонском университете (физика, 1964–1980), [2] Калифорнийском технологическом институте (Калтех, химия и биология, 1980–1997) [2] и снова в Принстоне (1997–), [2] [1] , где он является почетным профессором молекулярной биологии имени Говарда А. Прайора. [10]

В 1976 году он принял участие в съемках научного короткометражного фильма о структуре гемоглобина с участием Лайнуса Полинга . [11]

С 1981 по 1983 год Ричард Фейнман , Карвер Мид и Хопфилд читали в Калтехе годичный курс под названием «Физика вычислений». [12] Хопфилд был приглашен Фейнманом преподавать ассоциативные нейронные сети . [12] [13] Это сотрудничество вдохновило на создание в 1986 году программы PhD «Вычисления и нейронные системы» в Калтехе, соучредителем которой был Хопфилд. [14] [12]

Среди его бывших аспирантов были Джеральд Махан (доктор философии в 1964 году), [15] Бертран Гальперин (1965), [16] Стивен Гирвин (1977), [16] Терри Сейновски (1978), [16] Эрик Уинфри (1998), [16] Хосе Онучич (1987), [16] Ли Чжаопин (1990) [17] и Дэвид Дж. К. Маккей (1992). [16]

Работа

В своей докторской работе 1958 года он писал о взаимодействии экситонов в кристаллах, введя термин поляритон для квазичастицы , которая появляется в физике твердого тела . [18] [19] Он писал: «Поляризационное поле „частиц“, аналогичное фотонам , будет называться „поляритонами“». [19] Его модель поляритона иногда называют диэлектриком Хопфилда . [20]

С 1959 по 1963 год Хопфилд и Дэвид Г. Томас исследовали экситонную структуру сульфида кадмия по его спектрам отражения. Их эксперименты и теоретические модели позволили понять оптическую спектроскопию полупроводниковых соединений II-VI . [21]

Физик конденсированного состояния Филип В. Андерсон сообщил, что Джон Хопфилд был его «скрытым соавтором» в его работах 1961–1970 годов по модели примесей Андерсона, которая объясняла эффект Кондо . Хопфилд не был включен в качестве соавтора в статьи, но Андерсон признал важность вклада Хопфилда в различные его труды. [22]

Уильям К. Топп и Хопфилд ввели концепцию сохраняющих норму псевдопотенциалов в 1973 году. [23] [24] [25]

В 1974 году он представил механизм исправления ошибок в биохимических реакциях, известный как кинетическая корректура, для объяснения точности репликации ДНК . [26] [27]

Хопфилд опубликовал свою первую статью в области нейронауки в 1982 году под названием «Нейронные сети и физические системы с возникающими коллективными вычислительными способностями», где он представил то, что сейчас известно как сеть Хопфилда , тип искусственной сети, которая может служить адресно-контентной памятью , состоящей из двоичных нейронов, которые могут быть «включены» или «выключены». [28] [5] Он распространил свой формализм на непрерывные функции активации в 1984 году. [29] Статьи 1982 и 1984 годов представляют собой две его наиболее цитируемые работы. [10] Хопфилд сказал, что вдохновение пришло из его знаний о спиновых стеклах из его сотрудничества с П. У. Андерсоном. [30]

Вместе с Дэвидом В. Танком Хопфилд разработал метод в 1985–1986 годах [31] [32] для решения задач дискретной оптимизации на основе динамики непрерывного времени с использованием сети Хопфилда с непрерывной функцией активации. Задача оптимизации была закодирована в параметрах взаимодействия (весах) сети. Эффективная температура аналоговой системы постепенно уменьшалась, как в глобальной оптимизации с имитацией отжига . [33]

Хопфилд является одним из пионеров гипотезы критического мозга , он был первым, кто связал нейронные сети с самоорганизующейся критичностью в отношении модели Олами–Федера–Кристенсена для землетрясений в 1994 году. [34] [35] В 1995 году Хопфилд и Андреас В. Герц показали, что лавины в нейронной активности следуют распределению степенного закона, связанному с землетрясениями. [36] [37]

Первоначальные сети Хопфилда имели ограниченную память, эта проблема была решена Хопфилдом и Дмитрием Кротовым в 2016 году. [33] [38] Сети Хопфилда с большим объемом памяти теперь известны как современные сети Хопфилда . [39]

Взгляды на искусственный интеллект

В марте 2023 года Хопфилд подписал открытое письмо под названием « Остановите гигантские эксперименты с искусственным интеллектом », призывая приостановить обучение систем искусственного интеллекта (ИИ), более мощных, чем GPT-4 . В письме, подписанном более чем 30 000 человек, включая исследователей ИИ Йошуа Бенджио и Стюарта Рассела , упоминались такие риски, как устаревание человека и потеря контроля в масштабах всего общества . [40] [41]

Получив совместную Нобелевскую премию по физике 2024 года, Хопфилд признался, что он очень расстроен недавними достижениями в области возможностей ИИ, и сказал: «Как физик, я очень расстроен чем-то, что не имеет контроля». [42] На последующей пресс-конференции в Принстонском университете Хопфилд сравнил ИИ с открытием ядерного деления , которое привело к созданию ядерного оружия и ядерной энергетики . [2]

Награды и почести

Церемония вручения премии Оливера Э. Бакли по физике конденсированного состояния в 1969 году. Луис Уолтер Альварес (слева) поздравляет Дэвида Гилберта Томаса (в центре) и Джона Хопфилда (справа).

Хопфилд получил исследовательскую стипендию Слоуна [43] в 1962 году, а как и его отец, он получил стипендию Гуггенхайма (1968). [44] Хопфилд был избран членом Американского физического общества (APS) в 1969 году, [45] [46] членом Национальной академии наук в 1973 году, членом Американской академии искусств и наук в 1975 году и членом Американского философского общества в 1988 году. [47] [48] [49] Он был президентом APS в 2006 году. [50]

В 1969 году Хопфилд и Дэвид Гилберт Томас были награждены премией Оливера Э. Бакли по физике конденсированного состояния Американским физическим обществом «за совместную работу, сочетающую теорию и эксперимент, которая продвинула понимание взаимодействия света с твердыми телами» [51] .

В 1983 году он был награжден премией MacArthur Foundational Prize от Программы стипендиатов MacArthur . [52] В 1985 году Хопфилд получил премию Golden Plate Award от Американской академии достижений [53] и премию Макса Дельбрюка по биофизике от Американского физико-технического общества. [9] В 1988 году он получил премию Майкельсона-Морли от Университета Кейс Вестерн Резерв . [54] В 1997 году Хопфилд получил премию Neural Networks Pioneer Award от Института инженеров по электротехнике и электронике (IEEE). [55]

В 2001 году он был награжден медалью Дирака Международного центра теоретической физики «за важный вклад в впечатляюще широкий спектр научных дисциплин» [56] [57], включая «совершенно иной [коллективный] организующий принцип в обонянии » и «новый принцип, в котором нейронная функция может использовать преимущества временной структуры «импульсной» межнейронной коммуникации» [57] .

Хопфилд получил премию Гарольда Пендера в 2002 году за достижения в области вычислительной нейронауки и нейронной инженерии от Школы электротехники Мура , Университета Пенсильвании . [58] Он получил Всемирную премию имени Альберта Эйнштейна в области науки в 2005 году в области наук о жизни. [59] В 2007 году он прочитал лекцию памяти Фрица Лондона в Университете Дьюка под названием «Как мы думаем так быстро? От нейронов до вычислений в мозге». [60] Хопфилд получил премию IEEE Фрэнка Розенблатта в 2009 году за вклад в понимание обработки информации в биологических системах. [61] В 2012 году он был награжден премией Шварца Обществом нейронауки . [62] В 2019 году он был награжден медалью Бенджамина Франклина по физике Институтом Франклина , [63] а в 2022 году он разделил медаль Больцмана по статистической физике с Дипаком Дхаром . [64]

Он был совместно с Джеффри Э. Хинтоном удостоен Нобелевской премии по физике 2024 года за «фундаментальные открытия и изобретения, которые делают возможным машинное обучение с использованием искусственных нейронных сетей». [65] [66]

Ссылки

  1. ^ abcdef "Hopfield, John J." Physics History Network Американский институт физики . Получено 8 октября 2024 г.
  2. ^ abcdefg Тейлор, ДБ; и др. (8 октября 2024 г.), «Нобелевская премия по физике присуждена за пионерские исследования в области искусственного интеллекта двумя учеными», The New York Times , архивировано из оригинала 8 октября 2024 г. , извлечено 8 октября 2024 г.
  3. ^ Crevier, Daniel (1993). AI: The Tumultuous Search for Artificial Intelligence . Нью-Йорк, Нью-Йорк: BasicBooks. ISBN 0-465-02997-3.
  4. ^ "Пресс-релиз: Нобелевская премия по физике 2024 года". NobelPrize.org . Архивировано из оригинала 8 октября 2024 года . Получено 8 октября 2024 года .
  5. ^ abc Линдси, Грейс (4 марта 2021 г.). Модели разума: как физика, инженерия и математика сформировали наше понимание мозга. Bloomsbury Publishing. ISBN 978-1-4729-6645-2. Архивировано из оригинала 8 октября 2024 г. . Получено 8 октября 2024 г. .
  6. ^ «Американские учёные: Биографический справочник». Science Press. 1966.
  7. ^ Джон Хопфилд (1958). Квантово-механическая теория вклада экситонов в комплексную диэлектрическую проницаемость кристаллов. ISBN 979-8-6578-5817-4. OCLC  63226906. Викиданные  Q130468423.
  8. ^ Ортон, Джон У. (11 декабря 2008 г.). История полупроводников. OUP Oxford. ISBN 978-0-19-156544-1.
  9. ^ ab "Американское физическое общество встречается в Балтиморе". Physics Today . 38 (3): 87–93. 1 марта 1985 г. Bibcode : 1985PhT....38c..87.. doi : 10.1063/1.2814495. ISSN  0031-9228.
  10. ^ ab Office of Communications (8 октября 2024 г.). «Джон Хопфилд из Принстона получает Нобелевскую премию по физике». Принстонский университет . Архивировано из оригинала 8 октября 2024 г. Получено 8 октября 2024 г.
  11. ^ "Жизнь и структура гемоглобина, Американский институт физики". Документальная история Лайнуса Полинга в штате Орего . 1976. Получено 9 октября 2024 г.
  12. ^ abc Привет, Энтони (8 марта 2018 г.). Фейнман и вычисления. CRC Press. ISBN 978-0-429-96900-3.
  13. ^ Хиллис, В. Дэниел (1 февраля 1989 г.). «Ричард Фейнман и машина связей». Physics Today . 42 (2): 78–83. Bibcode : 1989PhT....42b..78H. doi : 10.1063/1.881196. ISSN  0031-9228.
  14. ^ "Caltech отмечает 30-летие своей специальности Computation and Neural Systems Option | Caltech Alumni". Архивировано из оригинала 8 октября 2024 г. Получено 8 октября 2024 г.
  15. ^ «Некролог Джеральда Махана (1937–2021) - Нью-Йорк, штат Нью-Йорк - Орегонец» . Legacy.com . Проверено 13 октября 2024 г.
  16. ^ abcdef Джон Джозеф Хопфилд в проекте «Генеалогия математики»
  17. ^ Ли, Чжаопин (1990). Модель обонятельной луковицы и не только (кандидатская диссертация). Калифорнийский технологический институт.
  18. ↑ Хопфилд, Дж. Дж. (1 декабря 1958 г.). «Теория вклада экситонов в комплексную диэлектрическую постоянную кристаллов». Physical Review . 112 (5): 1555–1567. Bibcode : 1958PhRv..112.1555H. doi : 10.1103/PhysRev.112.1555. ISSN  0031-899X.
  19. ^ ab Агранович, Владимир М. (12 февраля 2009 г.). Возбуждения в органических твердых телах. OUP Oxford. ISBN 978-0-19-155291-5. Архивировано из оригинала 8 октября 2024 г. . Получено 8 октября 2024 г. .
  20. ^ Huttner, B.; Barnett, SM (1992). "Дисперсия и потери в диэлектрике Хопфилда". Europhysics Letters . 18 (6): 487. Bibcode : 1992EL.....18..487H. doi : 10.1209/0295-5075/18/6/003. ISSN  0295-5075. Архивировано из оригинала 8 октября 2024 г. Получено 8 октября 2024 г.
  21. ^ Рейнольдс, DC; Литтон, CW; Коллинз, TC (1965). «Некоторые оптические свойства полупроводников группы II-VI (I)». Physica Status Solidi (B) . 9 (3): 645–684. Bibcode : 1965PSSBR...9..645R. doi : 10.1002/pssb.19650090302. ISSN  0370-1972.
  22. ^ Зангвилл, Эндрю (8 января 2021 г.). Разум превыше материи: Филип Андерсон и физика очень многих. Oxford University Press. ISBN 978-0-19-264055-0.
  23. ^ Топп, Уильям К.; Хопфилд, Джон Дж. (15 февраля 1973 г.). «Химически мотивированный псевдопотенциал для натрия». Physical Review B. 7 ( 4): 1295–1303. Bibcode :1973PhRvB...7.1295T. doi :10.1103/PhysRevB.7.1295. ISSN  0556-2805.
  24. ^ Мартин, Ричард М. (27 августа 2020 г.). Электронная структура: базовая теория и практические методы. Cambridge University Press. ISBN 978-1-108-42990-0.
  25. ^ Маркс, Доминик; Хуттер, Юрг (30 апреля 2009 г.). Ab Initio Molecular Dynamics: Basic Theory and Advanced Methods. Cambridge University Press. ISBN 978-1-139-47719-2.
  26. ^ Хопфилд, Дж. Дж. (1974). «Кинетическая корректура: новый механизм уменьшения ошибок в биосинтетических процессах, требующих высокой специфичности». Труды Национальной академии наук . 71 (10): 4135–4139. Bibcode : 1974PNAS...71.4135H. doi : 10.1073/pnas.71.10.4135 . ISSN  0027-8424. PMC 434344. PMID 4530290  . 
  27. ^ Фливбьерг, Хенрик; Юлихер, Франк; Ормос, Пал; Дэвид, Франсуа (1 июля 2003 г.). Физика биомолекул и клеток: сессия LXXV в Ле Уше, 2–27 июля 2001 г. Springer Science & Business Media. ISBN 978-3-540-45701-5. Архивировано из оригинала 8 октября 2024 г. . Получено 8 октября 2024 г. .
  28. ^ Хопфилд, Дж. Дж. (апрель 1982 г.). «Нейронные сети и физические системы с возникающими коллективными вычислительными способностями». Труды Национальной академии наук Соединенных Штатов Америки . 79 (8): 2554–2558. Bibcode : 1982PNAS...79.2554H. doi : 10.1073/pnas.79.8.2554 . ISSN  0027-8424. PMC 346238. PMID 6953413  . 
  29. ^ Хопфилд, Дж. Дж. (1984). «Нейроны с градуированным ответом имеют коллективные вычислительные свойства, подобные свойствам двухстадийных нейронов». Труды Национальной академии наук Соединенных Штатов Америки . 81 (10): 3088–3092. Bibcode : 1984PNAS...81.3088H. doi : 10.1073/pnas.81.10.3088 . ISSN  0027-8424. PMC 345226. PMID 6587342  . 
  30. ^ Хопфилд, Джон Дж. (1 марта 2014 г.). «Что случилось с физикой твердого тела?». Annual Review of Condensed Matter Physics . 5 (1): 1–13. Bibcode : 2014ARCMP...5....1H. doi : 10.1146/annurev-conmatphys-031113-133924 . ISSN  1947-5454.
  31. ^ Хопфилд, Дж. Дж.; Танк, Д. В. (1 июля 1985 г.). ««Нейронное» вычисление решений в задачах оптимизации». Биологическая кибернетика . 52 (3): 141–152. doi :10.1007/BF00339943. ISSN  1432-0770. PMID  4027280. Архивировано из оригинала 8 октября 2024 г. . Получено 8 октября 2024 г. .
  32. ^ Хопфилд, Джон Дж.; Танк, Дэвид У. (8 августа 1986 г.). «Вычисления с помощью нейронных цепей: модель». Science . 233 (4764): 625–633. Bibcode :1986Sci...233..625H. doi :10.1126/science.3755256. ISSN  0036-8075. PMID  3755256. Архивировано из оригинала 14 апреля 2024 г. Получено 8 октября 2024 г.
  33. ^ ab Нобелевский комитет по физике (8 октября 2024 г.). "Научное обоснование Нобелевской премии по физике 2024 года" (PDF) . Королевская шведская академия наук . Архивировано (PDF) из оригинала 8 октября 2024 г. . Получено 8 октября 2024 г. .
  34. ^ Прюсснер, Гуннар (30 августа 2012 г.). Самоорганизованная критичность: теория, модели и характеристика. Cambridge University Press. ISBN 978-0-521-85335-4.
  35. ↑ Хопфилд, Джон Дж. (1 февраля 1994 г.). «Нейроны, динамика и вычисления». Physics Today . 47 (2): 40–46. Bibcode : 1994PhT....47b..40H. doi : 10.1063/1.881412. ISSN  0031-9228.
  36. ^ Хопфилд, Дж. Дж.; Герц, А. В. (18 июля 1995 г.). «Быстрая локальная синхронизация потенциалов действия: к вычислению с помощью связанных интегрирующих и активирующих нейронов». Труды Национальной академии наук . 92 (15): 6655–6662. Bibcode : 1995PNAS...92.6655H. doi : 10.1073/pnas.92.15.6655 . ISSN  0027-8424. PMC 41391. PMID 7624307  . 
  37. ^ Беггс, Джон (2007). «Нейрональная лавина». Scholarpedia . 2 (1): 1344. Bibcode : 2007SchpJ...2.1344B. doi : 10.4249/scholarpedia.1344 . ISSN  1941-6016.
  38. ^ Кротов, Дмитрий; Хопфилд, Джон Дж. (2016). «Плотная ассоциативная память для распознавания образов». Достижения в области нейронных систем обработки информации . 29. Curran Associates, Inc. arXiv : 1606.01164 . Архивировано из оригинала 19 июня 2024 г. Получено 8 октября 2024 г.
  39. ^ Кахана, Майкл Дж.; Вагнер, Энтони Д. (2024). Оксфордский справочник по человеческой памяти, двухтомный пакет: основы и приложения. Oxford University Press. ISBN 978-0-19-774614-1.
  40. ↑ Feathers, Todd (8 октября 2024 г.). «Нобелевская премия достается «крестным отцам ИИ», которые теперь опасаются, что их работа становится слишком мощной». Gizmodo . Получено 9 октября 2024 г.
  41. ^ "Pause Giant AI Experiments: An Open Letter". Future of Life Institute . Получено 9 октября 2024 г.
  42. ^ «Нобелевский лауреат Джон Хопфилд предупреждает о «катастрофе», если развитие ИИ не будет «контролироваться». Hindustan Times . 9 октября 2024 г.
  43. ^ "База данных стипендиатов | Фонд Альфреда П. Слоуна". sloan.org . Получено 10 октября 2024 г. .
  44. ^ "Джон Дж. Хопфилд – Мемориальный фонд Джона Саймона Гуггенхайма…" . Получено 10 октября 2024 г. .
  45. ^ "Получатели стипендии APS". Американское физическое общество .
  46. ^ Пресс-служба APS (8 октября 2024 г.). «Американское физическое общество поздравляет лауреатов Нобелевской премии по физике 2024 года».
  47. ^ "John J. Hopfield". www.nasonline.org . Архивировано из оригинала 24 марта 2019 г. . Получено 24 мая 2020 г. .
  48. ^ "Джон Джозеф Хопфилд". Американская академия искусств и наук . 12 октября 2023 г. Архивировано из оригинала 8 октября 2024 г. Получено 24 мая 2020 г.
  49. ^ "История члена APS". search.amphilsoc.org . Архивировано из оригинала 18 октября 2023 г. . Получено 24 мая 2020 г. .
  50. ^ "Джон Хопфилд, Массив современных физиков". Архивировано из оригинала 19 октября 2013 г. Получено 19 октября 2013 г.
  51. ^ "Почести и лауреаты премий". Американское физическое общество . Получено 8 октября 2024 г.
  52. ^ «Биологу присуждено 224 000 долларов — без налогов и каких-либо условий» (PDF) . CalTech News . 17 (5): 6. 5 октября 1983 г.
  53. ^ "Golden Plate Awardees of the American Academy of Achievement". Американская академия достижений . Архивировано из оригинала 15 декабря 2016 года . Получено 26 июня 2020 года .
  54. ^ "Случайная прогулка - Почести и награды". Инженерное дело и наука . Номер записи: CaltechES:51.3.0. 51 (3). CalTech: 43. Весна 1988.
  55. ^ "Прошлые получатели - IEEE Computational Intelligence Society". cis.ieee.org . Получено 10 октября 2024 г. .
  56. ^ "Dirac Medallist 2001 | ICTP". www.ictp.it . Архивировано из оригинала 8 октября 2024 г. Получено 20 октября 2023 г.
  57. ^ ab "Princeton Physicist Garners Dirac Medal". Physics Today . 54 (10): 85. 1 октября 2001 г. Bibcode : 2001PhT....54S..85.. doi : 10.1063/1.1420565 . ISSN  0031-9228. Архивировано из оригинала 8 октября 2024 г. Получено 8 октября 2024 г.
  58. ^ "Pender Lecture" . Получено 13 октября 2024 г. .
  59. ^ "Всемирная премия имени Альберта Эйнштейна в области науки 2005 года". Архивировано из оригинала 23 октября 2013 года . Получено 13 августа 2013 года .
  60. ^ "Лекция памяти Фрица Лондона | Физический факультет". physics.duke.edu . Получено 13 октября 2024 г. .
  61. ^ MacPherson, Kitta (8 мая 2009 г.). «Hopfield wins IEEE's Rosenblatt Award». Принстонский университет . Получено 10 октября 2024 г.
  62. ^ "Премия Шварца присуждена Джону Хопфилду за вклад в вычислительную нейронауку". Офис декана по исследованиям . Получено 10 октября 2024 г.
  63. ^ "Джон Дж. Хопфилд назван победителем медали Бенджамина Франклина 2019 года по физике - Новости IAS | Институт перспективных исследований". www.ias.edu . 10 декабря 2018 г. . Получено 9 октября 2024 г. .
  64. ^ "STATPHYS28". statphys28.org . Архивировано из оригинала 14 апреля 2024 г. Получено 8 октября 2024 г.
  65. ^ "Нобелевская премия по физике 2024 года". Nobel Media AB. Архивировано из оригинала 8 октября 2024 года . Получено 8 октября 2024 года .
  66. ↑ Нобелевская премия (8 октября 2024 г.). Объявление о присуждении Нобелевской премии по физике 2024 года. Архивировано из оригинала 8 октября 2024 г. Получено 8 октября 2024 г. – через YouTube.

Внешние ссылки

В Scholia есть профиль Джона Хопфилда (Q391237).