stringtranslate.com

Сеппо Линнаинмаа

Сеппо Илмари Линнаинмаа (родился 28 сентября 1945 г.) — финский математик и ученый-компьютерщик , известный созданием современной версии обратного распространения ошибки .

биография

Он родился в Пори . [1] В 1974 году он получил первую докторскую степень в области компьютерных наук в Хельсинкском университете . [2] В 1976 году он стал доцентом. С 1984 по 1985 год он был приглашенным профессором в Университете Мэриленда , США. С 1986 по 1989 год он был председателем Финского общества искусственного интеллекта. С 1989 по 2007 год он был профессором-исследователем в Центре технических исследований VTT Финляндии . Он вышел на пенсию в 2007 году.

Обратное распространение ошибки

Явное и эффективное обратное распространение ошибки в произвольных, дискретных, возможно, редко связанных нейронных сетях , подобных сетям, было впервые описано в магистерской диссертации Линнаинмаа 1970 года, [3] [4] , хотя и без ссылки на НС, [5], когда он представил обратный режим автоматическое дифференцирование (AD), чтобы эффективно вычислить производную дифференцируемой сложной функции , которая может быть представлена ​​в виде графика , путем рекурсивного применения правила цепочки к строительным блокам функции. [2] [3] [4] [6] Линнаинмаа опубликовал его первым, вслед за Джерарди Островски, который использовал его в контексте некоторых моделей процессов в химической технологии примерно пятью годами ранее, но не опубликовал.

С появлением более быстрых компьютеров этот метод стал широко использоваться во многих приложениях. Например, обратное распространение ошибок в многослойных перцептронах , метод, используемый в машинном обучении , является частным случаем обратного режима AD [ требуется дальнейшее объяснение ] .

Примечания

  1. ^ Эллонен, Лина, изд. (2008). Suomen Professorit 1640–2007 (на финском языке). Хельсинки: Professoriliitto. п. 405. ИСБН 978-952-99281-1-8.
  2. ^ Аб Гриванк, Андреас (2012). «Кто изобрел обратный способ дифференциации?» (PDF) . Documenta Matematica, Дополнительный том ISMP . стр. 389–400. S2CID  15568746.
  3. ^ аб Линнаинмаа, Сеппо (1970). Algoritmin kumulatiivinen pyöristysvirhe yksittäisten pyöristysvirheiden Taylor-kehitelmänä [ Представление кумулятивной ошибки округления алгоритма как разложение Тейлора локальных ошибок округления ] (PDF) (Диссертация) (на финском языке). стр. 6–7.
  4. ^ аб Линнаинмаа, Сеппо (1976). «Разложение Тейлора накопленной ошибки округления». БИТ Численная математика . 16 (2): 146–160. дои : 10.1007/BF01931367. S2CID  122357351.
  5. ^ Юрген Шмидхубер, (2015). Кто изобрел обратное распространение ошибки?
  6. ^ Гриванк, Андреас и Вальтер, А. Принципы и методы алгоритмического дифференцирования, второе издание. СИАМ, 2008 г. [ нужна страница ]

Внешние ссылки