stringtranslate.com

Торстен Хёфлер

Торстен Хёфлер — профессор компьютерных наук в ETH Zurich [8] и главный архитектор машинного обучения в Швейцарском национальном суперкомпьютерном центре . [9] Ранее он возглавлял группу поддержки расширенных приложений и пользователей в Blue Waters Directorate Национального центра суперкомпьютерных приложений , [10] и занимал должность внештатного профессора на кафедре компьютерных наук в Университете Иллинойса в Урбана-Шампейн . [11] Его экспертиза заключается в крупномасштабных параллельных вычислениях и высокопроизводительных вычислительных системах. Он фокусируется на приложениях в крупномасштабном искусственном интеллекте, а также на климатических науках.

Хёфлер является членом IEEE [12] , членом ACM [13] и членом Европейской академии наук Academia Europaea [14] . Его число Эрдёша равно двум [15] .

Его приглашали выступить с несколькими основными докладами на крупных международных конференциях, таких как ACM's Federated Computing Research Conference , [16] IEEE Cluster, [17] HPC Asia, Supercomputing Asia, [18] или Международный симпозиум по распределенным вычислениям . [19]

Карьера

Хефлер получил диплом по информатике в Техническом университете Хемница , где он получил награду лучшего студента в 2005 году. [20] Он работал над высокопроизводительными вычислительными системами с самого начала своей карьеры. Он продолжил свое обучение в Университете Индианы , на родине Open MPI , под руководством профессора Эндрю Ламсдейна. Он получил докторскую степень по информатике в 2008 году в Университете Индианы и впоследствии был удостоен премии Young Alumni Award [21], а также премии Distinguished Alumni Award [22].

Он продолжил работу над стандартом интерфейса передачи сообщений в качестве ключевого члена форума MPI [23], отвечая за главы по коллективной коммуникации и топологии процессов, а также являясь соавтором главы по односторонним коммуникациям. [24]

В 2010 году он присоединился к Национальному центру суперкомпьютерных приложений в Университете Иллинойса в Урбане-Шампейне (UIUC). В качестве руководителя по анализу производительности приложений и поддержке он поддерживал проектирование и развертывание суперкомпьютера Blue Waters . [10] Он также занимал должность адъюнкт-профессора на кафедре компьютерных наук UIUC . Он принял должность доцента в ETH Zurich в 2011 году, [25] где он получил постоянную должность в 2017 году, [26] и является полным профессором с 2020 года. [27]

Хефлер занимал различные должности приглашенного исследователя во Французской комиссии по альтернативным источникам энергии и атомной энергии во Франции , CINECA в Италии , а также в Аргоннской национальной лаборатории , Сандийской национальной лаборатории и Microsoft в Соединенных Штатах. [11] В качестве консультанта он поддерживал Cray Inc. в области высокопроизводительных сетей и Microsoft Corporation в областях квантовых вычислений и крупномасштабных систем искусственного интеллекта . Он провел свой творческий отпуск в 2019 году в Microsoft, помогая создавать различные суперкомпьютерные проекты ИИ, включая систему Maia 100. [28] [29] [30]

Хёфлер был избранным членом исполнительного комитета ACM SIGHPC с момента его основания в 2011 году. [31]

Он был избран членом IEEE за «вклад в крупномасштабные параллельные вычислительные системы и суперкомпьютеры» [12] , членом ACM за «основополагающий вклад в высокопроизводительные вычисления и применение методов HPC в машинном обучении» [13] , а в 2022 году он получил премию IEEE Сидни Фернбаха за «ориентированную на приложения разработку алгоритмов, систем и архитектур HPC и преобразующее влияние на научные вычисления и промышленность» [3] .

Хефлер получил первую премию Джека Донгарры на конференции ISC High Performance Conference в 2023 году. [32] [33] [34] Он был назначен старшим научным сотрудником Abu Dhabi Investment Authority Labs в 2023 году. [35] [36]

Влияние исследования

Хёфлер известен своим вкладом в стандарт интерфейса передачи сообщений (MPI). Он был автором глав «Коллективная коммуникация» и «Топологии процессов» в MPI-2.2 [1] и глав «Коллективная коммуникация», «Односторонняя коммуникация» и «Топологии процессов» в MPI-3 [2]. Для стандартизации MPI-3 он возглавлял рабочие группы по коллективным коммуникациям и топологии . [37]

Он разработал принципы реализации неблокируемых коллективных операций и удаленного доступа к памяти, которые широко используются в реализациях MPI, таких как OpenMPI , MPICH и производных. [38] Неблокируемые коллективные операции, такие как allreduce, allgather или broadcast, составляют основу современных систем обучения ИИ. [39]

После соавторства в новаторской статье о параллельном глубоком обучении [40] и во время своего отпуска в Microsoft он ввел термин «3D-параллелизм» в современное обучение искусственному интеллекту , который организует параллелизм данных , конвейерный параллелизм и операторно-тензорный параллелизм в единое последовательное представление. [41]

В своей работе над высокоскоростными соединениями он стал соавтором нескольких отмеченных наградами сетевых топологий [41] [42] [43] и внес вклад в алгоритмы маршрутизации, которые используются в диспетчере маршрутизации OpenSM на компьютерных кластерах InfiniBand . [44]

Что касается приложений, Хёфлер фокусируется на улучшении производительности климатических симуляций в качестве цифрового двойника [45] [46] [47] и машинного обучения для климатических симуляций. [48] Он был организатором Берлинского саммита по двигателям виртуализации Земли [49] для разработки стратегий, обеспечивающих глобальный доступ к климатическим симуляциям высокого разрешения. [50] [51]

Научная воспроизводимость

Хефлер открыто высказывался об улучшении воспроизводимости измерений производительности в высокопроизводительных вычислениях [52] и позднее в машинном обучении . Последнее было представлено в IEEE Computer Journal в качестве обложки статьи о воспроизводимости исследований. [53] В качестве председателя технических статей конференции ACM/IEEE по суперкомпьютерам (SC18) он представил новый процесс рецензирования на основе пересмотра для улучшения качества публикаций. [54] Его группа получила сертификат SIGHPC Appreciation за воспроизводимые методы на студенческом кластерном конкурсе ACM на конференции ACM/IEEE по суперкомпьютерам (SC22). [55] Его статья о HammingMesh получила премию ACM/IEEE по суперкомпьютерам (SC22) за лучшую воспроизводимость. [56] [55] Он также представил вступительный доклад на первой конференции ACM по воспроизводимости и воспроизводимости. [57]

Награды и почести

Хефлер и его команда получили шесть наград за лучшую (студенческую) работу на конференции ACM/IEEE Supercomputing Conference в период с 2010 по 2023 год, [58] [59] [60] [61] ведущей конференции по высокопроизводительным вычислениям . Дополнительные важные награды перечислены ниже.

2024

2023

2022

2021

2020

2019

2015

2014

2013

2012

Ссылки

  1. ^ ab "Награды по всему миру: ИИ в математике, микроскопии и климатических исследованиях". www.acm.org . Получено 30 сентября 2024 г. .
  2. ^ «Глобальная вычислительная ассоциация назвала 57 стипендиатов за выдающийся вклад в развитие современных технологий». www.acm.org . Получено 17 февраля 2023 г.
  3. ^ abc "Torsten Hoefler Receives IEEE CS Sidney Fernbach Award 2022". 3 октября 2022 г. Получено 17 февраля 2023 г.
  4. ^ "2022 NEWLY ELEVATED FELLOWS" (PDF) . Институт инженеров по электротехнике и электронике (IEEE) . Архивировано из оригинала (PDF) 24 ноября 2021 г.
  5. ^ ab "Адриан Перриг и Торстен Хёфлер названы стипендиатами IEEE". inf.ethz.ch . 7 января 2022 г. Получено 17 февраля 2023 г.
  6. ^ "ACM называет имена лауреатов премии Гордона Белла 2019 года". www.acm.org . Получено 17 февраля 2023 г. .
  7. ^ ab "Превращение жизни в профессию". ethz.ch . 16 ноября 2015 г. Получено 17 февраля 2023 г.
  8. ^ "Профессор доктор Торстен Хёфлер" . Кафедра информатики. inf.ethz.ch. ​Цюрих, Швейцария: ETH Zürich . Проверено 22 июня 2023 г.
  9. ^ «Профессор ETH Торстен Хёфлер присоединяется к CSCS в качестве главного архитектора машинного обучения».
  10. ^ ab "Сотрудники и партнеры Blue Waters привозят домой награды из SC10". NCSA . 24 ноября 2010 г. Получено 17 февраля 2023 г.
  11. ^ ab "Резюме Торстена Хёфлера" (PDF) .
  12. ^ ab "2022 Newly Elevated Fellows" (PDF) . Институт инженеров по электротехнике и электронике (IEEE) . Архивировано из оригинала (PDF) 24 ноября 2021 г.
  13. ^ abc "Глобальная вычислительная ассоциация назвала 57 стипендиатов за выдающийся вклад в развитие современных технологий". www.acm.org . Получено 22 июня 2023 г.
  14. ^ "Академия Европы: Хёфлер Торстен". www.ae-info.org . Получено 22 июня 2023 г. .
  15. ^ "Erdos2, Версия 2020, 7 августа 2020 г.". sites.google.com . Получено 11 февраля 2024 г. .
  16. ^ "Plenary Speakers". fcrc.acm.org . Получено 22 июня 2023 г. .
  17. ^ "IEEE Cluster 2016". clustercomp.org . Получено 22 июня 2023 г. .
  18. ^ "Основные докладчики". 10 августа 2019 г. Получено 11 февраля 2024 г.
  19. ^ "Основные доклады | Международный симпозиум по распределенным вычислениям (DISC) 2020" . Получено 22 июня 2023 г. .
  20. ^ "Leistung, die sich auszahlt" . www.tu-chemnitz.de . Проверено 22 июня 2023 г.
  21. ^ "Torsten Hoefler: University Honors and Awards: Indiana University". University Honors & Awards . Получено 22 июня 2023 г. .
  22. ^ "Школа Ладди чествует победителей премии выпускников 2023 года". Архив новостей IU . Получено 6 ноября 2023 г.
  23. ^ "Форум MPI". www.mpi-forum.org . Получено 22 июня 2023 г. .
  24. ^ «Спецификация MPI 3.1» (PDF) .
  25. ^ "16 новых профессоров в ETH Zurich". www.ethlife.ethz.ch . Получено 22 июня 2023 г. .
  26. ^ "18 профессоров назначены в ETH Zurich и EPFL". www.admin.ch . Получено 17 февраля 2023 г. .
  27. ^ "11 новых профессоров назначены в ETH Zurich и EPFL". www.admin.ch . Получено 22 июня 2023 г. .
  28. ^ US 11076210, Хефлер, Торстен; Хеддес, Маттеус К. и Белк, Джонатан Р., «Архитектура распределенной обработки», опубликовано 27 июля 2021 г., передано Microsoft Technology Licensing LLC 
  29. ^ US 11886938, Goel, Deepak; Heddes, Mattheus C. & Hoefler, Torsten et al., «Обмен сообщениями между интегрированными вычислительными устройствами», опубликовано 11.03.2021, передано Microsoft Technology Licensing LLC 
  30. ^ «Используя системный подход к чипам, Microsoft стремится адаптировать все «от кремния до сервиса» для удовлетворения спроса на ИИ» . Получено 11 февраля 2024 г.
  31. ^ «Удовлетворение ваших потребностей — Исполнительный комитет». www.sighpc.org . Получено 22 июня 2023 г. .
  32. ^ ab "Torsten Hoefler Earns First Jack Dongarra Early Career Award". HPCwire . Получено 22 июня 2023 г. .
  33. ^ ab "Торстен Хёфлер получает первую премию Джека Донгарры за раннюю карьеру - Добро пожаловать на ISC High Performance 2023". www.isc-hpc.com . Получено 22 июня 2023 г.
  34. ^ ab "Торстен Хёфлер назван первым победителем премии Джека Донгарры за раннюю карьеру". 17 апреля 2023 г. Получено 22 июня 2023 г.
  35. ^ "ADIA Lab назначает старших научных сотрудников" . Получено 15 февраля 2024 г. .
  36. ^ "Fellows" . Получено 15 февраля 2024 г. .
  37. ^ "MPI 3.0 Collective Communications and Topology Working Group" . Получено 8 ноября 2023 г. .
  38. ^ "Реализация и анализ производительности неблокируемых коллективных операций для MPI" . Получено 8 ноября 2023 г. .
  39. ^ "Улучшение производительности NCCL для облачных приложений машинного обучения" . Получено 8 ноября 2023 г. .
  40. ^ Бен-Нун, Тал; Хёфлер, Торстен (30 августа 2019 г.). «Демистификация параллельного и распределенного глубокого обучения: углубленный анализ параллелизма». ACM Comput. Surv . 52 (4): 65:1–65:43. doi :10.1145/3320060. S2CID  220247313. Получено 8 ноября 2023 г.
  41. ^ ab "HammingMesh: сетевая топология для крупномасштабного глубокого обучения". 18 ноября 2022 г. стр. 1–18 . Получено 8 ноября 2023 г.
  42. ^ Besta, Maciej; Hoefler, Torsten (2014). «Slim Fly: рентабельная топология сети с малым диаметром». SC14: Международная конференция по высокопроизводительным вычислениям, сетям, хранению и анализу . стр. 348–359. arXiv : 1912.08968 . doi :10.1109/SC.2014.34. ISBN 978-1-4799-5500-8. S2CID  2149630 . Получено 8 ноября 2023 г. .
  43. ^ Аримилли, Баба; Аримилли, Рави; Чунг, Висенте; Кларк, Скотт; Дензел, Вольфган; Дреруп, Бен; Хефлер, Торстен; Джойнер, Джоди; Льюис, Джерри; Ли, Цзянь; Ни, Нан; Раджамони, Рам (2010). «Высокопроизводительное межсоединение PERCS». 18-й симпозиум IEEE по высокопроизводительным межсоединениям 2010 г. стр. 75–82. doi :10.1109/HOTI.2010.16. ISBN 978-1-4244-8547-5. S2CID  16627945 . Получено 8 ноября 2023 г. .
  44. ^ Хёфлер, Торстен; Шнайдер, Тимо; Ламсдайн, Эндрю (2009). «Оптимизированная маршрутизация для крупномасштабных сетей InfiniBand». 17-й симпозиум IEEE по высокопроизводительным межсоединениям 2009 г. С. 103–111. doi :10.1109/HOTI.2009.9. S2CID  12742852 . Получено 8 ноября 2023 г.
  45. ^ "Моделирование климата с разрешением конвекции на будущих суперкомпьютерных платформах (crCLIM)" . Получено 8 ноября 2023 г. .
  46. ^ «Ученые начинают создание высокоточного цифрового двойника нашей планеты». 23 февраля 2021 г. Получено 8 ноября 2023 г.
  47. ^ Бауэр, Питер; Дюбен, Питер Д.; Хёфлер, Торстен; Квинтино, Тиаго; Шультесс, Томас К.; Веди, Нильс П. (2021). «Цифровая революция в науке о системе Земли». Nature Computational Science . 1 (2): 104–113. doi :10.1038/s43588-021-00023-0 . Получено 8 ноября 2023 г. .
  48. ^ Бауэр, Питер; Дьюбен, Питер; Чантри, Мэтью; Доблас-Рейес, Франциско; Хёфлер, Торстен; Макговерн, Эми ; Стивенс, Бьорн (2023). «Глубокое обучение и меняющаяся экономика в прогнозировании погоды и климата». Nature Reviews Earth & Environment . 4 (8): 507–509. Bibcode : 2023NRvEE...4..507B. doi : 10.1038/s43017-023-00468-z . Получено 8 ноября 2023 г.
  49. ^ "Участники" . Получено 8 ноября 2023 г.
  50. ^ Стивенс, Бьорн и др. (2024). «Earth Virtualization Engines (EVE)». Earth System Science Data . 16 (4): 2113–2122. Bibcode : 2024ESSD...16.2113S. doi : 10.5194/essd-16-2113-2024 . hdl : 20.500.11850/671027 . Получено 8 ноября 2023 г.
  51. ^ "Earth Virtualization Engines: A Technical Perspective" . Получено 8 ноября 2023 г. .
  52. ^ «Научный бенчмаркинг параллельных вычислительных систем: двенадцать способов рассказать массам о результатах производительности». doi :10.1145/2807591.2807644. S2CID  165618. Получено 8 ноября 2023 г.
  53. ^ Хёфлер, Торстен (2022). «Бенчмаркинг науки о данных: 12 способов лгать со статистикой и производительностью на параллельных компьютерах». Компьютер . 55 (8): 49–56. doi :10.1109/MC.2022.3152681. S2CID  251294669 . Получено 8 ноября 2023 г. .
  54. ^ "Подача заявок на участие в SC18 открывается сегодня с новым процессом рецензирования". Март 2018 г. Получено 8 ноября 2023 г.
  55. ^ ab "Поздравляем всех лауреатов SC и Society этого года" . Получено 8 ноября 2023 г.
  56. ^ "Выпускник Ладди получает престижную награду за вклад в высокопроизводительные вычисления" . Получено 8 ноября 2023 г.
  57. ^ "Избранные докладчики". 31 марта 2023 г. Получено 8 ноября 2023 г.
  58. ^ "Сотрудники и партнеры Blue Waters привозят домой награды из SC10". 24 ноября 2010 г. Получено 11 февраля 2024 г.
  59. ^ "SC13 завершился вручением наград за выдающиеся достижения в области высокопроизводительных вычислений" . Получено 11 февраля 2024 г. .
  60. ^ "Supercomputing 2014 Recognizes Outstanding Achievements in HPC" . Получено 11 февраля 2024 г. .
  61. ^ "Поздравляем победителей SC и Society Awards за SC19 в Денвере". 25 ноября 2019 г. Получено 11 февраля 2024 г.
  62. ^ "Luddy alum получает престижную награду за вклад в высокопроизводительные вычисления". Luddy alum получает престижную награду за вклад в высокопроизводительные вычисления . Получено 17 февраля 2023 г.
  63. ^ "HPCwire представляет номинантов на премию People to Watch Feature 2021". HPCwire . Получено 17 февраля 2023 г.
  64. ^ «Гранты консолидации ERC 2020» (PDF) .
  65. ^ "Ольга Соркин-Хорнунг и Торстен Хёфлер получают 2 гранта ERC Consolidator". inf.ethz.ch . Получено 17 февраля 2023 г. .
  66. ^ "Torsten Hoefler receives BenchCouncil Rising Star Award". inf.ethz.ch . 18 ноября 2020 г. Получено 17 февраля 2023 г.
  67. ^ "ACM называет имена лауреатов премии Гордона Белла 2019 года". www.acm.org . Получено 17 февраля 2023 г. .
  68. ^ "Middle Award". www.ieee-tcsc.org . Получено 17 февраля 2023 г. .
  69. ^ "ERC Starting Grants 2015" (PDF) .
  70. ^ "Torsten Hoefler: University Honors and Awards: Indiana University". University Honors & Awards . Получено 17 февраля 2023 г. .
  71. ^ "Torsten Hoefler | IEEE Computer Society". 3 октября 2022 г. Получено 17 февраля 2023 г.
  72. ^ "Лауреаты премии факультета 2013 года" (PDF) . Получено 22 июня 2023 г. .
  73. ^ Блэк, Дуг (21 февраля 2012 г.). «Торстен Хёфлер выигрывает премию SIAG/Supercomputing Junior Scientist Prize 2012». Анализ новостей о высокопроизводительных вычислениях | insideHPC . Получено 17 февраля 2023 г.