Хьюберт Дрейфус был критиком исследований искусственного интеллекта . В серии статей и книг, включая «Алхимия и ИИ» (1965), «Что компьютеры не могут сделать» (1972; 1979; 1992) и «Разум над машиной» (1986), он представил пессимистическую оценку прогресса ИИ и критику философских основ этой области. Возражения Дрейфуса обсуждаются в большинстве введений в философию искусственного интеллекта , включая Russell & Norvig (2021), стандартный учебник по ИИ, и в Fearn (2007), обзор современной философии. [1]
Дрейфус утверждал, что человеческий интеллект и экспертность зависят в первую очередь от бессознательных процессов, а не от сознательной символической манипуляции, и что эти бессознательные навыки никогда не могут быть полностью отражены в формальных правилах. Его критика основывалась на идеях современных континентальных философов, таких как Мерло-Понти и Хайдеггер , и была направлена на первую волну исследований ИИ, которые использовали формальные символы высокого уровня для представления реальности и пытались свести интеллект к манипуляции символами.
Когда идеи Дрейфуса впервые были представлены в середине 1960-х годов, они были встречены насмешками и открытой враждебностью. [2] [3] Однако к 1980-м годам многие из его перспектив были заново открыты исследователями, работающими в области робототехники и новой области коннекционизма — подходов, которые теперь называются « субсимволическими », поскольку они избегают акцента ранних исследований ИИ на высокоуровневых символах. В 21 веке статистические подходы к машинному обучению имитируют способ, которым мозг использует бессознательные процессы для восприятия, обнаружения аномалий и принятия быстрых решений. Эти методы весьма успешны и в настоящее время широко используются как в промышленности, так и в академических кругах. Историк и исследователь ИИ Дэниел Кревье пишет: «Время доказало точность и проницательность некоторых комментариев Дрейфуса». [4] В 2007 году Дрейфус сказал: «Я думаю, что я победил, и все кончено — они сдались». [5]
В работах «Алхимия и ИИ» (1965) и «Что компьютеры не могут сделать» (1972) Дрейфус подвел итог истории искусственного интеллекта и высмеял необузданный оптимизм, который пронизывал эту область. Например, Герберт А. Саймон , после успеха своей программы «Общий решатель проблем» (1957), предсказал, что к 1967 году: [6]
Пресса освещала эти прогнозы в восторженных репортажах о скором появлении машинного интеллекта.
Дрейфус считал, что этот оптимизм был необоснованным и основывался на ложных предположениях о природе человеческого интеллекта. Памела МакКордак объясняет позицию Дрейфуса:
Глубокое недопонимание является причиной общественного замешательства относительно мыслящих машин, недопонимания, вызванного нереалистичными заявлениями исследователей в области искусственного интеллекта, заявлениями о том, что мыслящие машины уже существуют или, по крайней мере, вот-вот появятся. [7]
Эти предсказания основывались на успехе модели «обработки информации» разума, сформулированной Ньюэллом и Саймоном в их гипотезе физических символьных систем , и позднее расширенной до философской позиции, известной как вычислительный мир , такими философами, как Джерри Фодор и Хилари Патнэм . [8] Веря в то, что они успешно смоделировали основной процесс человеческого мышления с помощью простых программ, казалось, что до создания полностью интеллектуальных машин остался всего один шаг. Однако Дрейфус утверждал, что философия, особенно философия 20-го века , обнаружила серьезные проблемы с этой точкой зрения на обработку информации. Разум, согласно современной философии, не имеет ничего общего с цифровым компьютером. [7]
В работах «Алхимия и ИИ» и «Чего не могут компьютеры » Дрейфус выделил четыре философских предположения, которые поддерживали веру ранних исследователей ИИ в то, что человеческий интеллект зависит от манипулирования символами. [9] «В каждом случае», пишет Дрейфус, «предположение принимается работниками [ИИ] как аксиома, гарантирующая результаты, тогда как на самом деле это всего лишь одна из гипотез, которая должна быть проверена успехом такой работы». [10]
На заре исследований в области неврологии ученые поняли, что нейроны срабатывают импульсами «все или ничего». Несколько исследователей, таких как Уолтер Питтс и Уоррен Маккалок , утверждали, что нейроны функционируют аналогично тому, как работают булевы логические вентили, и поэтому их можно имитировать с помощью электронных схем на уровне нейрона. [11] Когда в начале 50-х годов цифровые компьютеры стали широко использоваться, этот аргумент был расширен, чтобы предположить, что мозг представляет собой обширную физическую систему символов , манипулирующую двоичными символами нуля и единицы. Дрейфус смог опровергнуть биологическое предположение, сославшись на исследования в области неврологии , которые предполагали, что действие и время срабатывания нейронов имеют аналоговые компоненты. [12] Но Дэниел Кревье замечает, что «мало кто еще придерживался этого убеждения в начале 1970-х годов, и никто не спорил с Дрейфусом» относительно биологического предположения. [13]
Он опроверг это предположение, показав, что многое из того, что мы «знаем» о мире, состоит из сложных установок или тенденций , которые заставляют нас склоняться к одной интерпретации вместо другой. Он утверждал, что даже когда мы используем явные символы, мы используем их на бессознательном фоне здравого смысла и что без этого фона наши символы перестают что-либо значить. Этот фон, по мнению Дрейфуса, не был реализован в индивидуальных мозгах как явные индивидуальные символы с явными индивидуальными значениями.
Это касается философского вопроса эпистемологии или изучения знания . Даже если мы согласимся, что психологическое предположение ложно, исследователи ИИ все равно могли бы утверждать (как это сделал основатель ИИ Джон Маккарти ), что машина для обработки символов может представлять все знания, независимо от того, представляют ли люди знания таким же образом. Дрейфус утверждал, что нет никаких оснований для такого предположения, поскольку большая часть человеческого знания не является символической.
Дрейфус также выявил более тонкое предположение о мире. Исследователи ИИ (а также футуристы и писатели-фантасты) часто предполагают, что нет предела формальному научному знанию, потому что они предполагают, что любое явление во вселенной может быть описано символами или научными теориями. Это предполагает, что все существующее может быть понято как объекты, свойства объектов, классы объектов, отношения объектов и так далее: именно те вещи, которые могут быть описаны логикой, языком и математикой. Изучение бытия или существования называется онтологией , и поэтому Дрейфус называет это онтологическим предположением. Если это ложно, то это вызывает сомнения относительно того, что мы в конечном итоге можем знать и что в конечном итоге смогут помочь нам сделать интеллектуальные машины.
В работе Mind Over Machine (1986), написанной в период расцвета экспертных систем , Дрейфус проанализировал разницу между человеческим опытом и программами, которые претендовали на его захват. Это расширило идеи из What Computers Can't Do , где он высказал похожий аргумент, критикуя школу « когнитивного моделирования » в исследованиях ИИ, практикуемую Алленом Ньюэллом и Гербертом А. Саймоном в 1960-х годах.
Дрейфус утверждал, что человеческое решение проблем и экспертиза зависят от нашего фонового чувства контекста, того, что важно и интересно в данной ситуации, а не от процесса поиска комбинаций возможностей, чтобы найти то, что нам нужно. Дрейфус описал это в 1986 году как разницу между «знанием того» и «знанием как», основанную на различии Хайдеггера между наличным и готовым к использованию . [14]
Знание-что - это наши сознательные, пошаговые способности решения проблем. Мы используем эти навыки, когда сталкиваемся со сложной проблемой, которая требует от нас остановиться, сделать шаг назад и перебрать идеи по одной. В такие моменты идеи становятся очень точными и простыми: они становятся контекстно-свободными символами, которыми мы манипулируем с помощью логики и языка. Это навыки, которые Ньюэлл и Саймон продемонстрировали как с помощью психологических экспериментов, так и с помощью компьютерных программ. Дрейфус согласился, что их программы адекватно имитируют навыки, которые он называет «знание-что».
С другой стороны, знание-как — это то, как мы обычно справляемся с вещами. Мы совершаем действия, вообще не используя сознательное символическое рассуждение, например, когда мы узнаем лицо, едем на работу или находим правильные слова. Мы, кажется, просто переходим к подходящему ответу, не рассматривая никаких альтернатив. В этом суть экспертности, утверждал Дрейфус: когда наша интуиция натренирована до такой степени, что мы забываем правила и просто «оцениваем ситуацию» и реагируем.
Человеческое восприятие ситуации, по Дрейфусу, основано на наших целях, наших телах и нашей культуре — всех наших бессознательных интуициях, установках и знаниях о мире. Этот «контекст» или «фон» (связанный с Dasein Хайдеггера ) — это форма знания, которая хранится в нашем мозгу не символически, а интуитивно. Он влияет на то , что мы замечаем и что не замечаем, чего ожидаем и какие возможности не рассматриваем: мы различаем существенное и несущественное. Несущественные вещи отнесены к нашему «пограничному сознанию» (заимствуя фразу у Уильяма Джеймса ): миллионы вещей, которые мы осознаем, но о которых на самом деле не думаем прямо сейчас.
Дрейфус не верит, что программы ИИ, как они были реализованы в 70-х и 80-х годах, могли бы захватить этот «фон» или выполнить тот тип быстрого решения проблем, который он позволяет. Он утверждал, что наше бессознательное знание никогда не может быть захвачено символически. Если ИИ не сможет найти способ решения этих проблем, то он будет обречен на провал, упражнение в «лазании по дереву с глазами на луне». [15]
Дрейфус начал формулировать свою критику в начале 1960-х годов, когда он был профессором Массачусетского технологического института , тогдашнего очага исследований искусственного интеллекта. Его первая публикация на эту тему — возражение на полстраницы на доклад Герберта А. Саймона, сделанный весной 1961 года. [16] Дрейфуса, как философа, особенно беспокоило то, что исследователи ИИ, похоже, считали, что они находятся на грани решения многих давних философских проблем в течение нескольких лет, используя компьютеры.
В 1965 году Дрейфус был нанят (с помощью своего брата Стюарта Дрейфуса ) Полом Армером, чтобы провести лето в здании RAND Corporation в Санта-Монике, где он напишет «Алхимию и искусственный интеллект», первый залп его атаки. Армер думал, что нанимает беспристрастного критика, и был удивлен, когда Дрейфус выпустил уничтожающую статью, призванную разрушить основы этой области. (Армер заявил, что не знал о предыдущей публикации Дрейфуса.) Армер отложил ее публикацию, но в конечном итоге понял, что «только потому, что она пришла к выводу, который вам не понравился, это не причина не публиковать ее». [17] В конце концов она вышла как RAND Memo и вскоре стала бестселлером. [18]
В статье откровенно высмеивались исследования в области ИИ, сравнивая их с алхимией : ошибочной попыткой превратить металлы в золото, основанной на теоретической основе, которая была не более чем мифологией и желаемым за действительное. [19] В ней высмеивались грандиозные предсказания ведущих исследователей ИИ, предсказывая, что существуют пределы, за которыми ИИ не будет развиваться, и намекая, что эти пределы будут скоро достигнуты. [20]
По словам Памелы МакКордак, статья «вызвала бурю негодования». [21] Реакция сообщества ИИ была насмешливой и личной. Сеймур Пейперт отклонил треть статьи как «сплетни» и заявил, что каждая цитата была намеренно вырвана из контекста. [22] Герберт А. Саймон обвинил Дрейфуса в игре в «политику», чтобы он мог прикрепить престижное имя RAND к своим идеям. Саймон сказал: «Что меня возмущает, так это то, что имя RAND прикрепили к этому мусору». [23]
Дрейфус, преподававший в Массачусетском технологическом институте , вспоминает, что его коллеги, работавшие в области ИИ, «не осмеливались обедать со мной». [24] Джозеф Вайценбаум , автор ELIZA , считал, что отношение его коллег к Дрейфусу было непрофессиональным и ребяческим. Хотя он был откровенным критиком позиций Дрейфуса, он вспоминает: «Я стал единственным членом сообщества ИИ, которого видели обедающим с Дрейфусом. И я намеренно дал понять, что их способ обращения с человеком не подходит». [25]
Статья была темой короткой статьи в журнале The New Yorker от 11 июня 1966 года. В статье упоминалось утверждение Дрейфуса о том, что, хотя компьютеры могут играть в шашки, ни один компьютер пока не может играть в шахматы. В ней с ироничным юмором (как у Дрейфуса) сообщалось о победе десятилетнего ребенка над ведущей шахматной программой, с «даже большим, чем обычно, самодовольством». [20]
В надежде восстановить репутацию ИИ, Сеймур Паперт организовал шахматный матч между Дрейфусом и программой Mac Hack Ричарда Гринблатта . Дрейфус проиграл, к большому удовлетворению Паперта. [26] В бюллетене Ассоциации вычислительной техники [27] был использован заголовок:
Дрейфус жаловался в печати, что он не сказал, что компьютер никогда не будет играть в шахматы, на что Герберт А. Саймон ответил: «Вы должны признать, что некоторые из тех, кого укусила ваша острая проза, вероятно, в силу своей человеческой слабости укусят в ответ... могу ли я быть столь смелым, чтобы предположить, что вы вполне могли бы начать остывать — восстановление вашего чувства юмора было бы хорошим первым шагом» [29] .
К началу 1990-х годов некоторые радикальные взгляды Дрейфуса стали общепринятыми.
Неудачные предсказания . Как и предвидел Дрейфус, грандиозные предсказания ранних исследователей ИИ не сбылись. Полностью интеллектуальные машины (теперь известные как « сильный ИИ ») не появились в середине 1970-х годов, как предсказывалось. HAL 9000 (чьи возможности для естественного языка, восприятия и решения проблем были основаны на советах и мнениях Марвина Мински ) не появился в 2001 году. «Исследователям ИИ», пишет Николас Фирн, «очевидно, нужно кое-что объяснить». [30] Сегодня исследователи гораздо менее охотно делают такие прогнозы, которые делались в ранние дни. (Хотя некоторые футуристы, такие как Рэй Курцвейл , все еще склонны к такому же оптимизму.)
Биологическое предположение , хотя и распространенное в сороковых и начале пятидесятых годов, уже не принималось большинством исследователей ИИ к тому времени, когда Дрейфус опубликовал книгу « Чего не могут компьютеры» . [13] Хотя многие по-прежнему утверждают, что важно провести обратную разработку мозга, симулируя действие нейронов (например, Рэй Курцвейл [31] или Джефф Хокинс [32] ), они не предполагают, что нейроны по сути своей цифровые, а скорее предполагают, что действие аналоговых нейронов может быть смоделировано цифровыми машинами с разумным уровнем точности. [31] ( Алан Тьюринг сделал такое же наблюдение еще в 1950 году.) [33]
Психологическое предположение и бессознательные навыки . Многие исследователи ИИ пришли к согласию, что человеческое мышление не состоит в основном из высокоуровневой манипуляции символами. Фактически, с тех пор как Дрейфус впервые опубликовал свою критику в 60-х годах, исследования ИИ в целом отошли от высокоуровневой манипуляции символами к новым моделям, которые призваны охватить больше наших бессознательных рассуждений. Дэниел Кревье пишет, что к 1993 году, в отличие от 1965 года, исследователи ИИ «больше не делали психологического предположения» [13] и продолжали двигаться вперед без него.
В 1980-х годах эти новые « субсимволические » подходы включали:
В 1990-х и первых десятилетиях 21-го века статистические подходы к машинному обучению использовали методы, связанные с экономикой и статистикой, чтобы позволить машинам «угадывать» — принимать неточные, вероятностные решения и прогнозы на основе опыта и обучения. Эти программы имитируют то, как наши бессознательные инстинкты способны воспринимать, замечать аномалии и делать быстрые суждения, подобно тому, что Дрейфус называл «оценкой ситуации и реагированием», но здесь «ситуация» состоит из огромных объемов числовых данных. Эти методы весьма успешны и в настоящее время широко используются как в промышленности, так и в академических кругах.
Это исследование продолжалось без какой-либо прямой связи с работой Дрейфуса. [36]
Знание-как и знание-что . Исследования в области психологии и экономики смогли показать, что предположение Дрейфуса (и Хайдеггера) о природе решения человеческих проблем было по сути верным. Дэниел Канеман и Амос Тверски собрали огромное количество веских доказательств того, что люди используют два совершенно разных метода для решения проблем, которые они назвали «система 1» и «система 2». Система 1, также известная как адаптивное бессознательное , быстрая, интуитивная и бессознательная. Система 2 медленная, логичная и преднамеренная. Их исследования были собраны в книге « Думай медленно… решай быстро » [37] и вдохновили Малкольма Гладуэлла на популярную книгу «Озарение» [38] . Как и в случае с ИИ, это исследование было полностью независимым как от Дрейфуса, так и от Хайдеггера. [36]
Хотя исследователи ИИ, несомненно, пришли к согласию с Дрейфусом, МакКордак заявил, что «у меня сложилось впечатление, что этот прогресс происходил по частям и в ответ на сложные проблемы, и ничем не обязан Дрейфусу». [36]
Сообщество ИИ, за несколькими исключениями, предпочло не отвечать Дрейфусу напрямую. «Он слишком глуп, чтобы воспринимать его всерьез», — сказал исследователь Памеле МакКордак. [29] Марвин Мински сказал о Дрейфусе (и других критиках, исходящих от философии ), что «они неправильно понимают и должны игнорироваться». [39] Когда Дрейфус расширил «Алхимию и ИИ» до размера книги и опубликовал ее под названием « Что компьютеры не могут сделать » в 1972 году, никто из сообщества ИИ не решился ответить (за исключением нескольких критических отзывов). МакКордак спрашивает: «Если Дрейфус настолько заблуждается, почему люди, занимающиеся искусственным интеллектом, не приложили больше усилий, чтобы противоречить ему?» [29]
Частью проблемы был тот тип философии, который Дрейфус использовал в своей критике. Дрейфус был экспертом в современных европейских философах (таких как Хайдеггер и Мерло-Понти ). [40] Исследователи ИИ 1960-х годов, напротив, основывали свое понимание человеческого разума на инженерных принципах и эффективных методах решения проблем, связанных с наукой управления . На фундаментальном уровне они говорили на другом языке. Эдвард Фейгенбаум жаловался: «Что он нам предлагает? Феноменологию ! Этот комок пуха. Эту сладкую вату!» [41] В 1965 году между европейской философией и искусственным интеллектом был просто слишком большой разрыв , который с тех пор был заполнен когнитивной наукой , коннекционизмом и исследованиями робототехники . Прошло много лет, прежде чем исследователи искусственного интеллекта смогли обратиться к вопросам, которые были важны для континентальной философии, таким как ситуативность , воплощение , восприятие и гештальт .
Другая проблема заключалась в том, что он утверждал (или, казалось, утверждал), что ИИ никогда не сможет охватить человеческую способность понимать контекст, ситуацию или цель в форме правил. Но (как позже объяснят Питер Норвиг и Стюарт Рассел ), аргумент в такой форме не может быть выигран: только потому, что невозможно представить себе формальные правила, которые управляют человеческим интеллектом и экспертизой, это не означает, что таких правил не существует. Они цитируют ответ Алана Тьюринга на все аргументы, подобные аргументам Дрейфуса:
«мы не можем так легко убедить себя в отсутствии полных законов поведения... Единственный известный нам способ нахождения таких законов — это научное наблюдение, и мы, конечно, не знаем обстоятельств, при которых мы могли бы сказать: «Мы достаточно искали. Таких законов нет»» [42]
Дрейфус не ожидал, что исследователи ИИ осознают свою ошибку и начнут работать над новыми решениями, отойдя от символических методов, которые критиковал Дрейфус. В 1965 году он не представлял, что такие программы когда-нибудь будут созданы, поэтому он утверждал, что ИИ невозможен. В 1965 году исследователи ИИ не представляли, что такие программы необходимы, поэтому они утверждали, что ИИ почти завершен. Оба были неправы.
Более серьезной проблемой было впечатление, что критика Дрейфуса была неисправимо враждебной. МакКордак писал: «Его насмешливость была настолько провокационной, что он отдалил от себя любого, кого мог бы просветить. И это жаль». [36] Дэниел Кревье заявил, что «время доказало точность и проницательность некоторых комментариев Дрейфуса. Если бы он сформулировал их менее агрессивно, конструктивные действия, которые они предлагали, могли бы быть предприняты гораздо раньше». [4]
.