Система физических символов (также называемая формальной системой ) берет физические шаблоны (символы), объединяет их в структуры (выражения) и манипулирует ими (используя процессы) для создания новых выражений.
Гипотеза физической символьной системы ( PSSH ) — это позиция в философии искусственного интеллекта, сформулированная Алленом Ньюэллом и Гербертом А. Саймоном . Они писали:
«Физическая символьная система имеет необходимые и достаточные средства для общего разумного действия» [1] .
Это утверждение подразумевает, что человеческое мышление представляет собой своего рода манипуляцию символами (потому что для интеллекта необходима система символов), а также что машины могут быть разумными (потому что для интеллекта достаточно системы символов ). [2]
Идея имеет философские корни у Гоббса (который утверждал, что рассуждение — это «не более чем расчет»), Лейбница (который пытался создать логическое исчисление всех человеческих идей), Юма (который считал, что восприятие можно свести к «атомным впечатлениям») и даже Канта (который анализировал весь опыт как контролируемый формальными правилами). [3] Последняя версия называется вычислительной теорией разума и ассоциируется с философами Хилари Патнэмом и Джерри Фодором . [4]
Примеры систем физических символов включают в себя:
Гипотеза физической символьной системы утверждает, что оба следующих утверждения также являются примерами физических символьных систем:
Две группы доказательств подсказали Аллену Ньюэллу и Герберту А. Саймону , что «манипулирование символами» является сутью как человеческого, так и машинного интеллекта: психологические эксперименты на людях и разработка программ искусственного интеллекта .
Ньюэлл и Саймон провели психологические эксперименты, которые показали, что для решения сложных задач в логике, планировании или любого рода «решения головоломок» люди осторожно продвигались шаг за шагом, рассматривая несколько различных возможных путей продвижения вперед, выбирали наиболее многообещающий из них, отступая, когда возможность упиралась в тупик. Каждое возможное решение визуализировалось с помощью символов, таких как слова, числа или диаграммы. Это была «манипуляцией символами» — люди итеративно исследовали формальную систему в поисках соответствующего шаблона, который решал головоломку. [5] [6] [7] Ньюэлл и Саймон смогли смоделировать пошаговые навыки решения проблем людей с помощью компьютерных программ; они создали программы, которые использовали те же алгоритмы, что и люди, и могли решать те же проблемы.
Этот тип исследований, использующий как экспериментальную психологию, так и компьютерные модели, был назван Хьюбертом Дрейфусом « когнитивным моделированием » . [8] Их работа имела огромное влияние: она внесла вклад в когнитивную революцию 1960-х годов, а также в основание областей когнитивной науки и когнитивизма в психологии.
Это направление исследований предполагало, что решение проблем человеком в основном заключается в манипулировании высокоуровневыми символами.
В первые десятилетия исследований ИИ существовало много программ, которые использовали высокоуровневую обработку символов. Эти программы были очень успешными, демонстрируя навыки, которые многие люди в то время считали невозможными для машин, такие как решение алгебраических текстовых задач ( STUDENT ), доказательство теорем в логике ( Logic Theorist ), обучение игре в соревновательные шашки ( Arthur Samuel 's checkers) и общение на естественном языке ( ELIZA , SHRDLU ). [9] [10] [11]
Успех этих программ показал, что системы обработки символов могут имитировать любое разумное действие.
Гипотеза о физических символьных системах становится тривиальной, непоследовательной и нерелевантной, если мы не признаем три различия: между «оцифрованными сигналами» и «символами»; между «узким» ИИ и общим интеллектом ; и между сознанием и разумным поведением.
Гипотеза физической символьной системы интересна только в том случае, если мы ограничим «символы» вещами, которые имеют узнаваемое значение или обозначение и могут быть составлены с другими символами для создания более сложных символов, таких как <dog> и <tail>. Она не применима к простым абстрактным нулям и единицам в памяти цифрового компьютера или потоку нулей и единиц, проходящему через перцептивный аппарат робота. Она также не применима к матрицам неопознанных чисел, таким как те, которые используются в нейронных сетях или машинах опорных векторов . Технически это могут быть символы, но не всегда возможно точно определить, что обозначают символы. Это не то, что имели в виду Ньюэлл и Саймон, и аргумент становится тривиальным, если мы включим их.
Дэвид Турецки и Дин Померло рассматривают, что произойдет, если мы интерпретируем «символы» в PSSH как двоичные цифры цифрового оборудования. В этой версии гипотезы не делается различий между «символами» и «сигналами». Здесь гипотеза физической символьной системы просто утверждает, что интеллект может быть оцифрован . Это более слабое утверждение. Действительно, Турецки и Померло пишут, что если символы и сигналы — это одно и то же, то «достаточность является данностью, если только вы не дуалист или какой-либо другой вид мистика, потому что физические символьные системы являются универсальными по Тьюрингу ». [12] Широко принятый тезис Чёрча-Тьюринга гласит, что любая универсальная по Тьюрингу система может имитировать любой мыслимый процесс, который может быть оцифрован, при наличии достаточного времени и памяти. Поскольку любой цифровой компьютер является универсальным по Тьюрингу , любой цифровой компьютер может, в теории, имитировать все, что может быть оцифровано с достаточным уровнем точности, включая поведение разумных организмов. Необходимое условие гипотезы физических символьных систем также может быть улучшено, поскольку мы готовы принять практически любой сигнал как форму «символа», а все интеллектуальные биологические системы имеют сигнальные пути. [12]
Та же проблема касается и неопознанных чисел, которые появляются в матрицах нейронной сети или машины опорных векторов . Эти программы используют ту же математику, что и цифровое моделирование динамической системы , и лучше понимаются как «динамическая система», чем «физическая символьная система». Нильс Нильссон писал: «любой физический процесс может быть смоделирован с любой желаемой степенью точности на компьютере, манипулирующем символами, но описание такого моделирования в терминах символов вместо сигналов может быть неуправляемо громоздким». [13]
PSSH относится к «общему интеллектуальному действию» — то есть к любой деятельности, которую мы считаем «интеллектуальной». Таким образом, утверждается, что общий искусственный интеллект может быть достигнут с использованием только символических методов. Он не относится к « узким » приложениям. (То есть приложениям, которые предназначены только для решения ровно одной проблемы — что включает в себя почти все системы ИИ, используемые в настоящее время.)
Исследования искусственного интеллекта привели к успеху в разработке множества программ, способных разумно решать конкретные проблемы. Однако исследования ИИ до сих пор не смогли создать систему с искусственным общим интеллектом — способностью решать множество новых проблем, как это делают люди. Таким образом, критика PSSH относится к ограничениям ИИ в будущем и не относится ни к каким текущим исследованиям или программам.
Некоторые утверждают, что большие языковые модели способны к «общим интеллектуальным действиям», однако это спорно.
PSSH относится к «интеллектуальному действию» — то есть поведению машины — он не относится к «ментальным состояниям», «разуму», «сознанию» или «опыту» машины. «Сознание», насколько может определить неврология, — это не то, что можно вывести из поведения агента: всегда возможно, что машина имитирует опыт сознания, фактически не испытывая его, подобно тому, как идеально написанный вымышленный персонаж может имитировать человека с сознанием.
Таким образом, PSSH не имеет отношения к позициям, которые ссылаются на «разум» или «сознание», таким как гипотеза сильного ИИ Джона Сирла :
Соответственно запрограммированный компьютер с правильными входами и выходами будет иметь разум в том же смысле, в котором разум есть у людей. [14] [15]
Нильс Нильссон выделил четыре основные «темы» или основания, по которым гипотеза физической символьной системы подверглась критике. [16]
Если человеческий мозг не использует символическое мышление для создания разумного поведения, то необходимая сторона гипотезы ложна, а человеческий интеллект является контрпримером.
Губерт Дрейфус подверг критике необходимое условие гипотезы физической символьной системы, назвав его «психологическим предположением» и определив его следующим образом:
Дрейфус опроверг это, показав, что человеческий интеллект и опыт зависят в первую очередь от бессознательных инстинктов, а не от сознательной символической манипуляции. Эксперты быстро решают проблемы, используя свою интуицию, а не пошаговый поиск методом проб и ошибок. Дрейфус утверждал, что эти бессознательные навыки никогда не будут зафиксированы в формальных правилах. [18]
Джордж Лакофф , Марк Тернер и другие утверждали, что наши абстрактные навыки в таких областях, как математика , этика и философия, зависят от бессознательных навыков, которые исходят от тела, и что сознательная манипуляция символами — это лишь малая часть нашего интеллекта. [ необходима цитата ]
Невозможно доказать, что символический ИИ никогда не создаст общий интеллект, но если мы не сможем найти эффективный способ решения конкретных проблем с помощью символического ИИ, это будет свидетельством того, что достаточная сторона PSSH вряд ли будет верной.
Если субсимвольные программы ИИ, такие как глубокое обучение , могут разумно решать проблемы, то это свидетельствует о том, что необходимая сторона PSSH ложна.
Если гибридные подходы, объединяющие символический ИИ с другими подходами, могут эффективно решать более широкий круг задач, чем любая из этих технологий по отдельности, это свидетельствует о том, что необходимая сторона истинна, а достаточность ложна.
Родни Брукс из Массачусетского технологического института смог построить роботов, которые обладали превосходной способностью двигаться и выживать без использования символического мышления вообще. Брукс (и другие, такие как Ганс Моравек ) обнаружили, что наши самые основные навыки движения, выживания, восприятия, равновесия и т. д., похоже, вообще не требуют символов высокого уровня, что на самом деле использование символов высокого уровня было более сложным и менее успешным.
В статье 1990 года «Слоны не играют в шахматы» исследователь робототехники Родни Брукс напрямую нацелился на гипотезу физической символьной системы, утверждая, что символы не всегда необходимы, поскольку «мир является своей собственной лучшей моделью. Он всегда точно соответствует действительности. В нем всегда есть все детали, которые только можно узнать. Секрет в том, чтобы ощущать это соответствующим образом и достаточно часто». [19]
В 2012 году AlexNet , сеть глубокого обучения , превзошла все другие программы в классификации изображений на ImageNet с существенным отрывом. В последующие годы глубокое обучение оказалось гораздо более успешным во многих областях, чем символический ИИ. [ необходима цитата ]