Физическая система символов (также называемая формальной системой ) принимает физические шаблоны (символы), объединяет их в структуры (выражения) и манипулирует ими (с использованием процессов) для создания новых выражений.
Гипотеза системы физических символов ( PSSH ) — это позиция в философии искусственного интеллекта, сформулированная Алленом Ньюэллом и Гербертом А. Саймоном . Они написали:
«Физическая система символов имеет необходимые и достаточные средства для общего разумного действия». [1]
Это утверждение подразумевает как то, что человеческое мышление — это своего рода манипулирование символами (поскольку для интеллекта необходима система символов), так и то, что машины могут быть разумными (поскольку для интеллекта достаточно системы символов). [2]
Эта идея имеет философские корни у Гоббса (который утверждал, что рассуждение — это «не более чем расчет»), Лейбница (который пытался создать логическое исчисление всех человеческих идей), Юма (который считал, что восприятие можно свести к «атомарным впечатлениям») и даже Кант (который анализировал весь опыт как контролируемый формальными правилами). [3] Последняя версия называется вычислительной теорией разума , связанной с философами Хилари Патнэм и Джерри Фодором . [4]
Примеры систем физических символов включают:
Гипотеза системы физических символов утверждает, что обе они также являются примерами систем физических символов:
Две линии доказательств подсказали Аллену Ньюэллу и Герберту А. Саймону, что «манипулирование символами» было сутью как человеческого, так и машинного интеллекта: психологические эксперименты на людях и разработка программ искусственного интеллекта .
Ньюэлл и Саймон провели психологические эксперименты, которые показали, что при решении сложных задач по логике, планированию или любому виду «решения головоломок» люди тщательно действовали шаг за шагом, рассматривая несколько различных возможных путей продвижения вперед, выбирая наиболее перспективный, поддерживая его. когда возможность зашла в тупик. Каждое возможное решение было визуализировано с помощью символов, таких как слова, цифры или диаграммы. Это была «манипулирование символами» — люди итеративно исследовали формальную систему в поисках подходящего шаблона, который мог бы решить головоломку. [5] [6] [7] Ньюэлл и Саймон смогли смоделировать шаг за шагом навыки решения проблем людей с помощью компьютерных программ; они создали программы, которые использовали те же алгоритмы, что и люди, и могли решать те же проблемы.
Этот тип исследования, использующий как экспериментальную психологию, так и компьютерные модели, был назван Хьюбертом Дрейфусом « когнитивным моделированием » . [8] Их работа оказала огромное влияние: она способствовала когнитивной революции 1960-х годов, основанию области когнитивной науки и когнитивизма в психологии.
Это направление исследований показало, что решение человеческих проблем состоит в первую очередь из манипулирования символами высокого уровня.
В первые десятилетия исследований ИИ существовало множество очень успешных программ, в которых использовалась обработка символов высокого уровня. Эти программы были очень успешными, демонстрируя навыки, которые многие люди в то время считали невозможными для машин, например, решение алгебраических задач на слова ( СТУДЕНТ ), доказательство теорем в логике ( Теоретик логики ), обучение игре в соревновательные шашки ( программа Артура Сэмюэля ). шашки) и общение на естественном языке ( ЭЛИЗА , ШРДЛУ ). [9] [10] [11]
Успех этих программ позволил предположить, что системы обработки символов могут моделировать любые интеллектуальные действия.
Гипотеза о системах физических символов становится тривиальной, бессвязной или неуместной, если мы не признаем различие между «оцифрованными сигналами» и «символами», между «узким» ИИ и общим интеллектом , а также между сознанием и разумным поведением.
Гипотеза о системе физических символов интересна только в том случае, если мы ограничим «символы» вещами, которые имеют узнаваемое значение или обозначение и могут быть составлены из других символов для создания более сложных символов, таких как <собака> и <хвост>. Это не применимо к простым абстрактным нулям и единицам в памяти цифрового компьютера или к потоку нулей и единиц, проходящему через аппарат восприятия робота. Это также не применимо к матрицам неопознанных чисел, например тем, которые используются в нейронных сетях или машинах опорных векторов . Технически это могут быть символы, но не всегда возможно точно определить, что означают эти символы. Это не то, что имели в виду Ньюэлл и Саймон, и аргумент становится тривиальным, если мы включим их.
Дэвид Турецкий и Дин Померло рассматривают, что произойдет, если мы интерпретируем «символы» в PSSH как двоичные цифры цифрового оборудования. В этой версии гипотезы не делается различия между «символами» и «сигналами». Здесь гипотеза системы физических символов просто утверждает, что интеллект можно оцифровать . Это более слабое утверждение. Действительно, Турецкий и Померло пишут, что если символы и сигналы — это одно и то же, то «[s] достаточность является данностью, если только вы не дуалист или какой-то другой мистик, потому что физические системы символов универсальны по Тьюрингу ». [12] Широко распространенный тезис Чёрча-Тьюринга гласит, что любая универсальная по Тьюрингу система может моделировать любой мыслимый процесс, который можно оцифровать, при наличии достаточного количества времени и памяти. Поскольку любой цифровой компьютер является универсальным по Тьюрингу , любой цифровой компьютер теоретически может моделировать все, что можно оцифровать с достаточной степенью точности, включая поведение разумных организмов. Необходимое условие гипотезы физических символьных систем также может быть уточнено, поскольку мы готовы принять почти любой сигнал как форму «символа», а все разумные биологические системы имеют сигнальные пути. [12]
Та же проблема касается неопознанных чисел, которые появляются в матрицах нейронной сети или машины опорных векторов . Эти программы используют ту же математику, что и цифровое моделирование динамической системы , и их лучше понимать как «динамическую систему», чем как «систему физических символов». Нильс Нильссон писал: «Любой физический процесс можно смоделировать с любой желаемой степенью точности на компьютере, манипулирующем символами, но описание такого моделирования с точки зрения символов, а не сигналов, может быть неуправляемо громоздким». [13]
PSSH относится к «общему разумному действию», то есть ко всякой деятельности, которую мы считаем «разумной». Таким образом, утверждается, что общий искусственный интеллект может быть достигнут с использованием только символических методов. Это не относится к « узким » приложениям.
Исследования искусственного интеллекта позволили разработать множество программ, способных разумно решать конкретные проблемы. Однако исследования ИИ до сих пор не смогли создать систему с общим искусственным интеллектом — способностью решать множество новых проблем, как это делает человек. Таким образом, критика PSSH относится к ограничениям ИИ в будущем и не относится к каким-либо текущим исследованиям или программам.
PSSH относится к «разумному действию» — то есть к поведению машины — он не относится к «психическим состояниям», «разуму», «сознанию» или «опыту» машины. «Сознание», насколько может определить неврология, не является чем-то, что можно вывести из поведения агента: всегда возможно, что машина моделирует опыт сознания, фактически не испытывая его, подобно тому, как идеально написанный вымышленный персонаж может имитировать человека, обладающего сознанием.
Таким образом, PSSH не имеет отношения к позициям, которые относятся к «разуму» или «сознанию», таким как гипотеза сильного ИИ Джона Сирла :
Таким образом, правильно запрограммированный компьютер с правильными входами и выходами будет обладать разумом точно в том же смысле, в котором разум есть у людей. [14] [15]
Нильс Нильссон выделил четыре основные «темы» или основания, по которым гипотеза системы физических символов подвергалась критике. [16]
Если человеческий мозг не использует символические рассуждения для создания разумного поведения, то необходимая сторона гипотезы ложна, а человеческий интеллект является контрпримером.
Губерт Дрейфус подверг критике необходимое условие гипотезы системы физических символов, назвав ее «психологическим предположением» и определив ее следующим образом:
Дрейфус опроверг это, показав, что человеческий интеллект и опыт зависят в первую очередь от бессознательных инстинктов, а не от сознательного символического манипулирования. Эксперты решают проблемы быстро, используя свою интуицию, а не пошаговый поиск проб и ошибок. Дрейфус утверждал, что эти бессознательные навыки никогда не будут отражены в формальных правилах. [18]
Джордж Лакофф , Марк Тернер и другие утверждали, что наши абстрактные навыки в таких областях, как математика , этика и философия, зависят от бессознательных навыков, исходящих от тела, и что сознательное манипулирование символами — лишь малая часть нашего интеллекта. [ нужна цитата ]
Невозможно доказать, что символический ИИ никогда не создаст общий интеллект, но если мы не сможем найти эффективный способ решения конкретных проблем с помощью символического ИИ, это будет свидетельством того, что достаточная сторона PSSH вряд ли верна.
Если субсимволические программы ИИ, такие как глубокое обучение , могут разумно решать проблемы, то это свидетельство того, что необходимая сторона ПСШ ложна.
Если гибридные подходы, сочетающие символический ИИ с другими подходами, могут эффективно решать более широкий круг проблем, чем любой из методов по отдельности, это свидетельствует о том, что необходимая сторона верна, а сторона достаточности — ложна.
Родни Брукс из Массачусетского технологического института смог создать роботов, которые обладали превосходными способностями передвигаться и выживать вообще без использования символического мышления. Брукс (и другие, такие как Ганс Моравец ) обнаружили, что наши самые базовые навыки движения, выживания, восприятия, равновесия и так далее, похоже, вообще не требуют символов высокого уровня, что фактически использование символов высокого уровня был более сложным и менее успешным.
В статье 1990 года «Слоны не играют в шахматы» исследователь робототехники Родни Брукс прямо нацелился на гипотезу физической системы символов, утверждая, что символы не всегда необходимы, поскольку «мир сам по себе является лучшей моделью. Он всегда точно соответствует современности. В нем всегда есть все детали, которые необходимо знать. Хитрость заключается в том, чтобы ощущать это правильно и достаточно часто». [19]
В 2012 году AlexNet , сеть глубокого обучения , значительно превзошла все другие программы в классификации изображений на ImageNet . За прошедшие годы глубокое обучение оказалось гораздо более успешным во многих областях, чем символический ИИ. [ нужна цитата ]