stringtranslate.com

Представление знаний и рассуждения

Представление знаний и рассуждение ( KRR , KR&R , KR² ) — это область искусственного интеллекта (ИИ), предназначенная для представления информации о мире в форме, которую компьютерная система может использовать для решения сложных задач, таких как диагностика состояния здоровья или ведение диалога. на естественном языке . Представление знаний включает в себя выводы психологии [1] о том, как люди решают проблемы и представляют знания, чтобы разрабатывать формализмы , которые упростят проектирование и построение сложных систем. Представление знаний и рассуждения также включают результаты логики для автоматизации различных видов рассуждений .

Примеры формализмов представления знаний включают семантические сети , фреймы , правила , логические программы и онтологии . Примеры автоматизированных механизмов рассуждения включают машины вывода , средства доказательства теорем , генераторы моделей и классификаторы.

История

Самая ранняя работа в области компьютеризированного представления знаний была сосредоточена на общих средствах решения проблем, таких как система решения общих задач (GPS), разработанная Алленом Ньюэллом и Гербертом А. Саймоном в 1959 году, и система «Советник» , предложенная Джоном Маккарти также в 1959 году. Данные GPS структуры для планирования и декомпозиции. Система должна начинаться с цели. Затем эта цель разбивалась на подцели, а затем приступала к разработке стратегий, которые могли бы достичь каждой подцели. Советник Такер, с другой стороны, предложил использовать исчисление предикатов для представления рассуждений, основанных на здравом смысле .

Многие из ранних подходов к представлению знаний в ИИ использовали графовые представления и семантические сети , аналогичные сегодняшним графам знаний . В таких подходах решение задач представляло собой форму обхода графа [2] или поиска пути, как в алгоритме поиска A* . Типичные области применения включали формирование планов роботов и игры.

Другие исследователи сосредоточились на разработке автоматизированных средств доказательства теорем для логики первого порядка, мотивированные использованием математической логики для формализации математики и автоматизации доказательства математических теорем. Важным шагом в этом направлении стала разработка метода разрешения Джоном Аланом Робинсоном .

Тем временем Джон Маккарти и Пэт Хейс разработали ситуационное исчисление как логическое представление здравого смысла о законах причины и следствия. Корделл Грин , в свою очередь, показал, как формировать планы роботов, применяя решение к расчету ситуации. Он также показал, как использовать разрешение для ответов на вопросы и автоматического программирования. [3]

Напротив, исследователи из Массачусетского технологического института отвергли парадигму единой процедуры доказательства резолюции и вместо этого выступили за процедурное внедрение знаний. [4] Возникший в результате конфликт между использованием логических представлений и использованием процедурных представлений был разрешен в начале 1970-х годов с развитием логического программирования и Пролога , используя разрешение SLD для обработки предложений Хорна как процедур снижения цели.

Раннее развитие логического программирования было в основном европейским явлением. В Северной Америке исследователи искусственного интеллекта, такие как Эд Фейгенбаум и Фредерик Хейс-Рот, выступали за представление знаний, специфичных для конкретной области, а не рассуждений общего назначения. [5]

Эти усилия привели к когнитивной революции в психологии и к фазе ИИ, ориентированной на представление знаний, что привело к появлению в 1970-х и 80-х годах экспертных систем , производственных систем , фреймовых языков и т. д. Вместо общих решений проблем ИИ переключил свое внимание на экспертных. системы, которые могли бы соответствовать человеческой компетентности в конкретной задаче, например, в медицинской диагностике. [6]

Экспертные системы дали нам терминологию, которая используется до сих пор: системы ИИ разделены на базу знаний , которая включает в себя факты и правила о проблемной области, и механизм вывода , который применяет знания из базы знаний для ответа на вопросы и решения проблем в домен. В этих ранних системах факты в базе знаний имели тенденцию иметь довольно плоскую структуру, по существу, утверждения о значениях переменных, используемых правилами. [7]

Тем временем Марвин Мински разработал концепцию кадра в середине 1970-х годов. [8] Фрейм похож на класс объектов: это абстрактное описание категории, описывающей вещи в мире, проблемы и потенциальные решения. Первоначально фреймы использовались в системах, ориентированных на человеческое взаимодействие, например, на понимание естественного языка и социальных условий, в которых различные ожидания по умолчанию, такие как заказ еды в ресторане, сужают пространство поиска и позволяют системе выбирать подходящие ответы на динамические ситуации.

Вскоре фреймовые сообщества и исследователи, основанные на правилах, осознали, что между их подходами существует синергия. Фреймы были хороши для представления реального мира, описываемого как классы, подклассы, слоты (значения данных) с различными ограничениями на возможные значения. Правила были хороши для представления и использования сложной логики, например, процесса постановки медицинского диагноза. Были разработаны интегрированные системы, сочетающие в себе рамки и правила. Одной из самых мощных и известных была среда разработки знаний (KEE) 1983 года от Intellicorp . У KEE был полноценный механизм правил с прямой и обратной цепочкой . Он также имел полную базу знаний на основе фреймов с триггерами, слотами (значениями данных), наследованием и передачей сообщений. Хотя передача сообщений зародилась в объектно-ориентированном сообществе, а не в искусственном интеллекте, она была быстро принята исследователями искусственного интеллекта, а также в таких средах, как KEE, и в операционных системах для машин Lisp от Symbolics , Xerox и Texas Instruments . [9]

Интеграция фреймов, правил и объектно-ориентированного программирования в значительной степени была обусловлена ​​коммерческими предприятиями, такими как KEE и Symbolics, возникшими в результате различных исследовательских проектов. В то же время существовало еще одно направление исследований, менее коммерчески ориентированное и основанное на математической логике и автоматизированном доказательстве теорем. [ нужна цитата ] Одним из самых влиятельных языков в этом исследовании был язык KL-ONE середины 80-х. KL-ONE был фреймовым языком со строгой семантикой и формальными определениями таких понятий, как отношение Is-A . [10] KL-ONE и языки, на которые он повлиял, такие как Loom, имели автоматизированный механизм рассуждений, основанный на формальной логике, а не на правилах ЕСЛИ-ТО. Этот рассуждение называется классификатором. Классификатор может анализировать набор объявлений и выводить новые утверждения, например, переопределять класс как подкласс или суперкласс какого-либо другого класса, который не был формально указан. Таким образом, классификатор может функционировать как механизм вывода, выводя новые факты из существующей базы знаний. Классификатор также может обеспечивать проверку согласованности базы знаний (которая в случае языков KL-ONE также называется онтологией). [11]

Другой областью исследований представления знаний была проблема рассуждений здравого смысла . Одним из первых выводов, полученных в результате попыток создания программного обеспечения, способного функционировать на естественном языке человека, было то, что люди регулярно опираются на обширную базу знаний о реальном мире, которую мы просто принимаем как должное, но которая совсем не очевидна для искусственного агента. . Основные принципы физики здравого смысла, причинности, намерений и т. д. Примером является проблема фрейма , согласно которой в логике, управляемой событиями, должны быть аксиомы, которые утверждают, что вещи сохраняют положение от одного момента к другому, если они не перемещаются каким-либо внешним фактором. сила. Чтобы создать настоящего агента искусственного интеллекта, который мог бы общаться с людьми, используя естественный язык , и обрабатывать основные утверждения и вопросы о мире, необходимо представить такого рода знания. [12] Помимо ситуационного расчета Маккарти и Хейса, одной из наиболее амбициозных программ по решению этой проблемы был проект Cyc Дуга Лената . Cyc создал свой собственный язык Frame и заставил большое количество аналитиков документировать различные области здравого смысла на этом языке. Знания, записанные в Cyc, включали общепринятые модели времени, причинности, физики, намерений и многие другие. [13]

Отправной точкой для представления знаний является гипотеза представления знаний, впервые формализованная Брайаном Смитом в 1985 году: [14]

Любой механически воплощенный интеллектуальный процесс будет состоять из структурных ингредиентов, которые а) мы, как внешние наблюдатели, естественным образом воспринимаем как представляющие пропозициональное объяснение знаний, которые демонстрирует весь процесс, и б) независимо от такой внешней семантической атрибуции, играют формальную, но причинную и играют важную роль в формировании поведения, которое проявляет эти знания.

Одной из наиболее активных областей исследований представления знаний является семантическая сеть . [ нужна цитация ] Семантическая сеть стремится добавить слой семантики (значения) поверх текущего Интернета. Вместо индексации веб-сайтов и страниц по ключевым словам, семантическая сеть создает большие онтологии концепций. Поиск концепции будет более эффективным, чем традиционный текстовый поиск. Языки фреймов и автоматическая классификация играют большую роль в видении будущего семантической сети. Автоматическая классификация дает разработчикам технологию, позволяющую упорядочить постоянно развивающуюся сеть знаний. Определение онтологий, которые являются статичными и неспособными к развитию на лету, будет очень ограничивающим фактором для интернет-систем. Технология классификатора обеспечивает возможность работы с динамической средой Интернета.

Недавние проекты, финансируемые в основном Агентством передовых оборонных исследовательских проектов (DARPA), интегрировали языки фреймов и классификаторы с языками разметки на основе XML. Структура описания ресурсов (RDF) предоставляет базовые возможности для определения классов, подклассов и свойств объектов. Язык веб-онтологии (OWL) обеспечивает дополнительные уровни семантики и обеспечивает интеграцию с механизмами классификации. [15] [16]

Обзор

Представление знаний — это область искусственного интеллекта, которая фокусируется на разработке компьютерных представлений, собирающих информацию о мире, которую можно использовать для решения сложных проблем.

Обоснованием представления знаний является то, что обычный процедурный код — не лучший формализм для решения сложных проблем. Представление знаний упрощает определение и поддержку сложного программного обеспечения по сравнению с процедурным кодом и может использоваться в экспертных системах .

Например, общение с экспертами с точки зрения бизнес-правил, а не кода, уменьшает семантический разрыв между пользователями и разработчиками и делает разработку сложных систем более практичной.

Представление знаний идет рука об руку с автоматическим рассуждением , поскольку одна из основных целей явного представления знаний состоит в том, чтобы иметь возможность рассуждать об этих знаниях, делать выводы, утверждать новые знания и т. д. Практически все языки представления знаний имеют механизм рассуждения или вывода. как часть системы. [17]

Ключевым компромиссом при разработке формализмов представления знаний является компромисс между выразительностью и управляемостью. [18] Логика первого порядка (FOL), с ее высокой выразительной силой и способностью формализовать большую часть математики, является стандартом для сравнения выразимости языков представления знаний.

Можно утверждать, что FOL как формализм представления знаний сам по себе имеет два недостатка, а именно простоту использования и эффективность реализации. Во-первых, из-за своей высокой выразительной способности FOL допускает множество способов выражения одной и той же информации, и это может затруднить пользователям формализацию или даже понимание знаний, выраженных сложными, математически ориентированными способами. Во-вторых, из-за сложных процедур доказательства пользователям может быть трудно понять сложные доказательства и объяснения, а реализации могут быть трудными для обеспечения эффективности. Как следствие, неограниченный FOL может отпугивать многих разработчиков программного обеспечения.

Одним из ключевых открытий исследований ИИ в 1970-х годах было то, что языки, которые не обладают полной выразительной мощью FOL, все же могут обеспечивать почти такую ​​же выразительную мощь, как FOL, но могут быть проще как для обычного разработчика, так и для компьютера. понимать. Многие из ранних формализмов представления знаний ИИ, от баз данных до семантических сетей и производственных систем, можно рассматривать как принятие различных дизайнерских решений о том, как сбалансировать выразительную силу с естественностью выражения и эффективностью. [19] В частности, этот балансирующий акт стал движущей силой для разработки правил ЕСЛИ-ТО в основанных на правилах экспертных системах.

Подобный баланс был также мотивацией для разработки логического программирования (LP) и языка логического программирования Prolog . Логические программы имеют синтаксис, основанный на правилах, который легко спутать с синтаксисом IF-THEN производственных правил . Но логические программы имеют четко определенную логическую семантику, тогда как производственные системы ее не имеют.

Самая ранняя форма логического программирования была основана на подмножестве предложений Хорна FOL. Но более поздние расширения LP включали правило вывода отрицания как отказа , которое превращало LP в немонотонную логику для рассуждений по умолчанию . Результирующая расширенная семантика LP представляет собой вариацию стандартной семантики предложений Хорна и FOL и представляет собой форму семантики базы данных [20] , которая включает в себя предположение об уникальном имени и форму предположения о закрытом мире . Эти предположения гораздо сложнее сформулировать и обосновать, явно используя стандартную семантику FOL.

В ключевой статье 1993 года по этой теме Рэндалл Дэвис из Массачусетского технологического института выделил пять различных ролей в анализе структуры представления знаний: [21]

Представление знаний и рассуждения являются ключевыми технологиями семантической сети . Языки, основанные на модели Frame с автоматической классификацией, обеспечивают уровень семантики поверх существующего Интернета. Вместо поиска по текстовым строкам, как это обычно бывает сегодня, можно будет определять логические запросы и находить страницы, соответствующие этим запросам. [15] Компонентом автоматического рассуждения в этих системах является механизм, известный как классификатор. Классификаторы фокусируются на отношениях включения в базе знаний, а не на правилах. Классификатор может выводить новые классы и динамически изменять онтологию по мере поступления новой информации. Эта возможность идеально подходит для постоянно меняющегося и развивающегося информационного пространства Интернета. [22]

Семантическая сеть объединяет концепции представления и рассуждения знаний с языками разметки, основанными на XML. Структура описания ресурсов (RDF) предоставляет базовые возможности для определения объектов, основанных на знаниях, в Интернете с такими базовыми функциями, как отношения Is-A и свойства объектов. Язык веб-онтологии (OWL) добавляет дополнительную семантику и интегрируется с механизмами автоматической классификации. [23]

Характеристики

В 1985 году Рон Брахман классифицировал основные проблемы представления знаний следующим образом: [24]

Онтологическая инженерия

В первые годы существования систем, основанных на знаниях, базы знаний были довольно небольшими. Базы знаний, которые предназначались для фактического решения реальных проблем, а не для демонстрации концепции, должны были сосредоточиться на четко определенных проблемах. Так, например, не просто медицинская диагностика в целом, а медицинская диагностика определенных видов заболеваний.

По мере расширения масштабов технологий, основанных на знаниях, стала очевидной необходимость в более крупных и модульных базах знаний, которые могли бы взаимодействовать и интегрироваться друг с другом. Это привело к появлению дисциплины онтологического проектирования, проектирования и создания больших баз знаний, которые можно было использовать в нескольких проектах. Одним из ведущих исследовательских проектов в этой области стал проект Cyc . Cyc был попыткой создать огромную энциклопедическую базу знаний, которая содержала бы не только экспертные знания, но и знания здравого смысла. При разработке агента искусственного интеллекта вскоре стало понятно, что представление знаний здравого смысла, знаний, которые люди просто принимают как должное, необходимо для создания ИИ, который мог бы взаимодействовать с людьми, используя естественный язык. Cyc был призван решить эту проблему. Определенный ими язык был известен как CycL .

После CycL был разработан ряд языков онтологий . Большинство из них являются декларативными языками и либо являются фреймовыми языками , либо основаны на логике первого порядка . Модульность — способность определять границы вокруг конкретных областей и проблемных пространств — важна для этих языков, потому что, как заявил Том Грубер , «каждая онтология — это договор — социальное соглашение между людьми, имеющими общий мотив совместного использования». Всегда существует множество конкурирующих и различающихся взглядов, которые делают невозможным создание какой-либо онтологии общего назначения. Онтология общего назначения должна быть применима в любой области, а различные области знаний должны быть унифицированы. [28]

Существует долгая история работ по созданию онтологий для различных областей задач, например, онтологии для жидкостей, [29] модели сосредоточенных элементов , широко используемой при представлении электронных схем (например, [30] ), а также онтологий. для времени, веры и даже самого программирования. Каждый из них предлагает возможность увидеть какую-то часть мира.

Модель сосредоточенных элементов, например, предполагает, что мы думаем о схемах как о компонентах со связями между ними, с мгновенными потоками сигналов по соединениям. Это полезная точка зрения, но не единственно возможная. Другая онтология возникает, если нам нужно обратить внимание на электродинамику в устройстве: здесь сигналы распространяются с конечной скоростью, и теперь, возможно, придется рассматривать объект (например, резистор), который раньше рассматривался как единый компонент с поведением ввода-вывода. как протяженную среду, через которую текут электромагнитные волны.

Онтологии, конечно, могут быть записаны на самых разных языках и в различных нотациях (например, логических, LISP и т. д.); существенная информация — это не форма этого языка, а его содержание, т. е. набор понятий, предлагаемых как способ мышления о мире. Проще говоря, важной частью являются такие понятия, как соединения и компоненты, а не выбор между их записью в виде предикатов или конструкций LISP.

Приверженность выбору той или иной онтологии может привести к совершенно иному взгляду на поставленную задачу. Рассмотрим разницу, которая возникает при выборе представления схемы с сосредоточенными элементами, а не электродинамического представления того же устройства. Второй пример: медицинский диагноз, рассматриваемый с точки зрения правил (например, MYCIN ), существенно отличается от той же задачи, рассматриваемой с точки зрения рамок (например, ИНТЕРНИСТ). В то время как MYCIN рассматривает медицинский мир как состоящий из эмпирических ассоциаций, связывающих симптом с заболеванием, INTERNIST видит набор прототипов, в частности прототипических заболеваний, которые необходимо сопоставить с конкретным случаем.

Смотрите также

Рекомендации

  1. ^ Шанк, Роджер; Абельсон, Роберт (1977). Сценарии, планы, цели и понимание: исследование структур человеческого знания . Лоуренс Эрлбаум Ассошиэйтс, Инк.
  2. ^ Доран, Дж. Э.; Мичи, Д. (20 сентября 1966 г.). «Эксперименты с программой Graph Traverser». Учеб. Р. Сок. Лонд. А. _ 294 (1437): 235–259. Бибкод : 1966RSPSA.294..235D. дои : 10.1098/rspa.1966.0205. S2CID  21698093.
  3. ^ Грин, Корделл. Применение доказательства теорем к решению задач (PDF) . IJCAI 1969.
  4. ^ Хьюитт, К., 2009. Устойчивость к несогласованности в логических программах. Препринт arXiv arXiv:0904.3036.
  5. ^ Ковальски, Роберт (1986). «Ограничение логики». Материалы четырнадцатой ежегодной конференции ACM по информатике - CSC '86 1986 года . стр. 7–13. дои : 10.1145/324634.325168. ISBN 0-89791-177-6. S2CID  17211581.
  6. ^ Нильссон, Нильс (1995). «Взгляд на приз». Журнал ИИ . 16 :2.
  7. ^ Хейс-Рот, Фредерик; Уотерман, Дональд; Ленат, Дуглас (1983). Создание экспертных систем. Аддисон-Уэсли. ISBN 978-0-201-10686-2.
  8. ^ Марвин Мински, Структура представления знаний, Записка лаборатории MIT-AI 306, июнь 1974 г.
  9. ^ Меттри, Уильям (1987). «Оценка инструментов для построения больших систем, основанных на знаниях». Журнал ИИ . 8 (4). Архивировано из оригинала 10 ноября 2013 г. Проверено 24 декабря 2013 г.
  10. ^ Брахман, Рон (1978). «Структурная парадигма представления знаний» (PDF) . Технический отчет Болта, Беранека и Неймана (3605). Архивировано (PDF) из оригинала 30 апреля 2020 г.
  11. ^ МакГрегор, Роберт (июнь 1991 г.). «Использование классификатора описания для улучшения представления знаний». Эксперт IEEE . 6 (3): 41–46. дои : 10.1109/64.87683. S2CID  29575443.
  12. ^ Маккарти Дж. и Хейс П.Дж. 1969. Некоторые философские проблемы с точки зрения искусственного интеллекта в Wayback Machine (архивировано 25 августа 2013 г.). Мельцер Б. и Мичи Д., ред., Machine Intelligence 4. Эдинбург: Издательство Эдинбургского университета. 463–502.
  13. ^ Ленат, Дуг; Р. В. Гуха (январь 1990 г.). Построение больших систем, основанных на знаниях: представление и вывод в проекте Cyc . Аддисон-Уэсли. ISBN 978-0201517521.
  14. ^ Смит, Брайан К. (1985). «Пролог к ​​размышлениям и семантике процедурного языка». В Рональде Брахмане и Гекторе Дж. Левеске (ред.). Чтения по представлению знаний . Морган Кауфманн. стр. 31–40. ISBN 978-0-934613-01-9.
  15. ^ аб Бернерс-Ли, Тим; Хендлер, Джеймс; Лассила, Ора (17 мая 2001 г.). «Семантическая сеть – новая форма веб-контента, имеющая смысл для компьютеров, откроет революцию новых возможностей». Научный американец . 284 (5): 34–43. doi : 10.1038/scientificamerican0501-34. Архивировано из оригинала 24 апреля 2013 года.
  16. ^ Кнублаух, Хольгер; Оберле, Дэниел; Тетлоу, Фил; Уоллес, Эван (9 марта 2006 г.). «Учебник по семантической сети для разработчиков объектно-ориентированного программного обеспечения». W3C . Архивировано из оригинала 06 января 2018 г. Проверено 30 июля 2008 г.
  17. ^ Хейс-Рот, Фредерик; Уотерман, Дональд; Ленат, Дуглас (1983). Создание экспертных систем. Аддисон-Уэсли. стр. 6–7. ISBN 978-0-201-10686-2.
  18. ^ Левеск, Х.Дж. и Брахман, Р.Дж., 1987. Выразительность и управляемость в представлении знаний и рассуждениях 1. Вычислительный интеллект, 3 (1), стр. 78-93.
  19. ^ Левеск, Гектор; Брахман, Рональд (1985). «Фундаментальный компромисс в представлении и рассуждении знаний». В Рональде Брахмане и Гекторе Дж. Левеске (ред.). Чтения по представлению знаний . Морган Кауфманн. п. 49. ИСБН 978-0-934613-01-9. Хорошей новостью при сведении службы КР к доказательству теорем является то, что теперь у нас есть очень четкое и очень конкретное представление о том, что должна делать система КР; Плохая новость заключается в том, что также очевидно, что услуги не могут быть предоставлены... решить, является ли предложение в FOL теоремой... неразрешимо.
  20. ^ Рассел, Стюарт Дж .; Норвиг, Питер. (2021). Искусственный интеллект: современный подход (4-е изд.). Хобокен: Пирсон. п. 282. ИСБН 978-0134610993. LCCN  20190474.
  21. ^ abcdefghijk Дэвис, Рэндалл; Шроб, Ховард; Соловиц, Питер (весна 1993 г.). «Что такое представление знаний?». Журнал ИИ . 14 (1): 17–33. Архивировано из оригинала 6 апреля 2012 г. Проверено 23 марта 2011 г.
  22. ↑ Макгрегор, Роберт (13 августа 1999 г.). «Ретроспектива на ткацком станке». isi.edu . Институт информационных наук. Архивировано из оригинала 25 октября 2013 года . Проверено 10 декабря 2013 г.
  23. ^ Кнублаух, Хольгер; Оберле, Дэниел; Тетлоу, Фил; Уоллес, Эван (9 марта 2006 г.). «Учебник по семантической сети для разработчиков объектно-ориентированного программного обеспечения». W3C . Архивировано из оригинала 06 января 2018 г. Проверено 30 июля 2008 г.
  24. ^ Брахман, Рон (1985). "Введение". В Рональде Брахмане и Гекторе Дж. Левеске (ред.). Чтения по представлению знаний . Морган Кауфманн. стр. XVI–XVII. ISBN 978-0-934613-01-9.
  25. ^ Бих, Джозеф (2006). «Смена парадигмы: введение в нечеткую логику» (PDF) . Возможности IEEE . 25 :6–21. дои : 10.1109/MP.2006.1635021. S2CID  15451765. Архивировано (PDF) из оригинала 12 июня 2014 года . Проверено 24 декабря 2013 г.
  26. ^ Златарва, Нелли (1992). «Системы поддержания истины и их применение для проверки баз знаний экспертных систем». Обзор искусственного интеллекта . 6 : 67–110. дои : 10.1007/bf00155580. S2CID  24696160.
  27. ^ Левеск, Гектор; Брахман, Рональд (1985). «Фундаментальный компромисс в представлении и рассуждении знаний». В Рональде Брахмане и Гекторе Дж. Левеске (ред.). Чтения по представлению знаний . Морган Кауфманн. стр. 41–70. ISBN 978-0-934613-01-9.
  28. ^ Рассел, Стюарт Дж.; Норвиг, Питер (2010), Искусственный интеллект: современный подход (3-е изд.), Аппер-Седл-Ривер, Нью-Джерси: Прентис-Холл, ISBN 0-13-604259-7 , стр. 437-439 
  29. ^ Хейс П., Наивная физика I: Онтология жидкостей. Отчет Университета Эссекса, 1978 г., Эссекс, Великобритания.
  30. ^ Дэвис Р., Шроб Х.Э., Представление структуры и поведения цифрового оборудования, Компьютер IEEE, Специальный выпуск о представлении знаний, 16 (10): 75-82.

дальнейшее чтение

Внешние ссылки

Викискладе есть медиафайлы, связанные с представлением знаний .