Искусственная глупость — термин, используемый в области компьютерной науки для обозначения метода « упрощения » компьютерных программ с целью преднамеренного внесения ошибок в их ответы.
Алан Тьюринг в своей статье 1950 года «Вычислительная техника и интеллект » предложил тест на интеллект, который с тех пор стал известен как тест Тьюринга . [1] Хотя существует ряд различных версий, оригинальный тест, описанный Тьюрингом как основанный на « игре в имитацию », включал «машинный интеллект» (компьютер, работающий под управлением программы ИИ), женщину-участницу и следователь. И ИИ, и женщина-участница должны были утверждать, что они женщины, а задача следователь заключалась в том, чтобы выяснить, кто из участников был женщиной, а кто нет, изучив ответы участников на напечатанные вопросы. [1] Хотя неясно, имел ли Тьюринг в виду, что следователь должен был знать, что один из участников был компьютером, при обсуждении некоторых возможных возражений против его аргумента Тьюринг выразил обеспокоенность тем, что «машины не могут совершать ошибки». [1]
Утверждается, что следователь мог отличить машину от человека, просто задав им ряд арифметических задач. Машина была бы разоблачена из-за своей смертоносной точности.
— Тьюринг, 1950, стр. 448
Как тогда заметил Тьюринг, ответ на это прост: машина не должна пытаться «давать правильные ответы на арифметические задачи». [1] Вместо этого в ответы компьютера следует вносить преднамеренные ошибки.
В компьютерной науке существует по крайней мере два основных применения искусственной глупости: создание преднамеренных ошибок в чат-ботах, пытающихся пройти тест Тьюринга или иным образом обмануть участника, заставив его поверить в то, что он человек; и преднамеренное ограничение компьютерного ИИ в видеоиграх с целью контроля сложности игры.
Первый конкурс на премию Лёбнера был проведён в 1991 году. Как сообщалось в The Economist , победившая работа включала преднамеренные ошибки, описанные The Economist как «искусственная глупость», чтобы обмануть судей и заставить их поверить, что это был человек. [2] Этот приём остался частью последующих конкурсов на премию Лёбнера и отражает проблему, впервые поднятую Тьюрингом.
Ларс Лиден утверждает, что хороший игровой дизайн подразумевает поиск баланса между «интеллектом» компьютера и способностью игрока побеждать. Тонко настраивая уровень «искусственной глупости», можно создавать управляемые компьютером игры, которые позволяют игроку побеждать, но при этом «не выглядеть неразумным». [3]
Существует множество способов преднамеренно ввести плохое принятие решений в алгоритмы поиска. Возьмем , к примеру, алгоритм минимакс . Алгоритм минимакс — это состязательный алгоритм поиска, который широко используется в играх, где требуется, чтобы более одного игрока соревновались друг с другом. Основная цель этого алгоритма — выбрать ход, который максимизирует ваши шансы на победу, и избегать ходов, которые максимизируют шансы на победу вашего противника. Такой алгоритм был бы чрезвычайно полезен для компьютера, поскольку компьютеры способны искать на тысячи ходов вперед. Чтобы «упростить» этот алгоритм и допустить различные уровни сложности, необходимо настроить эвристические функции. Обычно в выигрышных состояниях даются огромные очки. Настройка эвристики путем уменьшения таких больших выплат снизит вероятность выбора алгоритмом выигрышного состояния.
Создание эвристических функций, допускающих глупость, сложнее, чем можно подумать. Если эвристика допускает лучший ход, компьютерный противник будет слишком всезнающим, что сделает игру раздражающей и неинтересной. Но если эвристика плохая, игра также может быть неинтересной. Поэтому баланс хороших и плохих ходов в состязательной игре зависит от хорошо реализованной эвристической функции.
В редакционной статье The Economist за 1993 год утверждается, что нет «практических оснований» пытаться создать машину, которая имитирует поведение человека, поскольку цель компьютера — выполнять задачи, которые человек не может выполнить в одиночку или, по крайней мере, не так эффективно. Обсуждая победившую запись в конкурсе Тьюринга 1991 года, которая была запрограммирована на внесение преднамеренных ошибок при наборе текста в свой разговор, чтобы обмануть судей, редакционная статья спрашивает: «Кому нужен компьютер, который не умеет печатать?» [2]