Эффект ИИ возникает, когда зрители не принимают во внимание поведение программы искусственного интеллекта , утверждая, что это не «настоящий» интеллект. [1]
Автор Памела МакКордак пишет: «Это часть истории области искусственного интеллекта: каждый раз, когда кто-то придумывал, как заставить компьютер что-то делать — хорошо играть в шашки, решать простые, но относительно неформальные задачи — хор критиков говорил: , «это не мышление». [2] Исследователь Родни Брукс жалуется: «Каждый раз, когда мы что-то выясняем, это перестает быть волшебством; мы говорим: «О, это всего лишь вычисление»». [3]
Определение
«Эффект ИИ» — это образ мышления, тенденция переопределять ИИ следующим образом: «ИИ — это все, что еще не было сделано». Это распространенное общественное заблуждение: как только ИИ успешно решает проблему, этот метод решения больше не находится в сфере ИИ. Гейст считает, что Джон Маккарти дал этому явлению название «эффект искусственного интеллекта». [4]
МакКордак называет «странным парадоксом» тот факт, что «практические успехи искусственного интеллекта, вычислительные программы, которые действительно достигли разумного поведения, вскоре были ассимилированы в любой области приложений, в которой они оказались полезными, и стали молчаливыми партнерами наряду с другими подходами к решению проблем, которые оставили Исследователи ИИ должны иметь дело только с «неудачами», с крепкими орешками, которые еще не удалось расколоть». [5] Это пример перемещения стоек ворот . [6]
Теорема Теслера :
«ИИ — это то, что еще не было сделано». — Ларри Теслер
Дуглас Хофштадтер цитирует это [7] , как и многие другие комментаторы. [8]
Когда проблемы еще не формализованы, их все равно можно охарактеризовать с помощью модели вычислений , включающей человеческие вычисления . Вычислительная нагрузка задачи делится между компьютером и человеком: одна часть решается компьютером, а другая часть — человеком. Эта формализация называется машиной Тьюринга с участием человека . [9]
Приложения искусственного интеллекта становятся мейнстримом
Программное обеспечение и алгоритмы, разработанные исследователями ИИ, теперь интегрированы во многие приложения по всему миру, хотя на самом деле они не называются ИИ. Эта недооценка известна в таких различных областях, как компьютерные шахматы , [10] маркетинг , [11] автоматизация сельского хозяйства [8] и гостиничный бизнес . [12]
Майкл Суэйн сообщает: «В наши дни достижения искусственного интеллекта не превозносятся как искусственный интеллект, а часто рассматриваются как достижения в какой-то другой области». «ИИ стал более важным, поскольку он стал менее заметным», — говорит Патрик Уинстон . «В наши дни трудно найти большую систему, которая не работает, отчасти из-за идей, разработанных или созревших в мире ИИ». [13]
По словам Стоттлера Хенке: «Огромные практические преимущества приложений ИИ и даже существование ИИ во многих программных продуктах остаются многими незамеченными, несмотря на то, что методы ИИ уже широко используются в программном обеспечении. Это и есть эффект ИИ. Многие маркетологи не замечают этого». «Я не использую термин «искусственный интеллект», даже если продукты их компании основаны на некоторых методах искусственного интеллекта. Почему бы и нет?» [11]
Марвин Мински пишет: «Этот парадокс возник в результате того, что всякий раз, когда исследовательский проект ИИ делал новое полезное открытие, этот продукт обычно быстро превращался в новую научную или коммерческую специальность со своим собственным отличительным названием. Эти изменения в названии заставляли посторонних задавать вопросы. Почему мы видим так мало прогресса в центральной области искусственного интеллекта?» [14]
Ник Бостром отмечает: «Множество передовых ИИ проникло в общие приложения, часто даже не называясь ИИ, потому что, как только что-то становится достаточно полезным и распространенным, его больше не называют ИИ». [15]
Чтобы избежать проблемы с эффектом ИИ, редакторы специального выпуска IEEE Software, посвященного ИИ и разработке программного обеспечения, рекомендуют для начала не переоценивать и не раздувать шумиху — реально достижимые результаты. [17]
Организация « Бюллетень ученых-атомщиков» рассматривает эффект ИИ как глобальную стратегическую военную угрозу. [4] Они отмечают, что это скрывает тот факт, что применение ИИ уже нашло свое применение как в американских, так и в советских вооруженных силах во время холодной войны . [4] Инструменты искусственного интеллекта для консультирования людей относительно размещения оружия были разработаны обеими сторонами и в то время использовались очень ограниченно. [4] Они полагают, что эта постоянно меняющаяся неспособность признать ИИ продолжает подрывать признание человеком угроз безопасности в наши дни. [4]
Некоторые эксперты полагают, что эффект ИИ будет продолжаться, поскольку достижения в области ИИ постоянно вызывают возражения и переосмысление общественных ожиданий. [18] [19] [20] Некоторые также полагают, что эффект ИИ будет расширяться и включать увольнение специализированных искусственных интеллектов. [20]
Наследие зимы ИИ
В начале 1990-х годов, во время второй « зимы ИИ », многие исследователи ИИ обнаружили, что они могли бы получить больше финансирования и продать больше программного обеспечения, если бы избегали дурного имени «искусственный интеллект» и вместо этого делали вид, что их работа вообще не имеет ничего общего с интеллектом. . [ нужна цитата ]
Пэтти Таскарелла писала в 2006 году: «Некоторые считают, что слово «робототехника» на самом деле несет в себе стигму, которая снижает шансы компании на финансирование». [21]
Сохранение места человечества на вершине цепи бытия
Майкл Кернс предполагает, что «люди подсознательно пытаются сохранить за собой какую-то особую роль во Вселенной». [22]
Не обращая внимания на искусственный интеллект, люди могут продолжать чувствовать себя уникальными и особенными. Кернс утверждает, что изменение восприятия, известное как эффект ИИ, можно объяснить устранением тайны из системы. Возможность проследить причину событий подразумевает, что это форма автоматизации, а не интеллекта. [ нужна цитата ]
Подобный эффект был отмечен в истории познания животных и в исследованиях сознания , где каждый раз, когда у животных обнаруживаются способности, которые раньше считались уникальными для человека (например, способность изготавливать инструменты или проходить зеркальный тест ), общая важность этой емкости устарела. [ нужна цитата ]
Герберт А. Саймон , когда его спросили о недостаточном освещении ИИ в прессе в то время, сказал: «Что отличало ИИ от других, так это то, что сама идея о нем вызывает настоящий страх и враждебность в некоторых человеческих сердцах. Таким образом, вы становитесь очень сильными эмоциями». реакции. Но это нормально. Мы с этим смиримся». [23]
Мюллер в 1987 году предложил сравнить ИИ с человеческим интеллектом, создав стандарт машинного интеллекта человеческого уровня. [24] Тем не менее, это страдает от эффекта ИИ, когда в качестве стандарта используются разные люди. [24]
Когда в 1997 году шахматному компьютеру IBM Deep Blue удалось победить Гарри Каспарова , общественное восприятие игры в шахматы превратилось из сложной умственной задачи в рутинную операцию. [25]
Общественность жаловалась, что Deep Blue использовала только «методы грубой силы», а не настоящую разведку. [10] Примечательно, что Джон Маккарти , пионер искусственного интеллекта и основатель термина «искусственный интеллект», был разочарован Deep Blue. Он описал ее как просто грубую машину, не обладающую глубоким пониманием игры. Маккарти также раскритиковал бы широкое распространение эффекта ИИ («Как только он сработает, никто больше не будет называть это ИИ» [26] [27] : 12 ), но в данном случае не считал Deep Blue хорошим примером. [26]
«Проблема, с которой регулярно сталкиваются сторонники ИИ, заключается в следующем: когда мы знаем, как машина делает что-то «разумное», она перестает считаться разумной. Если я обыграю чемпиона мира по шахматам, меня будут считать очень умным человеком». [28]
^ Цитируется Хофштадтером (1980, стр. 601). Ларри Теслер на самом деле чувствует, что его неправильно процитировали: см. его примечание в разделе «Поговорки» в [1].
^ аб Бхатнагар, Рохит; Трипати, Кумар; Бхатнагар, Ниту; Панда, Чандан (2022). Цифровая сельскохозяйственная революция: инновации и проблемы в сельском хозяйстве через технологические прорывы . Хобокен, Нью-Джерси , США: Scrivener Publishing LLC ( John Wiley & Sons, Inc. ). стр. 143–170. дои : 10.1002/9781119823469. ISBN978-1-119-82346-9. OCLC 1314054445. ISBN 9781119823339 .
^ Дафна Шахаф и Эяль Амир (2007) К теории полноты ИИ. Здравый смысл 2007, 8-й Международный симпозиум по логическим формализациям здравого смысла.
^ аб МакКордак 2004, с. 433
^ аб Стоттлер Хенке. «Глоссарий ИИ». Архивировано из оригинала 9 мая 2008 г. Проверено 23 февраля 2009 г.
^ Стоун, Питер; Брукс, Родни; Бриньольфссон, Эрик; Кало, Райан; Эциони, Орен; Хагер, Грег; Хиршберг, Джулия; Кальянакришнан, Шиварам; Камар, Эдже; Краус, Сарит; Лейтон-Браун, Кевин; Паркс, Дэвид; Пресс, Уильям; Саксениан, АннаЛи; Шах, Джули; Тамбе, Милинд; Теллер, Астро. «Определение ИИ». «Искусственный интеллект и жизнь в 2030 году». Столетнее исследование искусственного интеллекта: отчет исследовательской группы за 2015–2016 годы. Стэнфорд, Калифорния : Стэнфордский университет . Проверено 6 сентября 2016 г.
^ Пресс, Гил (2022). «Проблема с ИИ: человеческий интеллект». Журнал Форбс .
^ Аб Бьола, Корнелиу (2022). «ИИ для развития: последствия для теории и практики». Оксфордские исследования развития . Рутледж . 50 (1): 78–90. дои : 10.1080/13600818.2021.1960960 . S2CID 238851395.
↑ Пэтти Таскарелла (11 августа 2006 г.). «Фирмы, занимающиеся робототехникой, сталкиваются с трудностями при сборе средств, а венчурный капитал стесняется». Питтсбург Бизнес Таймс .
^ Рубен Л. Ханн. (1998). «Разговор с Гербертом Саймоном». Шлюз . IX (2): 12–13. Архивировано из оригинала 25 февраля 2015 года.(Шлюз опубликован Центром анализа информации по эргономике экипажа, авиабаза Райт-Паттерсон )
Глейк, Джеймс , «Судьба свободы воли» (обзор книги Кевина Дж. Митчелла, « Свободные агенты: как эволюция дала нам свободу воли» , Princeton University Press, 2023, 333 стр.), The New York Review of Books , vol. LXXI, нет. 1 (18 января 2024 г.), стр. 27–28, 30. « Свобода действий – это то, что отличает нас от машин. Для биологических существ разум и цель возникают в результате действий в мире и переживания последствий. Искусственный интеллект – бестелесный, чужой крови. , пот и слезы – не имеют для этого повода». (стр. 30.)
Маркус, Гэри , «Я человек?: Исследователям нужны новые способы отличить искусственный интеллект от естественного», Scientific American , vol. 316, нет. 3 (март 2017 г.), стр. 58–63. Необходимы многочисленные тесты эффективности искусственного интеллекта , потому что «так же, как не существует единого теста спортивного мастерства, не может быть и одного окончательного теста интеллекта ». Один из таких тестов, «Конструкторский вызов», проверит восприятие и физические действия — «два важных элемента разумного поведения, которые полностью отсутствовали в оригинальном тесте Тьюринга ». Другое предложение заключалось в том, чтобы дать машинам те же стандартизированные тесты по естественным наукам и другим дисциплинам, которые сдают школьники. Пока что непреодолимым камнем преткновения на пути к искусственному интеллекту является неспособность к надежному устранению неоднозначности . «[П]рактически каждое предложение, [которое генерируют люди] двусмысленно , часто во многих смыслах». Яркий пример известен как «проблема устранения неоднозначности местоимений»: машина не может определить, к кому или к чему относится местоимение в предложении, например «он», «она» или «оно».
Ройвайнен, Эка, «IQ ИИ: ChatGPT успешно прошел [стандартный тест интеллекта], но показал, что интеллект нельзя измерить только с помощью IQ », Scientific American , vol. 329, нет. 1 (июль/август 2023 г.), с. 7. «Несмотря на свой высокий IQ, ChatGPT не справляется с задачами, которые требуют реального человеческого мышления или понимания физического и социального мира... ChatGPT, похоже, неспособен рассуждать логически и пытается полагаться на свою обширную базу данных... полученных фактов. из онлайн-текстов».
Внешние ссылки
Филлипс, Эверард М. (1999). Если это работает, то это не ИИ: коммерческий взгляд на стартапы в области искусственного интеллекта (PDF) (Диссертация). Массачусетский технологический институт . S2CID 112415591 . Проверено 16 мая 2023 г.
Бакалаврская диссертация , но цитированная А. Поджи; Г. Римасса; П. Турчи (октябрь 2002 г.). «Что промежуточное программное обеспечение агента может (и должно) сделать для вас». Прикладной искусственный интеллект . 16 (9–10): 677–698. дои : 10.1080/08839510290030444. ISSN 0883-9514. Викиданные Q58188053.