Эффект ИИ возникает, когда наблюдатели не принимают поведение программы искусственного интеллекта за «настоящий» интеллект. [1]
Автор Памела МакКордак пишет: «Это часть истории области искусственного интеллекта, когда каждый раз, когда кто-то придумывал, как заставить компьютер что-то делать — хорошо играть в шашки, решать простые, но относительно неформальные задачи — находился хор критиков, которые говорили: «Это не мышление»». [2] Исследователь Родни Брукс жалуется: «Каждый раз, когда мы придумываем что-то, это перестает быть волшебством; мы говорим: «О, это всего лишь вычисление»». [3]
Определение
«Эффект ИИ» относится к явлению, когда либо определение ИИ, либо концепция интеллекта корректируются, чтобы исключить возможности, которыми овладели системы ИИ. Это часто проявляется в том, что задачи, которые ИИ теперь может успешно выполнять, больше не считаются частью ИИ, или в том, что само понятие интеллекта переопределяется, чтобы исключить достижения ИИ. [4] [2] [1] Эдвард Гейст приписывает Джону Маккарти создание термина «эффект ИИ» для описания этого явления. [4]
МакКордак называет это «странным парадоксом», что «практические успехи ИИ, вычислительные программы, которые действительно достигли разумного поведения, вскоре были ассимилированы в любой прикладной области, в которой они были признаны полезными, и стали молчаливыми партнерами наряду с другими подходами к решению проблем, что оставило исследователей ИИ иметь дело только с «неудачами», крепкими орешками, которые пока не удалось расколоть». [5] Это пример перемещения ворот . [6]
Дуглас Хофштадтер цитирует это [7], как и многие другие комментаторы. [8]
Когда проблемы еще не формализованы, их все еще можно охарактеризовать с помощью модели вычислений , включающей человеческие вычисления . Вычислительная нагрузка проблемы делится между компьютером и человеком: одна часть решается компьютером, а другая — человеком. Такая формализация называется машиной Тьюринга с участием человека . [9]
Приложения ИИ становятся мейнстримом
Программное обеспечение и алгоритмы, разработанные исследователями ИИ, теперь интегрированы во многие приложения по всему миру, не называясь на самом деле ИИ. Эта недооценка известна из таких различных областей, как компьютерные шахматы , [10] маркетинг , [11] сельскохозяйственная автоматизация [8] и гостеприимство . [12]
Майкл Суэйн сообщает: «В наши дни достижения в области ИИ не так широко рекламируются как достижения в области искусственного интеллекта, но часто рассматриваются как достижения в какой-то другой области». «ИИ стал более важным, поскольку стал менее заметным», — говорит Патрик Уинстон . «В наши дни трудно найти большую систему, которая не работает, отчасти из-за идей, разработанных или созревших в мире ИИ». [13]
По словам Стоттлера Хенке, «Огромные практические преимущества приложений ИИ и даже существование ИИ во многих программных продуктах остаются в значительной степени незамеченными многими, несмотря на уже широко распространенное использование методов ИИ в программном обеспечении. Это эффект ИИ. Многие маркетологи не используют термин «искусственный интеллект», даже когда продукты их компаний полагаются на некоторые методы ИИ. Почему бы и нет?» [11]
Марвин Мински пишет: «Этот парадокс возник из-за того, что всякий раз, когда исследовательский проект в области ИИ делал полезное новое открытие, этот продукт обычно быстро выделялся в новую научную или коммерческую специальность со своим собственным отличительным названием. Эти изменения в названии заставили сторонних наблюдателей задаться вопросом: почему мы видим так мало прогресса в центральной области искусственного интеллекта?» [14]
Ник Бостром замечает, что «большая часть передовых разработок в области ИИ проникла в общие приложения, часто даже не называясь ИИ, поскольку как только что-то становится достаточно полезным и распространенным, оно больше не называется ИИ» [15] .
Чтобы избежать проблемы эффекта ИИ, редакторы специального выпуска IEEE Software , посвященного ИИ и программной инженерии, рекомендуют не переоценивать и не преувеличивать реальные достижимые результаты с самого начала. [17]
Организация Bulletin of the Atomic Scientists рассматривает эффект ИИ как всемирную стратегическую военную угрозу. [4] Они указывают, что это скрывает тот факт, что применение ИИ уже нашло свое применение в вооруженных силах США и СССР во время Холодной войны . [4] Инструменты ИИ для консультирования людей относительно развертывания оружия были разработаны обеими сторонами и получили очень ограниченное применение в то время. [4] Они считают, что эта постоянно меняющаяся неспособность распознать ИИ продолжает подрывать человеческое распознавание угроз безопасности в настоящее время. [4]
Некоторые эксперты полагают, что влияние ИИ продолжится, поскольку достижения в области ИИ постоянно вызывают возражения и переосмысливают общественные ожидания. [18] [19] [20] Некоторые также полагают, что влияние ИИ расширится и включит в себя отказ от специализированных искусственных интеллектов. [20]
Наследие зимы ИИ
В начале 1990-х годов, во время второй «зимы ИИ», многие исследователи ИИ обнаружили, что они могли бы получить больше финансирования и продать больше программного обеспечения, если бы избегали дурной славы «искусственного интеллекта» и вместо этого делали вид, что их работа вообще не имеет ничего общего с интеллектом. [ необходима цитата ]
Патти Таскарелла писала в 2006 году: «Некоторые считают, что слово «робототехника» на самом деле несет в себе клеймо, которое подрывает шансы компании на финансирование». [21]
Сохранение места для человечества на вершине цепи бытия
Майкл Кернс предполагает, что «люди подсознательно пытаются сохранить за собой некую особую роль во вселенной». [22]
Игнорируя искусственный интеллект, люди могут продолжать чувствовать себя уникальными и особенными. Кернс утверждает, что изменение восприятия, известное как эффект ИИ, можно проследить до того, как тайна удаляется из системы. Возможность проследить причину событий подразумевает, что это форма автоматизации, а не интеллекта. [ необходима цитата ]
Похожий эффект был отмечен в истории познания животных и в исследованиях сознания , где каждый раз, когда способность, ранее считавшаяся уникальной для человека, обнаруживается у животных (например, способность изготавливать орудия труда или проходить тест с зеркалом ), общая важность этой способности обесценивается. [ необходима цитата ]
Герберт А. Саймон , когда его спросили о недостаточном освещении ИИ в прессе в то время, сказал: «Искусственный интеллект отличался тем, что сама его идея вызывала в некоторых человеческих сердцах настоящий страх и враждебность. Поэтому вы получаете очень сильные эмоциональные реакции. Но это нормально. Мы с этим справимся». [23]
Мюллер в 1987 году предложил сравнить ИИ с человеческим интеллектом, создав стандарт машинного интеллекта человеческого уровня. [24] Тем не менее, это страдает от эффекта ИИ, когда в качестве стандарта используются разные люди. [24]
Deep Blue побеждает Каспарова
Когда в 1997 году шахматный компьютер IBM Deep Blue успешно победил Гарри Каспарова , общественное восприятие шахматной игры изменилось: из сложной умственной задачи она превратилась в рутинную операцию. [25]
Общественность жаловалась, что Deep Blue использовал только «методы грубой силы» и это не был настоящий интеллект. [10] Примечательно, что Джон Маккарти , пионер ИИ и основатель термина «искусственный интеллект», был разочарован Deep Blue. Он описал его как простую машину грубой силы, которая не имела никакого глубокого понимания игры. Маккарти также критиковал, насколько широко распространен эффект ИИ («Как только он работает, никто больше не называет его ИИ» [26] [27] : 12 ), но в этом случае не считал, что Deep Blue был хорошим примером. [26]
Проблема, с которой регулярно сталкиваются сторонники ИИ, заключается в следующем: когда мы знаем, как машина делает что-то «умное», она перестает считаться умной. Если я обыграю чемпиона мира по шахматам, меня будут считать очень умным.
^ ab Haenlein, Michael; Kaplan, Andreas (2019). «Краткая история искусственного интеллекта: о прошлом, настоящем и будущем искусственного интеллекта». California Management Review . 61 (4): 5–14. doi : 10.1177/0008125619864925. S2CID 199866730.
^ ab McCorduck 2004, стр. 204
↑ Кан, Дженнифер (март 2002 г.). «It's Alive». Wired . Vol. 10, no. 30. Получено 24 августа 2008 г.
^ abcdef Гейст, Эдвард (2016). «Уже слишком поздно останавливать гонку вооружений ИИ — вместо этого мы должны ею управлять». Бюллетень ученых-атомщиков . 72 (5: Психология гибели). Тейлор и Фрэнсис : 318–321. Bibcode : 2016BuAtS..72e.318G. doi : 10.1080/00963402.2016.1216672. S2CID 151967826. Бюллетень ученых-атомщиков .
^ Как цитирует Хофштадтер (1980, стр. 601). Ларри Теслер на самом деле чувствует, что его неправильно процитировали: см. его примечание в разделе «Изречения» [1].
^ ab Bhatnagar, Roheet; Tripathi, Kumar; Bhatnagar, Nitu; Panda, Chandan (2022). Цифровая сельскохозяйственная революция: инновации и проблемы в сельском хозяйстве через технологические сбои . Хобокен, Нью-Джерси , США: Scrivener Publishing LLC ( John Wiley & Sons, Inc. ). стр. 143–170. doi : 10.1002/9781119823469. ISBN978-1-119-82346-9. OCLC 1314054445. ISBN 9781119823339 .
^ Дафна Шахаф и Эяль Амир (2007) К теории полноты ИИ. Commonsense 2007, 8-й Международный симпозиум по логическим формализациям здравого смысла.
^ ab McCorduck 2004, стр. 433
^ ab Stottler Henke. "AI Glossary". Архивировано из оригинала 2008-05-09 . Получено 2009-02-23 .
↑ Свейн, Майкл (5 сентября 2007 г.). «ИИ — снова в порядке! ИИ снова на подъеме?». Доктор Доббс.
^ Марвин Мински . "Эпоха интеллектуальных машин: мысли об искусственном интеллекте". Архивировано из оригинала 28-06-2009.
↑ Цитата из статьи «ИИ превзойдет возможности человеческого мозга». CNN.com. 26 июля 2006 г.
^ Наял, Кирти; Раут, Ракеш; Приядаршини, Прагати; Наркхеде, Балкришна Экнат; Казанчоглу, Йигит; Нарване, Вайбхав (2021). «Изучение роли искусственного интеллекта в управлении рисками в цепочке поставок сельскохозяйственной продукции для противодействия последствиям пандемии COVID-19». Международный журнал по управлению логистикой . 33 (3): 744–772. doi :10.1108/IJLM-12-2020-0493. S2CID 237807857.
^ Стоун, Питер; Брукс, Родни; Бриньолфссон, Эрик; Кало, Райан; Этциони, Орен; Хагер, Грег; Хиршберг, Джулия; Кальянакришнан, Шиварам; Камар, Эдже; Краус, Сарит; Лейтон-Браун, Кевин; Паркс, Дэвид; Пресс, Уильям; Саксениан, АннаЛи; Шах, Джули; Тамбе, Милинд; Теллер, Астро. «Определение ИИ». «Искусственный интеллект и жизнь в 2030 году». Столетнее исследование искусственного интеллекта: отчет исследовательской группы 2015–2016 годов. Стэнфорд, Калифорния : Стэнфордский университет . Получено 6 сентября 2016 года .
^ Пресс, Джил (2022). «Проблема с ИИ: человеческий интеллект». Журнал Forbes .
^ ab Bjola, Corneliu (2022). «ИИ для развития: последствия для теории и практики». Oxford Development Studies . 50 (1). Routledge : 78–90. doi : 10.1080/13600818.2021.1960960 . S2CID 238851395.
↑ Пэтти Таскарелла (11 августа 2006 г.). «Робототехнические компании испытывают трудности с привлечением средств, венчурный капитал стесняется». Pittsburgh Business Times .
↑ Флэм, Фэй (15 января 2004 г.). «Новый робот совершает скачок в интеллектуальных возможностях». Philadelphia Inquirer .доступно на Philly.com
^ Reuben L. Hann. (1998). «A Conversation with Herbert Simon». Gateway . IX (2): 12–13. Архивировано из оригинала 25 февраля 2015 г.(Gateway опубликован Центром анализа информации по эргономике экипажных систем, авиабаза Райт-Паттерсон )
Gleick, James , «Судьба свободной воли» (рецензия на книгу Kevin J. Mitchell, Free Agents: How Evolution Gave Us Free Will , Princeton University Press, 2023, 333 стр.), The New York Review of Books , т. LXXI, № 1 (18 января 2024 г.), стр. 27–28, 30. « Самостоятельность — это то, что отличает нас от машин. Для биологических существ разум и цель возникают из действий в мире и переживания последствий. Искусственный интеллект — бестелесный, чуждый крови, поту и слезам — не имеет для этого никаких оснований». (стр. 30.)
Маркус, Гэри , «Я человек?: Исследователям нужны новые способы отличить искусственный интеллект от естественного», Scientific American , т. 316, № 3 (март 2017 г.), стр. 58–63. Необходимы множественные тесты эффективности искусственного интеллекта , потому что «так же, как не существует единого теста на спортивное мастерство, не может быть и одного окончательного теста на интеллект ». Один из таких тестов, «Construction Challenge», будет проверять восприятие и физическое действие — «два важных элемента разумного поведения, которые полностью отсутствовали в оригинальном тесте Тьюринга ». Другое предложение состояло в том, чтобы дать машинам те же стандартизированные тесты по науке и другим дисциплинам, которые проходят школьники. Пока что непреодолимым камнем преткновения для искусственного интеллекта является неспособность к надежному разрешению неоднозначности . «[П]рактически каждое предложение [которое генерируют люди] неоднозначно , часто в нескольких отношениях». Яркий пример — «проблема разрешения неоднозначности местоимений»: машина не имеет возможности определить, к кому или к чему относится местоимение в предложении, например «он», «она» или «оно».
Ройвайнен, Эка, «IQ ИИ: ChatGPT успешно прошел [стандартный тест на интеллект], но показал, что интеллект нельзя измерить только с помощью IQ », Scientific American , т. 329, № 1 (июль/август 2023 г.), стр. 7. «Несмотря на высокий IQ, ChatGPT не справляется с задачами, требующими реальных человеческих рассуждений или понимания физического и социального мира... ChatGPT, похоже, не способен рассуждать логически и пытается полагаться на свою обширную базу данных... фактов, полученных из онлайн-текстов».
Внешние ссылки
Филлипс, Эверард М. (1999). Если это работает, это не ИИ: коммерческий взгляд на стартапы в области искусственного интеллекта (PDF) (диссертация). MIT . S2CID 112415591 . Получено 16.05.2023 .
Диссертация бакалавра , но цитируется A. Poggi; G. Rimassa; P. Turci (октябрь 2002 г.). «Что агентское промежуточное программное обеспечение может (и должно) сделать для вас». Прикладной искусственный интеллект . 16 (9–10): 677–698. doi :10.1080/08839510290030444. ISSN 0883-9514. Wikidata Q58188053.