Чат-бот ( первоначально chatterbot ) [1] — это программное приложение или веб-интерфейс, предназначенный для имитации человеческого разговора посредством текстового или голосового взаимодействия. [2] [3] [4] Современные чат-боты, как правило, находятся в сети и используют генеративные системы искусственного интеллекта , которые способны поддерживать разговор с пользователем на естественном языке и имитировать поведение человека в качестве собеседника. Такие чат-боты часто используют глубокое обучение и обработку естественного языка , но более простые чат-боты существуют уже десятилетиями.
Хотя чат-боты существуют с конца 1960-х годов, эта область привлекла широкое внимание в начале 2020-х годов из-за популярности ChatGPT от OpenAI , [5] [6] за которым последовали альтернативы, такие как Copilot от Microsoft и Gemini от Google . [7] Такие примеры отражают недавнюю практику базирования таких продуктов на широких фундаментальных больших языковых моделях , таких как GPT-4 или языковая модель Gemini , которые настраиваются таким образом, чтобы нацеливаться на конкретные задачи или приложения (например, имитируя человеческий разговор, в случае чат-ботов). Чат-боты также могут быть разработаны или настроены для дальнейшего нацеливания на еще более конкретные ситуации и/или конкретные предметные области. [8]
Основная область, где чат-боты уже давно используются, — это обслуживание и поддержка клиентов с различными видами виртуальных помощников . [9] Компании, охватывающие широкий спектр отраслей, начали использовать новейшие технологии генеративного искусственного интеллекта для поддержки более продвинутых разработок в таких областях. [8]
Поскольку чат-боты работают, предсказывая ответы, а не зная смысла своих ответов, это означает, что они могут производить связно звучащий, но неточный или сфабрикованный контент, называемый « галлюцинациями ». Когда люди используют и применяют контент чат-бота, загрязненный галлюцинациями, это приводит к «ботдерьму». [10] Учитывая растущее принятие и использование чат-ботов для создания контента, есть опасения, что эта технология значительно снизит затраты людей на создание, распространение и потребление ботдеря. [11]
В 1950 году была опубликована знаменитая статья Алана Тьюринга « Вычислительная техника и интеллект » [12] , в которой в качестве критерия интеллекта предлагалось то, что сейчас называется тестом Тьюринга . Этот критерий зависит от способности компьютерной программы выдавать себя за человека в письменном разговоре в реальном времени с судьей-человеком до такой степени, что судья не может достоверно отличить — на основе только содержания разговора — программу от реального человека. Известность предложенного Тьюрингом теста стимулировала большой интерес к программе Джозефа Вейценбаума ELIZA , опубликованной в 1966 году, которая, казалось, могла обмануть пользователей, заставив их поверить, что они разговаривают с настоящим человеком. Однако сам Вейценбаум не утверждал, что ELIZA была действительно разумной, и введение к его статье представляло ее скорее как упражнение по разоблачению:
В искусственном интеллекте машины заставляют себя вести чудесными способами, часто достаточными, чтобы ослепить даже самого опытного наблюдателя. Но как только конкретная программа разоблачена, как только ее внутренняя работа объяснена, ее магия рассыпается; она предстает как простой набор процедур. Наблюдатель говорит себе: «Я мог бы написать это». С этой мыслью он перемещает рассматриваемую программу с полки с надписью «интеллектуальная» на ту, что зарезервирована для диковинок. Цель этой статьи — вызвать именно такую переоценку программы, которая вот-вот будет «объяснена». Мало какая программа когда-либо нуждалась в этом больше. [13]
Ключевой метод работы ELIZA (который с тех пор копируют разработчики чат-ботов) включает в себя распознавание ключевых слов или фраз во входных данных и вывод соответствующих заранее подготовленных или запрограммированных ответов, которые могут продвигать разговор вперед явно осмысленным образом (например, отвечая на любой ввод, содержащий слово «МАМА», фразой «РАССКАЖИТЕ МНЕ БОЛЬШЕ О СВОЕЙ СЕМЬЕ»). [13] Таким образом, создается иллюзия понимания, даже если задействованная обработка была просто поверхностной. ELIZA показала, что такую иллюзию на удивление легко создать, потому что человеческие судьи так готовы давать кредит доверия, когда разговорные ответы можно интерпретировать как «интеллектуальные».
Разработчики интерфейсов пришли к пониманию того, что готовность людей интерпретировать вывод компьютера как действительно разговорный — даже если он на самом деле основан на довольно простом сопоставлении шаблонов — может быть использована в полезных целях. Большинство людей предпочитают работать с программами, которые похожи на человеческие, и это дает методам в стиле чат-ботов потенциально полезную роль в интерактивных системах, которым необходимо получать информацию от пользователей, при условии, что эта информация относительно проста и попадает в предсказуемые категории. Так, например, системы онлайн-помощи могут с пользой использовать методы чат-ботов для определения области помощи, которая требуется пользователям, потенциально предоставляя «более дружелюбный» интерфейс, чем более формальная система поиска или меню. Такое использование открывает перспективы перемещения технологии чат-ботов с «полки ... зарезервированной для диковинок» Вайценбаума на ту, которая отмечена как «действительно полезные вычислительные методы».
Среди наиболее известных ранних чат-ботов — ELIZA (1966) и PARRY (1972). [14] [15] [16] [17] Более поздние известные программы включают ALICE , Jabberwacky и DUDE ( Agence Nationale de la Recherche и CNRS 2006). В то время как ELIZA и PARRY использовались исключительно для имитации печатного разговора, многие чат-боты теперь включают другие функциональные возможности, такие как игры и возможности поиска в Интернете . В 1984 году была опубликована книга под названием « Борода полицейского наполовину построена» , предположительно написанная чат-ботом Racter (хотя программа в том виде, в котором она была выпущена, не могла этого сделать). [18]
С 1978 [19] и до некоторого времени после 1983 года [20] проект CYRUS под руководством Джанет Колоднер создал чат-бота, имитирующего Сайруса Вэнса (57-го государственного секретаря США ). Он использовал рассуждения на основе прецедентов и ежедневно обновлял свою базу данных, анализируя новости из United Press International . Программа не смогла обработать новостные сообщения после неожиданной отставки Сайруса Вэнса в апреле 1980 года, и команда создала другого чат-бота, имитирующего его преемника Эдмунда Маски . [21] [20]
Одной из актуальных областей исследований ИИ является обработка естественного языка . Обычно слабые области ИИ используют специализированное программное обеспечение или языки программирования, созданные специально для узкой требуемой функции. Например, ALICE использует язык разметки под названием AIML, [3], который специфичен для его функции как разговорного агента , и с тех пор был принят различными другими разработчиками, так называемых, Alicebots . Тем не менее, ALICE по-прежнему основан исключительно на методах сопоставления шаблонов без каких-либо возможностей рассуждения, тот же метод, который ELIZA использовала еще в 1966 году. Это не сильный ИИ, который потребовал бы разумности и способностей к логическому рассуждению .
Jabberwacky изучает новые ответы и контекст на основе взаимодействия с пользователем в реальном времени , а не на основе статической базы данных . Некоторые более поздние чат-боты также сочетают обучение в реальном времени с эволюционными алгоритмами , которые оптимизируют их способность общаться на основе каждого состоявшегося разговора. Тем не менее, в настоящее время не существует универсального разговорного искусственного интеллекта, и некоторые разработчики программного обеспечения сосредотачиваются на практическом аспекте, поиске информации .
Соревнования чат-ботов сосредоточены на тесте Тьюринга или более конкретных целях. Два таких ежегодных конкурса — это премия Лёбнера и The Chatterbox Challenge (последний недоступен с 2015 года, однако материалы все еще можно найти в веб-архивах). [22]
Чат-боты могут использовать искусственные нейронные сети в качестве языковой модели . Например, генеративные предварительно обученные трансформаторы (GPT), которые используют архитектуру трансформатора , стали обычным явлением для создания сложных чат-ботов. «Предварительное обучение» в его названии относится к начальному процессу обучения на большом текстовом корпусе , что обеспечивает прочную основу для того, чтобы модель хорошо выполняла последующие задачи с ограниченным количеством данных, специфичных для задачи. Примером чат-бота GPT является ChatGPT . [23] Несмотря на критику его точности и склонности к «галлюцинациям», то есть к уверенному выводу ложной информации и даже цитированию несуществующих источников, ChatGPT привлек внимание своими подробными ответами и историческими знаниями. Другим примером является BioGPT, разработанный Microsoft , который фокусируется на ответах на биомедицинские вопросы. [24] [25] В ноябре 2023 года Amazon анонсировала нового чат-бота под названием Q, который люди могут использовать на работе. [26]
DBpedia создала чат-бот во время GSoC 2017 года. [27] [28] [29] Он может общаться через Facebook Messenger (см. статью Master of Code Global).
Чат-боты многих компаний работают в приложениях обмена сообщениями или просто через SMS . Они используются для обслуживания клиентов B2C , продаж и маркетинга. [30]
В 2016 году Facebook Messenger позволил разработчикам размещать чат-ботов на своей платформе. За первые шесть месяцев для Messenger было создано 30 000 ботов, а к сентябрю 2017 года их число выросло до 100 000. [31]
С сентября 2017 года это также стало частью пилотной программы в WhatsApp. Авиакомпании KLM и Aeroméxico объявили о своем участии в тестировании; [32] [33] [34] [35] обе авиакомпании ранее запустили обслуживание клиентов на платформе Facebook Messenger.
Боты обычно появляются как один из контактов пользователя, но иногда могут выступать в качестве участников группового чата .
Многие банки, страховщики, медиакомпании, компании электронной коммерции, авиакомпании, гостиничные сети, розничные торговцы, поставщики медицинских услуг, государственные учреждения и сети ресторанов использовали чат-ботов для ответов на простые вопросы , повышения вовлеченности клиентов , [36] для продвижения и предложения дополнительных способов заказа у них. [37] Чат-боты также используются в маркетинговых исследованиях для сбора коротких ответов на опросы. [38]
Исследование 2017 года показало, что 4% компаний используют чат-ботов. [39] Согласно исследованию 2016 года, 80% предприятий заявили, что намерены использовать одного из них к 2020 году. [40]
Предыдущие поколения чат-ботов присутствовали на веб-сайтах компаний, например, Ask Jenn от Alaska Airlines , дебютировавшая в 2008 году [41] или виртуальный агент по обслуживанию клиентов Expedia , запущенный в 2011 году. [41] [42] Новое поколение чат-ботов включает в себя «Rocky» на базе IBM Watson , представленного в феврале 2017 года нью-йоркской компанией электронной коммерции Rare Carat для предоставления информации потенциальным покупателям бриллиантов. [43] [44]
Используется маркетологами для написания последовательностей сообщений, очень похожих на последовательность автоответчика . Такие последовательности могут быть вызваны согласием пользователя или использованием ключевых слов во взаимодействиях с пользователем. После срабатывания триггера последовательность сообщений доставляется до следующего ожидаемого ответа пользователя. Каждый ответ пользователя используется в дереве решений, чтобы помочь чат-боту перемещаться по последовательностям ответов для доставки правильного ответного сообщения.
Другие компании изучают способы использования чат-ботов внутри компании, например, для поддержки клиентов, кадровых ресурсов или даже в проектах Интернета вещей (IoT). Например, Overstock.com , как сообщается, запустил чат-бота по имени Mila для автоматизации некоторых простых, но трудоемких процессов при запросе больничного. [45] Другие крупные компании, такие как Lloyds Banking Group , Royal Bank of Scotland , Renault и Citroën, теперь используют автоматизированных онлайн-помощников вместо колл-центров с людьми в качестве первой точки контакта. Экосистема бизнеса SaaS -чат-ботов неуклонно растет с момента конференции F8 , когда Марк Цукерберг из Facebook объявил, что Messenger позволит чат-ботам войти в приложение. [46] В крупных компаниях, таких как больницы и авиационные организации, ИТ-архитекторы разрабатывают эталонные архитектуры для интеллектуальных чат-ботов, которые используются для более эффективного раскрытия и обмена знаниями и опытом в организации, а также значительного сокращения ошибок в ответах от экспертных служб поддержки. [47] Эти интеллектуальные чат-боты используют все виды искусственного интеллекта, такие как модерация изображений и понимание естественного языка (NLU), генерация естественного языка (NLG), машинное обучение и глубокое обучение.
Чат-боты имеют большой потенциал, чтобы служить альтернативным источником обслуживания клиентов. [48] Многие высокотехнологичные банковские организации стремятся интегрировать автоматизированные решения на основе ИИ, такие как чат-боты, в свою службу поддержки клиентов, чтобы оказывать более быструю и дешевую помощь своим клиентам, которые становятся все более удобными с технологиями. В частности, чат-боты могут эффективно вести диалог, обычно заменяя другие средства коммуникации, такие как электронная почта, телефон или SMS . В банковском деле их основное применение связано с быстрым обслуживанием клиентов, отвечая на общие запросы, а также с транзакционной поддержкой.
Методы глубокого обучения могут быть включены в приложения чат-ботов, чтобы позволить им отображать разговоры между пользователями и агентами по обслуживанию клиентов, особенно в социальных сетях. [49] Исследования показали, что методы, включающие глубокое обучение, могут изучать стили письма у бренда и переносить их на другой, продвигая имидж бренда на платформах социальных сетей. [49] Чат-боты могут создавать новые способы взаимодействия брендов и пользователей, которые могут помочь улучшить производительность бренда и позволить пользователям получить «социальные, информационные и экономические выгоды». [49]
В нескольких исследованиях сообщается о значительном снижении стоимости обслуживания клиентов, что, как ожидается, приведет к экономии миллиардов долларов в течение следующих десяти лет. [50] В 2019 году Gartner предсказал, что к 2021 году 15% всех взаимодействий со службами поддержки клиентов во всем мире будут полностью обрабатываться искусственным интеллектом. [51] Исследование Juniper Research, проведенное в 2019 году, оценивает, что розничные продажи в результате взаимодействия с использованием чат-ботов достигнут 112 миллиардов долларов к 2023 году. [52]
С 2016 года, когда Facebook разрешил компаниям предоставлять автоматизированную поддержку клиентов, руководство по электронной коммерции, контент и интерактивный опыт с помощью чат-ботов, для платформы Facebook Messenger было разработано большое количество чат-ботов. [53]
В 2016 году российский банк «Точка» запустил первого в мире бота для Facebook, предоставляющего ряд финансовых услуг, включая возможность совершения платежей. [54]
В июле 2016 года Barclays Africa также запустил чат-бот на Facebook, став первым банком, сделавшим это в Африке. [55]
Третий по величине банк Франции по размеру активов [56] Société Générale запустил свой чат-бот под названием SoBot в марте 2018 года. Хотя 80% пользователей SoBot выразили свое удовлетворение после его тестирования, заместитель директора Société Générale Бертран Коццароло заявил, что он никогда не заменит экспертизу, предоставляемую консультантом-человеком. [57]
Преимущества использования чат-ботов для взаимодействия с клиентами в банковской сфере включают снижение затрат, финансовые консультации и круглосуточную поддержку. [58] [59]
Чат-боты также появляются в сфере здравоохранения. [60] [61] Исследование показало, что врачи в Соединенных Штатах считают, что чат-боты будут наиболее полезны для планирования визитов к врачу, поиска медицинских клиник или предоставления информации о лекарствах. [62]
Чат-бот GPT ChatGPT способен отвечать на запросы пользователей, связанные с укреплением здоровья и профилактикой заболеваний, таких как скрининг и вакцинация . [63] Whatsapp объединился со Всемирной организацией здравоохранения (ВОЗ) для создания сервиса чат-бота, который отвечает на вопросы пользователей о COVID-19 . [64]
В 2020 году правительство Индии запустило чат-бот под названием MyGov Corona Helpdesk, [65] который работал через WhatsApp и помогал людям получать информацию о пандемии коронавируса (COVID-19). [66] [67]
Некоторые группы пациентов по-прежнему неохотно используют чат-ботов. Исследование с использованием смешанных методов показало, что люди по-прежнему не решаются использовать чат-ботов для своего здравоохранения из-за плохого понимания технологической сложности, отсутствия эмпатии и опасений по поводу кибербезопасности. [68] Анализ показал, что, хотя 6% слышали о чат-боте для здоровья и 3% имели опыт его использования, 67% считали, что, скорее всего, будут использовать его в течение 12 месяцев. Большинство участников использовали бы чат-бот для здоровья для поиска общей информации о здоровье (78%), записи на прием к врачу (78%) и поиска местных медицинских услуг (80%). Однако чат-бот для здоровья был воспринят как менее подходящий для поиска результатов медицинских анализов и поиска консультаций специалистов, таких как сексуальное здоровье.
Анализ переменных отношения показал, что большинство участников сообщили о своем предпочтении обсуждать свое здоровье с врачами (73%) и иметь доступ к надежной и точной информации о здоровье (93%). В то время как 80% были заинтересованы в новых технологиях, которые могли бы улучшить их здоровье, 66% сообщили, что обращаются к врачу только при возникновении проблем со здоровьем, а 65% посчитали, что чат-бот был хорошей идеей. 30% сообщили о неприязни к общению с компьютерами, 41% посчитали странным обсуждать вопросы здоровья с чат-ботом, и около половины не были уверены, могут ли они доверять советам, данным чат-ботом. Таким образом, воспринимаемая надежность, индивидуальное отношение к ботам и неприязнь к общению с компьютерами являются основными препятствиями для чат-ботов в сфере здравоохранения. [63]
В Новой Зеландии был разработан чатбот SAM – сокращение от Semantic Analysis Machine [69] (создан Ником Герритсеном из Touchtech [70] ). Он предназначен для обмена политическими мыслями, например, по таким темам, как изменение климата, здравоохранение и образование и т. д. Он общается с людьми через Facebook Messenger. [71] [72] [73] [74]
В 2022 году чат-бот «Лидер Ларс» или «Ледер Ларс» был номинирован на пост Синтетической партии на парламентских выборах в Дании [75] и был создан коллективом художников Computer Lars. [76] Лидер Ларс отличался от более ранних виртуальных политиков тем, что возглавлял политическую партию и не притворялся объективным кандидатом. [77] Этот чат-бот участвовал в критических дискуссиях о политике с пользователями со всего мира. [78]
В Индии правительство штата запустило чат-бот для своей платформы Aaple Sarkar, [79] который обеспечивает диалоговый доступ к информации об управляемых государственных услугах. [80] [81]
Чат-боты использовались на разных уровнях правительственных департаментов, включая местные, национальные и региональные контексты. Чат-боты используются для предоставления таких услуг, как гражданство и иммиграция, судебные администрации, финансовая помощь и запросы о правах мигрантов. Например, EMMA отвечает более чем на 500 000 запросов ежемесячно, касающихся услуг по гражданству и иммиграции в США. [82]
Чат-боты также были встроены в устройства, изначально не предназначенные для вычислений, например, в игрушки. [83]
Hello Barbie — это подключенная к Интернету версия куклы, которая использует чат-бота, предоставленного компанией ToyTalk, [84] которая ранее использовала чат-бота для ряда персонажей на смартфонах для детей. [85] Поведение этих персонажей ограничено набором правил, которые по сути имитируют определенного персонажа и создают сюжетную линию. [86]
Кукла My Friend Cayla продавалась как линия 18-дюймовых (46 см) кукол, которые используют технологию распознавания речи в сочетании с мобильным приложением Android или iOS для распознавания речи ребенка и ведения разговора. Как и кукла Hello Barbie, она вызвала споры из-за уязвимостей Bluetooth- стека куклы и использования ею данных, собранных из речи ребенка.
Компьютер Watson от IBM использовался в качестве основы для образовательных игрушек на основе чат-ботов для таких компаний , как CogniToys [83], предназначенных для взаимодействия с детьми в образовательных целях. [87]
Вредоносные чат-боты часто используются для заполнения чатов спамом и рекламой, имитируя человеческое поведение и разговоры или для того, чтобы склонить людей к раскрытию личной информации, такой как номера банковских счетов. Они обычно встречаются в Yahoo! Messenger , Windows Live Messenger , AOL Instant Messenger и других протоколах обмена мгновенными сообщениями . Также был опубликован отчет о чат-боте, использованном в поддельном личном объявлении на сайте службы знакомств. [88]
Tay , чат-бот на основе искусственного интеллекта, разработанный для обучения на основе предыдущего взаимодействия, вызвал серьезные споры из-за того, что он стал мишенью интернет-троллей в Twitter. Вскоре после запуска бот был использован, и с его возможностью «повторяй за мной» он начал публиковать расистские, сексистские и спорные ответы пользователям Twitter. [89] Это говорит о том, что, хотя бот эффективно учился на опыте, не была введена адекватная защита для предотвращения неправомерного использования. [90]
Если алгоритм отправки текстовых сообщений может выдавать себя за человека, а не за чат-бота, его сообщение будет более достоверным. Поэтому чат-боты, выглядящие как люди, с хорошо продуманными онлайн-идентификациями могут начать распространять фейковые новости, которые кажутся правдоподобными, например, делая ложные заявления во время выборов. При достаточном количестве чат-ботов может даже оказаться возможным достижение искусственного социального доказательства . [91] [92]
Безопасность данных является одной из основных проблем технологий чат-ботов. Угрозы безопасности и уязвимости системы являются слабыми сторонами, которые часто используются злонамеренными пользователями. Хранение пользовательских данных и прошлых сообщений, которые очень ценны для обучения и разработки чат-ботов, также может привести к угрозам безопасности. [93] Чат-боты, работающие в сторонних сетях, могут подвергаться различным проблемам безопасности, если владельцы сторонних приложений имеют политики в отношении пользовательских данных, которые отличаются от политик чат-бота. [93] Угрозы безопасности можно уменьшить или предотвратить, включив защитные механизмы. Аутентификация пользователя , шифрование чата End-to-End и самоуничтожающиеся сообщения являются некоторыми эффективными решениями для противодействия потенциальным угрозам безопасности. [93]
Создание и внедрение чат-ботов все еще является развивающейся областью, тесно связанной с искусственным интеллектом и машинным обучением , поэтому предлагаемые решения, обладая очевидными преимуществами, имеют некоторые важные ограничения с точки зрения функциональности и вариантов использования. Однако со временем это меняется.
Наиболее распространенные ограничения перечислены ниже: [94]
В 2023 году базирующаяся в США Национальная ассоциация по борьбе с расстройствами пищевого поведения заменила свой персонал службы поддержки на чат-бота, но была вынуждена отключить его после того, как пользователи сообщили, что получают от него вредные советы. [97] [98] [99]
Чат-боты все чаще встречаются в бизнесе и часто используются для автоматизации задач, не требующих навыков. Поскольку обслуживание клиентов осуществляется как через приложения для обмена сообщениями, так и через телефонные звонки, растет число случаев использования, когда развертывание чат-ботов дает организациям четкую отдачу от инвестиций. Работники колл-центров могут быть особенно подвержены риску со стороны чат-ботов, управляемых искусственным интеллектом. [100]
Разработчики чат-ботов создают, отлаживают и поддерживают приложения, которые автоматизируют обслуживание клиентов или другие процессы коммуникации. В их обязанности входит проверка и упрощение кода при необходимости. Они также могут помогать компаниям внедрять ботов в их деятельность.
Исследование Forrester (июнь 2017 г.) предсказало, что к 2019 г. 25% всех рабочих мест будут затронуты технологиями ИИ. [101]
Инженерия подсказок , задача проектирования и уточнения подсказок (входных данных), приводящих к желаемым ответам, генерируемым ИИ, приобрела значительный спрос и популярность в последние годы с появлением сложных моделей, в частности серии GPT OpenAI .
Генеративный ИИ работает на большом количестве ископаемого топлива . Такое использование энергии увеличивает загрязнение воздуха , воды и выбросы парниковых газов . Один вопрос, заданный в ChatGPT, использует 1567% энергии, используемой для одного поиска Google. [102] [103] [104] [105]