Аффективные вычисления — это изучение и разработка систем и устройств, которые могут распознавать, интерпретировать, обрабатывать и моделировать человеческие эмоции . Это междисциплинарная область, охватывающая информатику , психологию и когнитивную науку . [1] Хотя некоторые основные идеи в этой области можно проследить еще до ранних философских исследований эмоций , [2] более современная ветвь компьютерных наук возникла с работы Розалинд Пикард 1995 года [3] об аффективных вычислениях и ее книги «Аффективные вычисления» [4], опубликованной издательством MIT Press . [5] [6] Одной из мотиваций для исследования является возможность наделить машины эмоциональным интеллектом , в том числе для моделирования эмпатии . Машина должна интерпретировать эмоциональное состояние людей и адаптировать свое поведение к ним, давая соответствующую реакцию на эти эмоции.
Обнаружение эмоциональной информации обычно начинается с пассивных датчиков , которые собирают данные о физическом состоянии или поведении пользователя без интерпретации ввода. Собранные данные аналогичны сигналам, которые люди используют для восприятия эмоций у других. Например, видеокамера может фиксировать выражения лица, позу тела и жесты, в то время как микрофон может фиксировать речь. Другие датчики обнаруживают эмоциональные сигналы, напрямую измеряя физиологические данные, такие как температура кожи и гальваническое сопротивление . [7]
Распознавание эмоциональной информации требует извлечения значимых шаблонов из собранных данных. Это делается с помощью методов машинного обучения, которые обрабатывают различные модальности , такие как распознавание речи , обработка естественного языка или обнаружение выражения лица . Цель большинства этих методов — создание меток, которые соответствовали бы меткам, которые дал бы воспринимающий человек в той же ситуации: например, если человек делает выражение лица, нахмурив брови, то система компьютерного зрения может быть обучена маркировать его лицо как выглядящее «смущенным» или как «сосредоточенное» или «слегка негативное» (в отличие от позитивного, которое она могла бы сказать, если бы он улыбался счастливым образом). Эти метки могут соответствовать или не соответствовать тому, что человек на самом деле чувствует.
Другая область в аффективных вычислениях — это проектирование вычислительных устройств, которые, как предполагается, демонстрируют либо врожденные эмоциональные способности, либо способны убедительно имитировать эмоции. Более практичный подход, основанный на современных технологических возможностях, — это имитация эмоций в разговорных агентах с целью обогащения и облегчения интерактивности между человеком и машиной. [8]
Марвин Мински , один из пионеров компьютерных наук в области искусственного интеллекта , связывает эмоции с более широкими проблемами машинного интеллекта, заявляя в своей книге «Машина эмоций » , что эмоции «не особенно отличаются от процессов, которые мы называем «мышлением». [9] Инновационный подход «цифровых людей» или виртуальных людей включает попытку придать этим программам, которые имитируют людей, эмоциональное измерение, включая реакции в соответствии с реакцией, на которую отреагировал бы реальный человек в определенной эмоционально стимулирующей ситуации, а также выражения лица и жесты. [10]
Эмоция в машинах часто относится к эмоциям в вычислительных, часто основанных на ИИ, системах. В результате используются термины «эмоциональный ИИ» и «эмоциональный ИИ». [11]
В психологии, когнитивной науке и нейронауке существуют два основных подхода к описанию того, как люди воспринимают и классифицируют эмоции: непрерывный или категориальный. Непрерывный подход, как правило, использует такие измерения, как отрицательное против положительного, спокойное против возбужденного.
Категориальный подход имеет тенденцию использовать дискретные классы, такие как счастье, грусть, злость, страх, удивление, отвращение. Различные виды регрессии машинного обучения и классификационные модели могут использоваться для того, чтобы машины производили непрерывные или дискретные метки. Иногда также строятся модели, которые допускают комбинации по категориям, например, счастливое-удивленное лицо или испуганное-удивленное лицо. [12]
В следующих разделах рассматриваются многие виды входных данных, используемых для задачи распознавания эмоций .
Различные изменения в автономной нервной системе могут косвенно изменять речь человека, и аффективные технологии могут использовать эту информацию для распознавания эмоций. Например, речь, произнесенная в состоянии страха, гнева или радости, становится быстрой, громкой и четко выраженной, с более высоким и широким диапазоном тона, тогда как такие эмоции, как усталость, скука или грусть, как правило, генерируют медленную, низкую и невнятную речь. [13] Было обнаружено, что некоторые эмоции легче идентифицировать с помощью вычислений, например, гнев [14] или одобрение. [15]
Технологии обработки эмоциональной речи распознают эмоциональное состояние пользователя с помощью вычислительного анализа речевых характеристик. Вокальные параметры и просодические характеристики, такие как переменные высоты тона и скорость речи, могут быть проанализированы с помощью методов распознавания образов. [14] [16]
Анализ речи является эффективным методом определения аффективного состояния, имея среднюю точность от 70 до 80% в исследованиях 2003 и 2006 годов. [17] [18] Эти системы, как правило, превосходят среднюю человеческую точность (примерно 60% [14] ), но менее точны, чем системы, которые используют другие модальности для определения эмоций, такие как физиологические состояния или выражения лица. [19] Однако, поскольку многие характеристики речи не зависят от семантики или культуры, этот метод считается многообещающим направлением для дальнейших исследований. [20]
Процесс обнаружения речевых/текстовых эмоций требует создания надежной базы данных , базы знаний или модели векторного пространства [21] , достаточно широкой, чтобы соответствовать всем потребностям ее применения, а также выбора успешного классификатора, который позволит быстро и точно идентифицировать эмоции.
По состоянию на 2010 год [обновлять]наиболее часто используемыми классификаторами были линейные дискриминантные классификаторы (LDC), k-ближайшие соседи (k-NN), модель гауссовской смеси (GMM), машины опорных векторов (SVM), искусственные нейронные сети (ANN), алгоритмы дерева решений и скрытые марковские модели (HMM). [22] Различные исследования показали, что выбор подходящего классификатора может значительно повысить общую производительность системы. [19] В списке ниже дано краткое описание каждого алгоритма:
Доказано, что при наличии достаточного количества акустических свидетельств эмоциональное состояние человека может быть классифицировано набором классификаторов большинства голосов. Предлагаемый набор классификаторов основан на трех основных классификаторах: kNN, C4.5 и SVM-RBF Kernel. Этот набор достигает лучшей производительности, чем каждый базовый классификатор, взятый в отдельности. Он сравнивается с двумя другими наборами классификаторов: один-против-всех (OAA) многоклассовый SVM с гибридными ядрами и набором классификаторов, который состоит из следующих двух основных классификаторов: C5.0 и Neural Network. Предлагаемый вариант достигает лучшей производительности, чем два других набора классификаторов. [24]
Подавляющее большинство современных систем зависят от данных. Это создает одну из самых больших проблем при обнаружении эмоций на основе речи, поскольку подразумевает выбор подходящей базы данных, используемой для обучения классификатора. Большая часть имеющихся в настоящее время данных была получена от актеров и, таким образом, является представлением архетипических эмоций. Эти так называемые актерские базы данных обычно основаны на теории базовых эмоций (Пола Экмана ), которая предполагает существование шести основных эмоций (гнев, страх, отвращение, удивление, радость, печаль), а остальные просто являются смесью первых. [25] Тем не менее, они по-прежнему предлагают высокое качество звука и сбалансированные классы (хотя часто их слишком мало), что способствует высоким показателям успешности распознавания эмоций.
Однако для реального применения предпочтительны натуралистические данные. Натуралистическая база данных может быть создана путем наблюдения и анализа субъектов в их естественном контексте. В конечном счете, такая база данных должна позволить системе распознавать эмоции на основе их контекста, а также вырабатывать цели и результаты взаимодействия. Природа этого типа данных допускает аутентичную реализацию в реальной жизни, поскольку она описывает состояния, естественным образом возникающие во время взаимодействия человека с компьютером (HCI).
Несмотря на многочисленные преимущества, которые натуралистические данные имеют по сравнению с данными, полученными в результате экспериментов, их трудно получить, и обычно они имеют низкую эмоциональную интенсивность. Более того, данные, полученные в естественном контексте, имеют более низкое качество сигнала из-за окружающего шума и расстояния субъектов от микрофона. Первой попыткой создания такой базы данных был корпус эмоций FAU Aibo для CEICES (объединение усилий по улучшению автоматической классификации эмоциональных состояний пользователя), который был разработан на основе реалистичного контекста детей (возраст 10–13 лет), играющих с роботом-домашним животным Aibo от Sony. [26] [27] Аналогичным образом, создание одной стандартной базы данных для всех эмоциональных исследований предоставило бы метод оценки и сравнения различных систем распознавания аффектов.
Сложность процесса распознавания аффектов возрастает с увеличением числа классов (аффектов) и речевых дескрипторов, используемых в классификаторе. Поэтому крайне важно выбирать только наиболее релевантные признаки, чтобы гарантировать способность модели успешно определять эмоции, а также повысить производительность, что особенно важно для обнаружения в реальном времени. Диапазон возможных вариантов огромен, и в некоторых исследованиях упоминается использование более 200 различных признаков. [22] Крайне важно определить те, которые являются избыточными и нежелательными, чтобы оптимизировать систему и повысить вероятность успешного определения правильных эмоций. Наиболее распространенные речевые характеристики подразделяются на следующие группы. [26] [27]
Обнаружение и обработка выражения лица достигаются с помощью различных методов, таких как оптический поток , скрытые марковские модели , обработка нейронных сетей или активные модели внешнего вида. Более одной модальности могут быть объединены или слиты (мультимодальное распознавание, например, выражения лица и речевая просодия, [29] выражения лица и жесты рук, [30] или выражения лица с речью и текстом для анализа мультимодальных данных и метаданных), чтобы обеспечить более надежную оценку эмоционального состояния субъекта.
Создание базы данных эмоций — сложная и трудоемкая задача. Однако создание базы данных — это важный шаг в создании системы, которая будет распознавать человеческие эмоции. Большинство общедоступных баз данных эмоций включают только постановочные выражения лица. В базах данных постановочных выражений участников просят демонстрировать различные основные выражения эмоций, в то время как в базе данных спонтанных выражений выражения являются естественными. Спонтанное выявление эмоций требует значительных усилий при выборе правильных стимулов, что может привести к богатому проявлению предполагаемых эмоций. Во-вторых, процесс включает ручную маркировку эмоций обученными людьми, что делает базы данных высоконадежными. Поскольку восприятие выражений и их интенсивность носят субъективный характер, аннотация экспертов имеет важное значение для целей проверки.
Исследователи работают с тремя типами баз данных, такими как база данных только пиковых изображений выражений, база данных последовательностей изображений, изображающих эмоцию от нейтральной до пиковой, и видеоклипы с эмоциональными аннотациями. Было создано и опубликовано множество баз данных выражений лиц для целей распознавания выражений. Две из широко используемых баз данных — CK+ и JAFFE.
Проводя кросс-культурные исследования в Папуа, Новая Гвинея, на племени Форе в конце 1960-х годов, Пол Экман предложил идею о том, что выражения эмоций на лице не определяются культурой, а универсальны. Таким образом, он предположил, что они имеют биологическое происхождение и, следовательно, могут быть безопасно и правильно классифицированы. [25] Поэтому в 1972 году он официально выдвинул шесть основных эмоций: [31]
Однако в 1990-х годах Экман расширил свой список основных эмоций, включив в него ряд положительных и отрицательных эмоций, не все из которых кодируются в мышцах лица. [32] Новые включенные эмоции:
Психологами была разработана система для формальной классификации физического выражения эмоций на лицах. Центральная концепция Системы кодирования лицевых действий , или FACS, созданной Полом Экманом и Уоллесом В. Фризеном в 1978 году на основе более ранней работы Карла-Германа Хьортшё [33], — это единицы действия (AU). Они, по сути, представляют собой сокращение или расслабление одной или нескольких мышц. Психологи предложили следующую классификацию шести основных эмоций в соответствии с их единицами действия («+» здесь означает «и»):
Как и в случае с любой вычислительной практикой, при обнаружении аффекта с помощью обработки лица необходимо преодолеть некоторые препятствия, чтобы полностью раскрыть скрытый потенциал общего алгоритма или метода. В ранние дни почти каждого вида обнаружения на основе ИИ (распознавание речи, распознавание лиц, распознавание аффекта) точность моделирования и отслеживания была проблемой. По мере развития оборудования, сбора большего количества данных, совершения новых открытий и внедрения новых практик этот недостаток точности исчезает, оставляя после себя проблемы с шумом. Однако существуют методы удаления шума, включая усреднение окрестностей, линейное сглаживание Гаусса , медианную фильтрацию [34] или более новые методы, такие как алгоритм оптимизации бактериального кормления. [35] [36]
Другие проблемы включают в себя:
Жесты могут эффективно использоваться как средство определения определенного эмоционального состояния пользователя, особенно при использовании в сочетании с речью и распознаванием лиц. В зависимости от конкретного действия жесты могут быть простыми рефлекторными реакциями, например, поднятием плеч, когда вы не знаете ответа на вопрос, или они могут быть сложными и значимыми, как при общении с помощью языка жестов. Не используя какой-либо объект или окружающую среду, мы можем махать руками, хлопать или подзывать. С другой стороны, при использовании объектов мы можем указывать на них, перемещать, касаться или обращаться с ними. Компьютер должен уметь распознавать их, анализировать контекст и реагировать значимым образом, чтобы эффективно использоваться для взаимодействия человека и компьютера.
Существует множество предложенных методов [38] для обнаружения жестов тела. В некоторых источниках различаются два разных подхода к распознаванию жестов: основанный на 3D-модели и основанный на внешнем виде. [39] Самый главный метод использует 3D-информацию ключевых элементов частей тела для получения нескольких важных параметров, таких как положение ладони или углы суставов. С другой стороны, системы, основанные на внешнем виде, используют изображения или видео для прямой интерпретации. Жесты рук были общим фокусом методов обнаружения жестов тела. [39]
Это может быть использовано для определения аффективного состояния пользователя путем мониторинга и анализа его физиологических признаков. Эти признаки варьируются от изменений частоты сердечных сокращений и проводимости кожи до мельчайших сокращений лицевых мышц и изменений в кровотоке лица. Эта область набирает обороты, и теперь мы видим реальные продукты, которые реализуют эти методы. Четыре основных физиологических признака, которые обычно анализируются, — это пульс объема крови , гальваническая реакция кожи , электромиография лица и цветовые паттерны лица.
Пульс объема крови субъекта (BVP) может быть измерен с помощью процесса, называемого фотоплетизмографией , который создает график, показывающий поток крови через конечности. [40] Пики волн указывают на сердечный цикл, в котором сердце перекачивает кровь к конечностям. Если субъект испытывает страх или испуган, его сердце обычно «подпрыгивает» и бьется быстро в течение некоторого времени, в результате чего амплитуда сердечного цикла увеличивается. Это можно ясно увидеть на фотоплетизмографе, когда расстояние между впадиной и пиком волны уменьшается. По мере того, как субъект успокаивается, и по мере того, как внутреннее ядро тела расширяется, позволяя большему количеству крови течь обратно к конечностям, цикл возвращается к норме.
Инфракрасный свет направляется на кожу специальным сенсорным оборудованием, и измеряется количество отраженного света. Количество отраженного и прошедшего света коррелирует с BVP, поскольку свет поглощается гемоглобином, который в большом количестве содержится в кровотоке.
Может быть обременительно гарантировать, что датчик, излучающий инфракрасный свет и отслеживающий отраженный свет, всегда будет направлен на одну и ту же конечность, особенно учитывая, что субъекты часто растягиваются и меняют положение, используя компьютер. Есть и другие факторы, которые могут повлиять на пульс объема крови. Поскольку это мера кровотока через конечности, если субъект чувствует себя горячим или особенно холодным, то его тело может позволить большему или меньшему количеству крови поступать к конечностям, все это независимо от эмоционального состояния субъекта.
Электромиография лица — это метод, используемый для измерения электрической активности мышц лица путем усиления крошечных электрических импульсов, которые генерируются мышечными волокнами при сокращении. [41] Лицо выражает множество эмоций, однако есть две основные группы мышц лица, которые обычно изучаются для обнаружения эмоций: Мышца corrugator supercilii, также известная как «нахмуренная» мышца, опускает бровь вниз, хмурясь, и поэтому является лучшим тестом на отрицательную, неприятную эмоциональную реакцию. ↵ Большая скуловая мышца отвечает за оттягивание уголков рта назад, когда вы улыбаетесь, и поэтому является мышцей, используемой для проверки положительной эмоциональной реакции.
Гальваническая реакция кожи (GSR) — устаревший термин для более общего явления, известного как [электродермальная активность] или EDA. EDA — это общее явление, при котором изменяются электрические свойства кожи. Кожа иннервируется [симпатической нервной системой], поэтому измерение ее сопротивления или проводимости дает возможность количественно оценить небольшие изменения в симпатической ветви автономной нервной системы. Поскольку потовые железы активируются, даже до того, как кожа станет потной, уровень EDA может быть зафиксирован (обычно с использованием проводимости) и использован для выявления небольших изменений в автономном возбуждении. Чем больше возбужден субъект, тем выше, как правило, проводимость кожи. [40]
Проводимость кожи часто измеряется с помощью двух небольших серебряно-хлоридных электродов, размещенных где-то на коже, и приложения небольшого напряжения между ними. Для максимального комфорта и уменьшения раздражения электроды можно разместить на запястье, ноге или ступне, что оставляет руки полностью свободными для повседневной деятельности.
Поверхность человеческого лица пронизана большой сетью кровеносных сосудов. Изменения кровотока в этих сосудах приводят к видимым изменениям цвета на лице. Независимо от того, активируют ли эмоции лица лицевые мышцы или нет, происходят изменения в кровотоке, кровяном давлении, уровне глюкозы и других изменениях. Кроме того, сигнал цвета лица не зависит от сигнала, обеспечиваемого движениями лицевых мышц. [42]
Подходы основаны на изменении цвета лица. Триангуляция Делоне используется для создания треугольных локальных областей. Некоторые из этих треугольников, которые определяют внутреннюю часть рта и глаз (склеру и радужную оболочку), удаляются. Используйте пиксели левых треугольных областей для создания векторов признаков. [42] Это показывает, что преобразование цвета пикселя стандартного цветового пространства RGB в цветовое пространство, такое как цветовое пространство oRGB [43] или каналы LMS работают лучше при работе с лицами. [44] Итак, сопоставьте указанный выше вектор с лучшим цветовым пространством и разложите на красно-зеленый и желто-синий каналы. Затем используйте методы глубокого обучения для поиска эквивалентных эмоций.
Эстетика в мире искусства и фотографии относится к принципам природы и восприятия красоты. Оценка красоты и других эстетических качеств — весьма субъективная задача. Специалисты по информатике в Университете штата Пенсильвания рассматривают задачу автоматического вывода эстетического качества изображений с использованием их визуального содержания как задачу машинного обучения, используя в качестве источника данных веб-сайт для обмена фотографиями с рейтингом коллег. [45] Они извлекают определенные визуальные особенности, основываясь на интуиции, что они могут различать эстетически приятные и неприятные изображения.
Привязанность влияет на состояние обучения учащихся. Используя технологию аффективных вычислений, компьютеры могут судить о привязанности и состоянии обучения учащихся, распознавая выражения их лиц. В образовании учитель может использовать результаты анализа, чтобы понять способность учащегося к обучению и принятию, а затем сформулировать разумные планы обучения. В то же время они могут обращать внимание на внутренние чувства учащихся, что полезно для психологического здоровья учащихся. Особенно в дистанционном образовании, из-за разделения времени и пространства, нет эмоционального стимула между учителями и учениками для двусторонней коммуникации. Без атмосферы, приносимой традиционным обучением в классе, ученикам легко становится скучно, и это влияет на эффект обучения. Применение аффективных вычислений в системе дистанционного образования может эффективно улучшить эту ситуацию. [46]
Применение сенсорных вычислений может способствовать повышению безопасности дорожного движения. Например, автомобиль может отслеживать эмоции всех пассажиров и принимать дополнительные меры безопасности, например, предупреждать другие транспортные средства, если он обнаруживает, что водитель сердится. [47] Кроме того, аффективные вычислительные системы для мониторинга стресса водителя могут позволить различные вмешательства, такие как системы помощи водителю, регулируемые в соответствии с уровнем стресса [48] и минимальные и прямые вмешательства для изменения эмоционального состояния водителя. [49]
Социальные роботы , а также все большее число роботов, используемых в здравоохранении, выигрывают от эмоциональной осведомленности, поскольку они могут лучше оценивать эмоциональное состояние пользователей и пациентов и соответствующим образом изменять их действия/программирование. Это особенно важно в странах с растущим стареющим населением и/или нехваткой молодых работников для удовлетворения их потребностей. [50]
Аффективные вычисления также применяются для разработки коммуникативных технологий для использования людьми с аутизмом. [51] Аффективный компонент текста также привлекает все большее внимание, особенно его роль в так называемом эмоциональном или эмоциональнм Интернете . [52]
Аффективные видеоигры могут получать доступ к эмоциональному состоянию игроков через устройства биологической обратной связи . [53] Особенно простая форма биологической обратной связи доступна через игровые планшеты , которые измеряют давление, с которым нажимается кнопка: было показано, что это тесно связано с уровнем возбуждения игроков ; [54] на другом конце шкалы находятся интерфейсы мозг-компьютер . [55] [56] Аффективные игры использовались в медицинских исследованиях для поддержки эмоционального развития детей- аутистов . [57]
Методы обучения психомоторным операциям, таким как рулевое управление и маневрирование, используются в различных областях, таких как авиация, транспорт и медицина. Интеграция возможностей аффективных вычислений в этот тип систем обучения, в соответствии с подходом адаптивной автоматизации, оказалась эффективной для повышения качества обучения и сокращения необходимой продолжительности обучения. [58]
Аффективные вычисления имеют потенциальные приложения во взаимодействии человека и компьютера , например, аффективные зеркала, позволяющие пользователю видеть, как он или она себя проявляет; агенты мониторинга эмоций, отправляющие предупреждение, прежде чем кто-то отправит гневное электронное письмо; или даже музыкальные проигрыватели, выбирающие треки на основе настроения. [59]
Одна из идей, выдвинутых румынским исследователем доктором Нику Себе в интервью, заключается в анализе лица человека во время употребления им определенного продукта (в качестве примера он привел мороженое). [60] Затем компании смогут использовать такой анализ, чтобы сделать вывод о том, будет ли их продукт хорошо или нет воспринят соответствующим рынком.
Можно также использовать распознавание аффективного состояния, чтобы судить о воздействии телевизионной рекламы через видеозапись этого человека в реальном времени и через последующее изучение его или ее выражения лица. Усредняя результаты, полученные на большой группе субъектов, можно сказать, имеет ли эта реклама (или фильм) желаемый эффект и какие элементы больше всего интересуют зрителя.
В области взаимодействия человека и компьютера когнитивистская или « информационная модель» концепции эмоций Розалинд Пикард подверглась критике и противопоставлялась «посткогнитивистскому» или «интерактивному» прагматическому подходу, принятому Кирстен Бёнер и другими, которые рассматривают эмоции как нечто по своей сути социальное. [61]
Пикард фокусируется на взаимодействии человека и компьютера, и ее цель в аффективных вычислениях — «дать компьютерам возможность распознавать, выражать и, в некоторых случаях, «иметь» эмоции». [4] Напротив, интерактивный подход стремится помочь «людям понимать и испытывать свои собственные эмоции» [62] и улучшить межличностное общение, опосредованное компьютером. Он не обязательно стремится отображать эмоции в объективную математическую модель для машинной интерпретации, а скорее позволяет людям понимать эмоциональные выражения друг друга открытыми способами, которые могут быть неоднозначными, субъективными и чувствительными к контексту. [62] : 284 [ нужен пример ]
Критики Пикард описывают ее концепцию эмоций как «объективную, внутреннюю, личную и механистическую». Они говорят, что она сводит эмоцию к дискретному психологическому сигналу, возникающему внутри тела, который можно измерить и который является входом для познания, подрывая сложность эмоционального опыта. [62] : 280 [62] : 278
Интеракционистский подход утверждает, что хотя эмоция имеет биофизические аспекты, она «культурно обоснована, динамически переживается и в некоторой степени формируется в действии и взаимодействии». [62] : 276 Другими словами, он рассматривает «эмоцию как социальный и культурный продукт, переживаемый посредством наших взаимодействий». [63] [62] [64]
эмоций в информатику было сделано Пикардом (sic), который создал область аффективных вычислений.
Пикард, гениальный профессор Массачусетского технологического института, является крестной матерью этой области; ее книга 1997 года
«Аффективные вычисления
» вызвала взрыв интереса к эмоциональной стороне компьютеров и их пользователей.