Аффективные вычисления — это исследование и разработка систем и устройств, которые могут распознавать, интерпретировать, обрабатывать и моделировать человеческие аффекты . Это междисциплинарная область, охватывающая информатику , психологию и когнитивную науку . [1] Хотя некоторые основные идеи в этой области можно проследить еще в ранних философских исследованиях эмоций , [ 2] более современная отрасль информатики зародилась в статье Розалинды Пикард 1995 года [3] об аффективных вычислениях и ее книга Affective Computing [4] , изданная MIT Press . [5] [6] Одним из мотивов исследования является способность наделять машины эмоциональным интеллектом , в том числе имитировать эмпатию . Машина должна интерпретировать эмоциональное состояние людей и адаптировать к ним свое поведение, давая соответствующий ответ на эти эмоции.
Обнаружение эмоциональной информации обычно начинается с пассивных датчиков , которые собирают данные о физическом состоянии или поведении пользователя без интерпретации входных данных. Собранные данные аналогичны сигналам, которые люди используют для восприятия эмоций других. Например, видеокамера может фиксировать выражение лица, позу тела и жесты, а микрофон — речь. Другие датчики обнаруживают эмоциональные сигналы, напрямую измеряя физиологические данные, такие как температура кожи и гальваническое сопротивление . [7]
Распознавание эмоциональной информации требует извлечения значимых закономерностей из собранных данных. Это делается с помощью методов машинного обучения, которые обрабатывают различные методы , такие как распознавание речи , обработка естественного языка или обнаружение выражения лица . Целью большинства этих методов является создание ярлыков, которые соответствовали бы ярлыкам, которые человеческий воспринимающий человек дал бы в той же ситуации: например, если человек делает выражение лица, нахмурив брови, тогда систему компьютерного зрения можно научить обозначать. их лицо выглядит «растерянным», «сосредоточенным» или «слегка негативным» (в отличие от позитивного, о котором можно было бы сказать, если бы они улыбались счастливо). Эти ярлыки могут соответствовать, а могут и не соответствовать тому, что на самом деле чувствует человек.
Еще одна область аффективных вычислений — это разработка вычислительных устройств, демонстрирующих либо врожденные эмоциональные способности, либо способных убедительно моделировать эмоции. Более практичный подход, основанный на современных технологических возможностях, — это моделирование эмоций у диалоговых агентов с целью обогащения и облегчения взаимодействия между человеком и машиной. [8]
Марвин Мински , один из пионеров компьютерных наук в области искусственного интеллекта , связывает эмоции с более широкими проблемами машинного интеллекта, заявляя в книге « Машина эмоций» , что эмоции «не особенно отличаются от процессов, которые мы называем «мышлением». подход «цифровых людей» или виртуальных людей включает в себя попытку придать этим программам, имитирующим человека, также эмоциональное измерение, включая реакции в соответствии с реакцией, которую реальный человек отреагировал бы в определенной эмоционально стимулирующей ситуации, а также мимику лица. и жесты. [10]
Эмоции в машинах часто относятся к эмоциям в вычислительных системах, часто на основе искусственного интеллекта. В результате используются термины «эмоциональный ИИ» и «эмоциональный ИИ». [11]
В психологии, когнитивной науке и нейробиологии существует два основных подхода к описанию того, как люди воспринимают и классифицируют эмоции: непрерывный или категориальный. Непрерывный подход имеет тенденцию использовать такие измерения, как негативный и позитивный, спокойный и возбужденный.
Категориальный подход имеет тенденцию использовать отдельные классы, такие как счастье, грусть, злость, страх, удивление, отвращение. Различные виды моделей регрессии и классификации машинного обучения можно использовать для того, чтобы машины производили непрерывные или дискретные этикетки. Иногда также создаются модели, позволяющие комбинировать категории, например, счастливое удивленное лицо или испуганно-удивленное лицо. [12]
В следующих разделах рассматриваются многие виды входных данных, используемых для задачи распознавания эмоций .
Различные изменения в вегетативной нервной системе могут косвенно изменить речь человека, а аффективные технологии могут использовать эту информацию для распознавания эмоций. Например, речь, произносимая в состоянии страха, гнева или радости, становится быстрой, громкой и четко произносимой, с более высоким и широким диапазоном тонов, тогда как такие эмоции, как усталость, скука или печаль, имеют тенденцию порождать медленные, низкие звуки. невнятная и невнятная речь. [13] Было обнаружено, что некоторые эмоции легче идентифицировать с помощью вычислений, например гнев [14] или одобрение. [15]
Технологии обработки эмоциональной речи распознают эмоциональное состояние пользователя с помощью компьютерного анализа особенностей речи. Параметры голоса и просодические характеристики, такие как переменные высоты тона и скорость речи, можно анализировать с помощью методов распознавания образов. [14] [16]
Речевой анализ является эффективным методом определения аффективного состояния, его средняя точность составляет от 70 до 80% в исследованиях 2003 и 2006 годов. [17] [18] Эти системы, как правило, превосходят среднюю человеческую точность (примерно 60% [14] ). но они менее точны, чем системы, которые используют другие способы обнаружения эмоций, такие как физиологические состояния или выражения лица. [19] Однако, поскольку многие речевые характеристики не зависят от семантики или культуры, этот метод считается многообещающим направлением для дальнейших исследований. [20]
Процесс обнаружения речевого/текстового воздействия требует создания надежной базы данных , базы знаний или модели векторного пространства [21] , достаточно широкой, чтобы удовлетворить все потребности ее применения, а также выбора успешного классификатора, который позволит быстрая и точная идентификация эмоций.
По состоянию на 2010 год [обновлять]наиболее часто используемыми классификаторами были линейные дискриминантные классификаторы (LDC), k-ближайший сосед (k-NN), модель гауссовой смеси (GMM), машины опорных векторов (SVM), искусственные нейронные сети (ANN), дерево решений. алгоритмы и скрытые марковские модели (СММ). [22] Различные исследования показали, что выбор подходящего классификатора может значительно повысить общую производительность системы. [19] В списке ниже дано краткое описание каждого алгоритма:
Доказано, что при наличии достаточного количества акустических данных эмоциональное состояние человека можно классифицировать с помощью набора мажоритарных классификаторов. Предлагаемый набор классификаторов основан на трех основных классификаторах: kNN, C4.5 и SVM-RBF Kernel. Этот набор обеспечивает лучшую производительность, чем каждый базовый классификатор, взятый отдельно. Он сравнивается с двумя другими наборами классификаторов: мультиклассовым SVM «один против всех» (OAA) с гибридными ядрами и набором классификаторов, состоящим из следующих двух базовых классификаторов: C5.0 и нейронной сети. Предлагаемый вариант обеспечивает лучшую производительность, чем два других набора классификаторов. [24]
Подавляющее большинство современных систем зависят от данных. Это создает одну из самых больших проблем при обнаружении эмоций на основе речи, поскольку требует выбора подходящей базы данных, используемой для обучения классификатора. Большая часть имеющихся в настоящее время данных была получена от актеров и, таким образом, представляет собой представление архетипических эмоций. Эти так называемые действующие базы данных обычно основаны на теории основных эмоций ( Пола Экмана ), которая предполагает существование шести основных эмоций (гнев, страх, отвращение, удивление, радость, печаль), а остальные представляют собой просто смесь бывшие. [25] Тем не менее, они по-прежнему предлагают высокое качество звука и сбалансированные классы (хотя зачастую их слишком мало), что способствует высоким показателям успеха в распознавании эмоций.
Однако для реального применения предпочтительны натуралистические данные. Натуралистическая база данных может быть создана путем наблюдения и анализа субъектов в их естественном контексте. В конечном итоге такая база данных должна позволить системе распознавать эмоции на основе их контекста, а также определять цели и результаты взаимодействия. Характер данных этого типа позволяет реализовать их в реальной жизни, поскольку они описывают состояния, естественным образом возникающие во время взаимодействия человека с компьютером (HCI).
Несмотря на многочисленные преимущества, которые натуралистические данные имеют перед игровыми данными, они трудно достижимы и обычно имеют низкую эмоциональную интенсивность. Более того, данные, полученные в естественном контексте, имеют более низкое качество сигнала из-за шума окружающей среды и расстояния объектов от микрофона. Первой попыткой создать такую базу данных был корпус эмоций FAU Aibo для CEICES (объединение усилий по улучшению автоматической классификации эмоциональных состояний пользователя), который был разработан на основе реалистичного контекста, когда дети (в возрасте 10–13 лет) играют с домашним животным-роботом Aibo от Sony. . [26] [27] Аналогично, создание одной стандартной базы данных для всех эмоциональных исследований обеспечит метод оценки и сравнения различных систем распознавания аффектов.
Сложность процесса распознавания аффектов возрастает с увеличением количества классов (аффектов) и речевых дескрипторов, используемых в классификаторе. Поэтому крайне важно выбрать только наиболее релевантные функции, чтобы гарантировать способность модели успешно идентифицировать эмоции, а также повысить производительность, что особенно важно для обнаружения в реальном времени. Диапазон возможных вариантов огромен: в некоторых исследованиях упоминается использование более 200 различных функций. [22] Крайне важно выявить излишние и нежелательные эмоции, чтобы оптимизировать систему и повысить вероятность успешного обнаружения правильных эмоций. Наиболее распространенные речевые характеристики можно разделить на следующие группы. [26] [27]
Обнаружение и обработка выражения лица достигаются с помощью различных методов, таких как оптический поток , скрытые модели Маркова , обработка нейронной сети или модели активного внешнего вида. Можно комбинировать или объединять более одной модальности (мультимодальное распознавание, например, выражений лица и просодии речи, [29] мимики и жестов рук, [30] или выражений лица с речью и текстом для мультимодальных данных и анализа метаданных), чтобы обеспечить более робастная оценка эмоционального состояния субъекта.
Создание базы данных эмоций — сложная и трудоемкая задача. Однако создание базы данных является важным шагом в создании системы, которая будет распознавать человеческие эмоции. Большинство общедоступных баз данных эмоций включают только постановочные выражения лица. В базах данных постановочных выражений участников просят продемонстрировать различные основные выражения эмоций, тогда как в базе данных спонтанных выражений выражения являются естественными. Спонтанное выявление эмоций требует значительных усилий по выбору правильных стимулов, которые могут привести к яркому проявлению предполагаемых эмоций. Во-вторых, этот процесс включает в себя маркировку эмоций обученными людьми вручную, что делает базы данных очень надежными. Поскольку восприятие выражений и их интенсивность носят субъективный характер, для целей валидации необходима экспертная аннотация.
Исследователи работают с тремя типами баз данных, такими как база данных только изображений пиковых выражений, база данных последовательностей изображений, изображающих эмоцию от нейтральной до ее пика, и видеоклипы с эмоциональными аннотациями. Для целей распознавания выражений было создано и опубликовано множество баз данных по выражениям лиц. Двумя широко используемыми базами данных являются CK+ и JAFFE.
Проводя в конце 1960-х годов кросс-культурное исследование коренных племен в Папуа, Новая Гвинея, Пол Экман выдвинул идею о том, что выражения эмоций на лице не детерминированы культурой, а универсальны. Таким образом, он предположил, что они имеют биологическое происхождение и, следовательно, могут быть безопасно и правильно классифицированы. [25] Поэтому в 1972 году он официально сформулировал шесть основных эмоций: [31]
Однако в 1990-е годы Экман расширил свой список основных эмоций, включив в него ряд положительных и отрицательных эмоций , не все из которых закодированы в мышцах лица. [32] Новые эмоции:
Психологи придумали систему для формальной классификации физического выражения эмоций на лицах. Центральной концепцией системы кодирования действий лица , или FACS, созданной Полом Экманом и Уоллесом В. Фризеном в 1978 году на основе более ранней работы Карла-Хермана Хьёртсьё [33], являются единицы действия (AU). По сути, это сокращение или расслабление одной или нескольких мышц. Психологи предложили следующую классификацию шести основных эмоций по единицам их действия («+» здесь означает «и»):
Как и в любой вычислительной практике, при обнаружении аффектов с помощью обработки лица необходимо преодолеть некоторые препятствия, чтобы полностью раскрыть скрытый потенциал используемого алгоритма или метода в целом. На заре почти всех видов обнаружения на основе ИИ (распознавание речи, распознавание лиц, распознавание аффектов) точность моделирования и отслеживания была проблемой. По мере развития аппаратного обеспечения, сбора большего количества данных, новых открытий и внедрения новых практик недостаток точности исчезает, оставляя после себя проблемы с шумом. Однако существуют методы удаления шума, включая усреднение по окрестностям, линейное сглаживание по Гауссу , медианную фильтрацию [34] или более новые методы, такие как алгоритм оптимизации бактериального поиска пищи. [35] [36]
Другие проблемы включают в себя
Жесты можно эффективно использовать как средство определения определенного эмоционального состояния пользователя, особенно в сочетании с распознаванием речи и лиц. В зависимости от конкретного действия жесты могут быть простыми рефлекторными реакциями, например, поднятие плеч, когда вы не знаете ответа на вопрос, или же они могут быть сложными и осмысленными, как при общении с помощью языка жестов. Не используя какой-либо предмет или окружающую среду, мы можем махать руками, хлопать в ладоши или подзывать. С другой стороны, используя объекты, мы можем указывать на них, перемещать, трогать или манипулировать ими. Компьютер должен уметь распознавать их, анализировать контекст и осмысленно реагировать, чтобы его можно было эффективно использовать для взаимодействия человека и компьютера.
Существует множество предложенных методов [38] для обнаружения жестов тела. В некоторой литературе различают два разных подхода к распознаванию жестов: на основе 3D-модели и на основе внешнего вида. [39] Самый передовой метод использует трехмерную информацию о ключевых элементах частей тела для получения нескольких важных параметров, таких как положение ладоней или углы суставов. С другой стороны, системы, основанные на внешнем виде, используют изображения или видео для прямой интерпретации. Жесты рук всегда были в центре внимания методов обнаружения жестов тела. [39]
Это можно использовать для определения аффективного состояния пользователя путем мониторинга и анализа его физиологических признаков. Эти признаки варьируются от изменений частоты сердечных сокращений и проводимости кожи до мельчайших сокращений лицевых мышц и изменений лицевого кровотока. Эта область набирает обороты, и теперь мы видим реальные продукты, реализующие эти методы. Обычно анализируются четыре основных физиологических признака: объем крови , кожно-гальваническая реакция , электромиография лица и цвет лица.
Пульс объема крови (ОБП) субъекта можно измерить с помощью процесса, называемого фотоплетизмографией , который создает график, показывающий поток крови через конечности. [40] Пики волн указывают на сердечный цикл, при котором сердце перекачивает кровь к конечностям. Если субъект испытывает страх или испуган, его сердце обычно некоторое время «подпрыгивает» и быстро бьется, вызывая увеличение амплитуды сердечного цикла. Это хорошо видно на фотоплетизмографе, когда расстояние между впадиной и пиком волны уменьшилось. Когда субъект успокоится и внутреннее ядро тела расширится, позволяя большему количеству крови течь обратно к конечностям, цикл вернется в норму.
Специальное сенсорное оборудование воздействует на кожу инфракрасным светом и измеряет количество отраженного света. Количество отраженного и прошедшего света коррелирует с BVP, поскольку свет поглощается гемоглобином, который в большом количестве содержится в кровотоке.
Может оказаться затруднительным гарантировать, что датчик, излучающий инфракрасный свет и отслеживающий отраженный свет, всегда направлен на одну и ту же точку, особенно если учесть, что объекты часто растягиваются и меняют свое положение во время использования компьютера. Есть и другие факторы, которые могут повлиять на объем пульса крови. Поскольку это показатель кровотока через конечности, если субъект чувствует себя жарко или особенно холодно, то его тело может пропускать больше или меньше крови к конечностям, и все это независимо от эмоционального состояния субъекта.
Лицевая электромиография — это метод, используемый для измерения электрической активности лицевых мышц путем усиления крошечных электрических импульсов, которые генерируются мышечными волокнами при их сокращении. [41] Лицо выражает много эмоций, однако есть две основные группы мышц лица, которые обычно изучаются для обнаружения эмоций: мышца, сморщивающая брови, также известная как «нахмуренная» мышца, которая хмурит брови. , и, следовательно, является лучшим тестом на отрицательную, неприятную эмоциональную реакцию. ↵ Большая скуловая мышца отвечает за отведение уголков рта назад, когда вы улыбаетесь, и, следовательно, эта мышца используется для проверки положительной эмоциональной реакции.
Кожно-гальваническая реакция (КГР) — устаревший термин для более общего явления, известного как «Электродермальная активность» или ЭДА. ЭДА – это общее явление, при котором изменяются электрические свойства кожи. Кожа иннервируется [симпатической нервной системой], поэтому измерение ее сопротивления или проводимости позволяет количественно оценить небольшие изменения в симпатической ветви вегетативной нервной системы. Поскольку потовые железы активируются, еще до того, как кожа почувствует потливость, можно определить уровень ЭДА (обычно с помощью проводимости) и использовать его для выявления небольших изменений вегетативного возбуждения. Чем более возбужден субъект, тем выше проводимость кожи. [40]
Проводимость кожи часто измеряют с помощью двух небольших электродов из хлорида серебра и серебра, помещаемых где-нибудь на коже и прикладывающих между ними небольшое напряжение. Чтобы максимизировать комфорт и уменьшить раздражение, электроды можно разместить на запястьях, ногах или ступнях, что оставляет руки полностью свободными для повседневной деятельности.
Поверхность человеческого лица иннервируется крупной сетью кровеносных сосудов. Изменения кровотока в этих сосудах приводят к видимым изменениям цвета лица. Независимо от того, активируют ли лицевые эмоции мышцы лица, происходят изменения в кровотоке, артериальном давлении, уровне глюкозы и другие изменения. Кроме того, цветовой сигнал лица не зависит от сигнала, обеспечиваемого движениями мышц лица. [42]
Подходы основаны на изменении цвета лица. Триангуляция Делоне используется для создания треугольных локальных областей. Некоторые из этих треугольников, которые определяют внутреннюю часть рта и глаз (склера и радужная оболочка), удаляются. Используйте пиксели левых треугольных областей для создания векторов объектов. [42] Он показывает, что преобразование цвета пикселей стандартного цветового пространства RGB в цветовое пространство, такое как цветовое пространство oRGB [43] или каналы LMS, работает лучше при работе с лицами. [44] Итак, сопоставьте приведенный выше вектор с лучшим цветовым пространством и разложите его на красно-зеленый и желто-синий каналы. Затем используйте методы глубокого обучения, чтобы найти эквивалентные эмоции.
Эстетика в мире искусства и фотографии относится к принципам природы и понимания красоты. Оценка красоты и других эстетических качеств — весьма субъективная задача. Ученые-компьютерщики из Пенсильванского университета рассматривают задачу автоматического определения эстетического качества изображений с использованием их визуального контента как задачу машинного обучения, используя в качестве источника данных веб-сайт для обмена фотографиями с одинаковым рейтингом. [45] Они извлекают определенные визуальные особенности, основываясь на интуиции, позволяющей различать эстетически приятные и неприятные изображения.
Привязанность влияет на состояние обучения учащихся. Используя технологию аффективных вычислений, компьютеры могут судить об привязанности учащихся и состоянии обучения, распознавая выражения их лиц. В сфере образования учитель может использовать результаты анализа, чтобы понять способность учащегося к обучению и принятию, а затем сформулировать разумные планы обучения. В то же время они могут обращать внимание на внутренние чувства учащихся, что полезно для их психологического здоровья. Особенно в дистанционном образовании из-за разделения времени и пространства между преподавателями и учениками нет эмоционального стимула к двустороннему общению. Без атмосферы, создаваемой традиционным обучением в классе, учащимся быстро становится скучно, и это влияет на эффект обучения. Применение аффективных вычислений в системе дистанционного образования может эффективно улучшить эту ситуацию. [46]
Применение сенсорных вычислений может способствовать повышению безопасности дорожного движения. Например, автомобиль может отслеживать эмоции всех пассажиров и принимать дополнительные меры безопасности, например, предупреждать другие транспортные средства, если обнаруживает, что водитель рассержен. [47] Кроме того, аффективные вычислительные системы для мониторинга стресса водителя могут позволять различные вмешательства, такие как системы помощи водителю, настраиваемые в соответствии с уровнем стресса [48] , а также минимальные и прямые вмешательства для изменения эмоционального состояния водителя. [49]
Социальные роботы , а также растущее число роботов, используемых в здравоохранении, получают выгоду от эмоциональной осведомленности, поскольку они могут лучше оценивать эмоциональное состояние пользователей и пациентов и соответствующим образом изменять свои действия/программы. Это особенно важно в странах с растущим стареющим населением и/или нехваткой молодых работников для удовлетворения их потребностей. [50]
Аффективные вычисления также применяются для разработки коммуникативных технологий для людей с аутизмом. [51] Аффективная составляющая текста также все больше привлекает внимание, особенно ее роль в так называемом эмоциональном или эмоциональном Интернете . [52]
Аффективные видеоигры могут получать доступ к эмоциональному состоянию своих игроков через устройства биологической обратной связи . [53] Особенно простая форма биологической обратной связи доступна через геймпады , которые измеряют силу нажатия кнопки: было показано, что это сильно коррелирует с уровнем возбуждения игроков ; [54] На другом конце шкалы находятся интерфейсы мозг-компьютер . [55] [56] Аффективные игры использовались в медицинских исследованиях для поддержки эмоционального развития детей с аутизмом . [57]
Методы тренировки психомоторных операций, таких как рулевое управление и маневрирование, используются в различных областях, таких как авиация, транспорт и медицина. Было обнаружено, что интеграция возможностей аффективных вычислений в системы обучения этого типа в соответствии с подходом адаптивной автоматизации эффективна для повышения качества обучения и сокращения необходимой продолжительности обучения. [58]
Аффективные вычисления имеют потенциальное применение во взаимодействии человека с компьютером , например, аффективные зеркала, позволяющие пользователю видеть, как он или она работает; агенты мониторинга эмоций отправляют предупреждение перед отправкой гневного электронного письма; или даже музыкальные проигрыватели, выбирающие треки по настроению. [59]
Одна из идей, выдвинутых румынским исследователем доктором Нику Себе в интервью, заключается в анализе лица человека, когда он употребляет определенный продукт (в качестве примера он упомянул мороженое). [60] Тогда компании смогут использовать такой анализ, чтобы сделать вывод о том, будет ли их продукт хорошо принят соответствующим рынком.
Можно также использовать аффективное государственное распознавание, чтобы оценить воздействие телевизионной рекламы посредством видеозаписи этого человека в реальном времени и последующего изучения выражения его или ее лица. Усредняя результаты, полученные на большой группе субъектов, можно сказать, имеет ли рекламный ролик (или фильм) желаемый эффект и какие элементы больше всего интересуют зрителя.
В области взаимодействия человека и компьютера когнитивистская концепция эмоций Розалинды Пикард , или «информационная модель» , подвергалась критике и противопоставлялась «посткогнитивистскому» или «интеракциональному» прагматическому подходу, принятому Кирстен Бонер и другими, которые рассматривают эмоции. как по своей сути социальный. [61]
В центре внимания Пикард - взаимодействие человека и компьютера, а ее цель в области аффективных вычислений - «дать компьютерам способность распознавать, выражать и, в некоторых случаях, «испытывать» эмоции». [4] Напротив, интерактивный подход направлен на то, чтобы помочь «людям понять и пережить свои собственные эмоции» [62] и улучшить компьютерное межличностное общение. Он не обязательно стремится отобразить эмоции в объективную математическую модель для машинной интерпретации, а скорее позволяет людям понимать выражения эмоций друг друга открытыми способами, которые могут быть двусмысленными, субъективными и чувствительными к контексту. [62] : 284 [ нужен пример ]
Критики Пикард описывают ее концепцию эмоций как «объективную, внутреннюю, частную и механистическую». Они говорят, что это сводит эмоции к дискретному психологическому сигналу, происходящему внутри тела, который можно измерить и который является входной информацией для познания, снижая сложность эмоционального опыта. [62] : 280 [62] : 278
Интерактивный подход утверждает, что, хотя эмоция имеет биофизические аспекты, она «культурно обоснована, динамически переживается и в некоторой степени конструируется в действии и взаимодействии». [62] : 276 Другими словами, он рассматривает «эмоции как социальный и культурный продукт, переживаемый в результате нашего взаимодействия». [63] [62] [64]
Введение эмоций в информатику было сделано Пикардом (так в оригинале), который создал область аффективных вычислений.
Розалинда Пикард, гениальный профессор Массачусетского технологического института, является крестной матерью этой области; ее книга 1997 года «
Аффективные вычисления
» вызвала взрыв интереса к эмоциональной стороне компьютеров и их пользователей.