Эффект Мак-Гурка — перцептивный феномен, демонстрирующий взаимодействие слуха и зрения при восприятии речи . Иллюзия возникает, когда слуховой компонент одного звука сочетается с визуальным компонентом другого звука, что приводит к восприятию третьего звука. [1] Визуальная информация, которую человек получает, наблюдая за говорящим человеком, изменяет то, как он слышит звук. [2] [3] Если человек получает слуховую информацию низкого качества, но визуальную информацию хорошего качества, он может с большей вероятностью испытать эффект Мак-Гурка. [4]
Интеграционные способности для аудио- и визуальной информации также могут влиять на то, испытает ли человек эффект. Было показано, что люди, которые лучше владеют сенсорной интеграцией, более восприимчивы к эффекту. [2] Многие люди по-разному подвержены эффекту Мак-Гурка в зависимости от многих факторов, включая повреждения мозга и другие расстройства.
Впервые он был описан в 1976 году в статье Гарри МакГерка и Джона Макдональда под названием «Слышим губы и видим голоса» в журнале Nature (23 декабря 1976 года). [5] Этот эффект был обнаружен случайно, когда МакГерк и его научный сотрудник Макдональд попросили техника озвучить видео с другой фонемой , нежели та, которая была произнесена, во время проведения исследования того, как младенцы воспринимают язык на разных стадиях развития. Когда видео воспроизводилось, оба исследователя слышали третью фонему, а не ту, которая была произнесена или прошептана на видео. [6]
Этот эффект может наблюдаться, когда видеозапись производства одной фонемы дублируется звукозаписью другой фонемы, которая произносится. Часто воспринимаемая фонема является третьей, промежуточной фонемой. Например, слоги /ba-ba/ произносятся поверх движений губ /ga-ga/, а восприятие происходит как /da-da/. МакГерк и Макдональд изначально считали, что это является результатом общих фонетических и визуальных свойств /b/ и /g/. [7] Были обнаружены два типа иллюзий в ответ на неконгруэнтные аудиовизуальные стимулы: слияния (слуховой «ba» и визуальный «ga» производят «da») и комбинации (слуховой «ga» и визуальный «ba» производят «bga»). [8] Это попытка мозга предоставить сознанию наилучшее предположение о входящей информации. [9] Информация, поступающая от глаз и ушей, противоречива, и в этом случае глаза (визуальная информация) оказали большее влияние на мозг, и таким образом были созданы реакции слияния и комбинирования. [9]
Зрение является основным чувством для людей, [2] но восприятие речи является мультимодальным , что означает, что оно включает информацию из более чем одной сенсорной модальности, в частности, слуха и зрения . Эффект Мак-Гурка возникает во время фонетической обработки, поскольку интеграция звуковой и визуальной информации происходит на ранней стадии восприятия речи. [7] Эффект Мак-Гурка очень устойчив; то есть знание о нем, по-видимому, мало влияет на его восприятие. Это отличается от некоторых оптических иллюзий , которые разрушаются, как только человек «видит сквозь» их. Некоторые люди, включая тех, кто исследовал это явление более двадцати лет, испытывают эффект, даже когда они осознают, что он имеет место. [8] [10] За исключением людей, которые могут определить большую часть того, что говорится, только по чтению по губам , большинство людей весьма ограничены в своей способности определять речь только по визуальным сигналам. [2] Более обширным явлением является способность визуальной речи повышать разборчивость слышимой речи в шумной обстановке. [2] Видимая речь также может изменять восприятие совершенно слышимых звуков речи, когда визуальные речевые стимулы не совпадают со слуховой речью. [2] Обычно восприятие речи считается слуховым процессом; [2] однако наше использование информации является немедленным, автоматическим и, в значительной степени, бессознательным [10] и поэтому, несмотря на то, что широко принято считать правдой, речь — это не только то, что мы слышим. [10] Речь воспринимается всеми органами чувств, работающими вместе (зрение, осязание и слушание движения лица). [10] Мозг часто не осознает отдельные сенсорные вклады того, что он воспринимает. [10] Поэтому, когда дело доходит до распознавания речи, мозг не может различить, видит он или слышит входящую информацию. [10]
Он также был изучен в отношении показаний свидетелей. Исследование Уэрхэма и Райта 2005 года показало, что непоследовательная визуальная информация может изменить восприятие устных высказываний, предполагая, что эффект МакГурка может иметь множество влияний на повседневное восприятие. Не ограничиваясь слогами, эффект может проявляться в целых словах [7] [11] и оказывать влияние на повседневные взаимодействия, о которых люди не знают. Исследования в этой области могут предоставить информацию не только по теоретическим вопросам, но также могут обеспечить терапевтическую и диагностическую значимость для людей с расстройствами, связанными со звуковой и визуальной интеграцией речевых сигналов. [12]
Оба полушария мозга вносят вклад в эффект Мак-Гурка. [13] Они работают вместе, чтобы интегрировать речевую информацию, полученную через слуховые и зрительные чувства. Реакция Мак-Гурка чаще возникает у правшей, у которых лицо имеет привилегированный доступ к правому полушарию, а слова — к левому. [13] У людей, которым была сделана каллозотомия , эффект Мак-Гурка все еще присутствует, но значительно медленнее. [13] У людей с поражениями левого полушария мозга визуальные особенности часто играют решающую роль в речевой и языковой терапии. [12] Люди с поражениями левого полушария мозга демонстрируют больший эффект Мак-Гурка, чем нормальные контрольные лица. [12] Визуальная информация сильно влияет на восприятие речи у этих людей. [12] Существует отсутствие восприимчивости к иллюзии Мак-Гурка, если повреждение левого полушария привело к дефициту визуального сегментарного восприятия речи. [14] У людей с повреждением правого полушария мозга наблюдается нарушение как визуальной, так и аудиовизуальной интеграции, хотя они все еще способны интегрировать информацию для получения эффекта Мак-Гурка. [14] Интеграция появляется только в том случае, если визуальные стимулы используются для улучшения производительности, когда слуховой сигнал обеднен, но слышен. [14] Таким образом, у людей с повреждением правого полушария мозга наблюдается эффект Мак-Гурка, но эффект не такой сильный, как у нормальной группы.
Дислексики демонстрируют меньший эффект МакГурка, чем обычные читатели того же хронологического возраста, но они показали тот же эффект, что и читатели соответствующего возраста с уровнем чтения. [15] Дислексики особенно отличались в ответах на сочетание, а не на слияние. [15] Меньший эффект МакГурка может быть связан с трудностями, с которыми сталкиваются дислексики в восприятии и воспроизведении согласных кластеров . [15]
Дети со специфическими языковыми нарушениями демонстрируют значительно более низкий эффект Мак-Гурка, чем среднестатистический ребенок. [16] Они используют меньше визуальной информации при восприятии речи или имеют сниженное внимание к артикуляционным жестам , но не испытывают проблем с восприятием исключительно слуховых сигналов. [16]
Дети с расстройствами аутистического спектра (РАС) показали значительно сниженный эффект МакГурка, чем дети без них. [17] Однако, если стимул был нечеловеческим (например, отскок теннисного мяча под звук отскакивающего пляжного мяча), то они набирали баллы, аналогичные баллам детей без РАС. [17] У детей младшего возраста с РАС наблюдается очень сниженный эффект МакГурка; однако с возрастом он уменьшается. По мере взросления людей эффект, который они демонстрируют, становится ближе к тем, у кого нет РАС. [18] Было высказано предположение, что ослабленный эффект МакГурка, наблюдаемый у людей с РАС, обусловлен дефицитом в идентификации как слуховых, так и визуальных компонентов речи, а не в интеграции указанных компонентов (хотя различение компонентов речи как компонентов речи может быть изоморфным их интеграции). [19]
Взрослые с трудностями в обучении языку демонстрируют гораздо меньший эффект Мак-Гурка, чем другие взрослые. [20] Эти люди не так подвержены влиянию визуальной информации, как большинство людей. [20] Поэтому люди с плохими языковыми навыками будут производить меньший эффект Мак-Гурка. Причина меньшего эффекта в этой группе населения заключается в том, что может быть несвязанная активность между передней и задней областями мозга или левым и правым полушариями. [20] Также возможна мозжечковая или базальная ганглионарная этиология.
У пациентов с болезнью Альцгеймера (БА) наблюдается меньший эффект Мак-Гурка, чем у тех, у кого нет этого заболевания. [21] Часто уменьшенный размер мозолистого тела приводит к процессу отключения полушарий. [21] У пациентов с БА наблюдается меньшее влияние на зрительный стимул, что является причиной сниженного эффекта Мак-Гурка. [21]
Эффект МакГурка не так выражен у шизофреников , как у нешизофреников. Однако у взрослых он существенно не отличается. [22] Шизофрения замедляет развитие аудиовизуальной интеграции и не позволяет ей достичь пика развития. Однако никакой деградации не наблюдается. [22] Шизофреники более склонны полагаться на слуховые сигналы, чем на визуальные сигналы при восприятии речи. [22]
Люди с афазией демонстрируют нарушение восприятия речи во всех условиях (только зрительном, только слуховом и аудиовизуальном), и поэтому демонстрируют небольшой эффект Мак-Гурка. [23] Наибольшая трудность для афазиков возникает в условиях только зрительного восприятия, показывая, что они используют больше слуховых стимулов при восприятии речи. [23]
Небольшое исследование (N=22 в группе) не выявило никакой очевидной разницы между людьми с биполярным расстройством и людьми без него в отношении эффекта Мак-Гурка. Однако люди с биполярным расстройством показали значительно более низкие результаты в задании на чтение по губам. Это может означать, что нейронные пути, сформированные и активированные при интеграции слуховой и визуальной речевой информации у людей с биполярным расстройством, отличаются от таковых у людей без каких-либо психических расстройств. [24]
Несоответствие в категории гласных значительно снизило величину эффекта МакГурка для реакций слияния. [25] Слуховые маркеры /a/, дублированные на визуальные артикуляции /i/, были более совместимы, чем наоборот. [25] Это может быть связано с тем, что /a/ имеет широкий диапазон артикуляционных конфигураций, тогда как /i/ более ограничен, [25] что значительно облегчает испытуемым обнаружение несоответствий в стимулах. [25] Контексты гласных /i/ производят самый сильный эффект, в то время как /a/ производит умеренный эффект, а /u/ почти не оказывает никакого эффекта. [26]
Эффект Мак-Гурка сильнее, когда видна правая сторона рта говорящего (слева от зрителя). [27] Люди склонны получать больше визуальной информации от правой стороны рта говорящего, чем от левой или даже от всего рта. [27] Это связано с полушарными факторами внимания, обсуждавшимися в разделе о полушариях мозга выше.
Эффект МакГурка слабее, когда присутствует визуальный отвлекающий фактор, на который обращает внимание слушатель. [28] Визуальное внимание модулирует аудиовизуальное восприятие речи. [28] Другая форма отвлечения — движение говорящего. Более сильный эффект МакГурка возникает, если лицо/голова говорящего неподвижны, а не двигаются. [29]
Сильный эффект МакГурка можно наблюдать для слогов с щелкающей гласной по сравнению со слабыми эффектами для изолированных щелчков. [30] Это показывает, что эффект МакГурка может происходить в неречевой среде. [30] Фонетическая значимость не является необходимым условием для возникновения эффекта МакГурка; однако она увеличивает силу эффекта. [30]
Женщины демонстрируют более сильный эффект МакГурка, чем мужчины. Женщины демонстрируют значительно большее визуальное влияние на слуховую речь, чем мужчины, при кратких визуальных стимулах, но никакой разницы не видно для полных стимулов. [29] Другим аспектом, касающимся пола, является проблема мужских лиц и голосов как стимулов по сравнению с женскими лицами и голосами как стимулами. Хотя нет никакой разницы в силе эффекта МакГурка для обеих ситуаций. [31] Если мужское лицо дублируется женским голосом, или наоборот, все равно нет никакой разницы в силе эффекта МакГурка. [31] Знание того, что голос, который вы слышите, отличается от лица, которое вы видите, — даже если они разного пола — не устраняет эффект МакГурка. [10]
Испытуемые, знакомые с лицами говорящих, менее восприимчивы к эффекту МакГурка, чем те, кто не знаком с лицами говорящих. [2] [26] С другой стороны, не было никакой разницы в отношении узнаваемости голосов. [26]
Семантическая конгруэнтность оказала значительное влияние на иллюзию Мак-Герка. [32] Эффект ощущается чаще и оценивается как более четкий в семантически конгруэнтном состоянии по сравнению с неконгруэнтным состоянием. [32] Когда человек ожидал определенного визуального или слухового появления на основе семантической информации, ведущей к нему, эффект Мак-Герка значительно усиливался. [32]
Эффект МакГурка можно наблюдать, когда слушатель также является говорящим или артикулятором . [33] Глядя на себя в зеркало и артикулируя визуальные стимулы, слушая другой слуховой стимул, можно наблюдать сильный эффект МакГурка. [33] В другом состоянии, когда слушатель тихо произносит слуховые стимулы, наблюдая, как другой человек артикулирует конфликтующие визуальные жесты, эффект МакГурка все еще можно наблюдать, хотя он слабее. [33]
Временная синхронность не является обязательной для наличия эффекта Мак-Гурка. [34] Субъекты по-прежнему находятся под сильным влиянием слуховых стимулов, даже если они отстают от визуальных на 180 миллисекунд (точка, в которой эффект Мак-Гурка начинает ослабевать). [34] Было меньше терпимости к отсутствию синхронности, если слуховые стимулы предшествовали визуальным стимулам. [34] Для того чтобы вызвать значительное ослабление эффекта Мак-Гурка, слуховые стимулы должны были предшествовать визуальным стимулам на 60 миллисекунд или отставать на 240 миллисекунд. [2]
Эффект МакГурка значительно уменьшался, когда внимание переключалось на тактильную задачу (прикосновение к чему-либо). [35] Осязание — это сенсорное восприятие, подобное зрению и слуху, поэтому увеличение внимания к осязанию снижает внимание к слуховым и визуальным чувствам.
Глазам не нужно фиксироваться, чтобы интегрировать звуковую и визуальную информацию в восприятие речи. [36] Не было никакой разницы в эффекте Мак-Гурка, когда слушатель фокусировался где-либо на лице говорящего. [36] Эффект не проявляется, если слушатель фокусируется за пределами лица говорящего. [2] Для того, чтобы эффект Мак-Гурка стал незначительным, взгляд слушателя должен отклониться от рта говорящего как минимум на 60 градусов. [36]
Независимо от языка, все слушатели в той или иной степени полагаются на визуальную информацию при восприятии речи . Но интенсивность эффекта Мак-Гурка различается в зависимости от языка. Слушатели голландского, [37] английского, испанского, немецкого, итальянского и турецкого [38] языков испытывают сильный эффект Мак-Гурка; слушатели японского и китайского языков — слабее. [39] Большинство исследований эффекта Мак-Гурка между языками проводились между английским и японским языками. Меньший эффект Мак-Гурка наблюдается у японских слушателей, чем у английских слушателей. [37] [40] [41] [42] [43] [44] Культурная практика избегания лиц у японцев может ослабить эффект Мак-Гурка, а также тон и слоговые структуры языка. [37] Это также может быть причиной того, что китайские слушатели менее восприимчивы к визуальным подсказкам и, подобно японцам, производят меньший эффект, чем английские слушатели. [37] Исследования также показывают, что у японских слушателей не наблюдается увеличения визуального влияния после шести лет, как у английских детей. [40] [41] Японские слушатели лучше, чем английские, определяют несовместимость между визуальными и слуховыми стимулами. [37] [41] Эта более высокая способность может быть связана с отсутствием в японском языке согласных кластеров . [37] [42] Независимо от этого, слушатели всех языков прибегают к визуальным стимулам, когда речь непонятна; эффект Мак-Герка в таком случае применяется к ним в равной степени. [37] [42] Эффект Мак-Герка работает со слушателями всех тестируемых языков. [10]
Были проведены эксперименты с участием людей с проблемами слуха и людей с кохлеарными имплантами . Эти люди склонны придавать большее значение визуальной информации из речи, чем слуховой информации. [45] По сравнению с людьми с нормальным слухом, это не отличается, если только речь не состоит более чем из одного слога, например, слова. [45] Что касается эксперимента МакГурка, ответы пользователей с кохлеарными имплантами давали те же ответы, что и нормально слышащие люди, когда слуховой билабиальный стимул дублировался на визуальный велярный стимул. [45] Однако, когда слуховой зубной стимул дублировался на визуальный билабиальный стимул, ответы были совершенно другими. Эффект МакГурка все еще присутствует у людей с нарушениями слуха или использующих кохлеарные импланты, хотя он довольно сильно отличается в некоторых аспектах.
Измеряя внимание младенца к определенным аудиовизуальным стимулам, можно записать реакцию, которая соответствует эффекту Мак-Гурка. [2] [10] [46] [47] [48] Младенцы в возрасте от нескольких минут до пары дней могут имитировать движения лица взрослых, а в течение нескольких недель после рождения младенцы могут распознавать движения губ и звуки речи. [49] На этом этапе может произойти интеграция звуковой и визуальной информации, но не на достаточном уровне. [49] Первые доказательства эффекта Мак-Гурка можно увидеть в возрасте четырех месяцев; [46] [47] однако больше доказательств обнаружено для пятимесячных детей. [2] [10] [48] [50] Благодаря процессу привыкания младенца к определенному стимулу и последующей смене стимула (или его части, например, с ба-голосового/ва-визуального на да-голосовый/ва-визуальный) становится очевидной реакция, имитирующая эффект Мак-Гурка. [10] [48] Сила эффекта Мак-Гурка демонстрирует закономерность развития, которая усиливается на протяжении всего детства и продолжается во взрослой жизни. [47] [48]