stringtranslate.com

Отвращение к алгоритму

Неприятие алгоритма — это «предвзятая оценка алгоритма, которая проявляется в негативном поведении и отношении к алгоритму по сравнению с человеческим агентом». [1] Он описывает феномен, когда люди отвергают совет алгоритма в случае, когда они приняли бы тот же совет, если бы думали, что он исходит от другого человека.

Алгоритмы , например, использующие методы машинного обучения или различные формы искусственного интеллекта , обычно используются для предоставления рекомендаций или советов людям, принимающим решения. Например, рекомендательные системы используются в электронной коммерции для определения продуктов, которые могут понравиться покупателю, а искусственный интеллект используется в здравоохранении для помощи в принятии решений о диагностике и лечении. Однако иногда кажется, что люди сопротивляются или отвергают эти алгоритмические рекомендации больше, чем если бы рекомендация исходила от человека. Примечательно, что алгоритмы часто способны превосходить людей, поэтому отказ от алгоритмических рекомендаций может привести к снижению производительности или неоптимальным результатам.

Это новая тема, и не совсем понятно, почему и при каких обстоятельствах люди будут проявлять отвращение к алгоритмам. В некоторых случаях люди с большей вероятностью примут рекомендации алгоритма, чем человека. Этот феномен называется оценкой алгоритма . [2]

Примеры неприятия алгоритмов

Неприятие алгоритмов изучалось в самых разных контекстах. Например, люди, похоже, предпочитают рекомендации по шуткам от человека, а не от алгоритма [3] и предпочитают полагаться на человека, чтобы предсказать количество пассажиров самолетов из каждого штата США, а не на алгоритм. [4] Люди также предпочитают медицинские рекомендации врачей-людей алгоритму. [5]

Факторы, влияющие на неприятие алгоритма

Были предложены различные концепции для объяснения причин неприятия алгоритмов, а также методов или системных функций, которые могут помочь уменьшить неприятие. [1] [6]

Контроль принятия решений

Алгоритмы могут использоваться либо в консультативной роли (давая совет человеку, который примет окончательное решение), либо в роли делегатора (когда алгоритм принимает решение без контроля человека). Система рекомендаций фильмов, предоставляющая список предложений, будет выполнять консультативную роль, тогда как водитель-человек делегирует задачу управления автомобилем автопилоту Tesla . Как правило, отсутствие контроля над принятием решений приводит к увеличению неприятия алгоритмов. [ нужна цитата ]

Представления о возможностях и производительности алгоритма

В целом люди склонны оценивать машины более критично, чем людей. [7] Было показано, что несколько системных характеристик или факторов влияют на то, как люди оценивают алгоритмы.

Алгоритм Процесс и роль прозрачности системы

Одной из причин, по которой люди проявляют сопротивление алгоритмам, является непонимание того, как алгоритм приходит к своим рекомендациям. [3] Люди также, кажется, лучше понимают, как другой человек будет давать рекомендации. Хотя люди предполагают, что другие люди будут учитывать уникальные различия между ситуациями, они иногда воспринимают алгоритмы как неспособные учитывать индивидуальные различия и соответственно сопротивляются им. [8]

Область принятия решений

Люди, как правило, скептически относятся к тому, что алгоритмы могут делать точные прогнозы в определенных областях, особенно если задача включает в себя такие, казалось бы, человеческие качества, как мораль или сочувствие . Неприятие алгоритмов имеет тенденцию быть выше, когда задача более субъективна, и ниже, когда задача объективна или поддается количественной оценке. [1]

Человеческие характеристики

Экспертиза предметной области

Было показано, что опыт в конкретной области увеличивает неприятие алгоритмов [2] и сокращает использование алгоритмических правил принятия решений. [9] Чрезмерная самоуверенность может частично объяснить этот эффект; эксперты могут почувствовать, что алгоритм не способен принимать те суждения, которые они выносят. По сравнению с неспециалистами эксперты также обладают большими знаниями в этой области и поэтому могут более критично относиться к рекомендациям. Если неспециалист может принять рекомендацию («Алгоритм должен знать что-то, чего я не знаю»), эксперт может найти конкретную ошибку в рекомендации алгоритма («Эта рекомендация не учитывает конкретный фактор»).

Исследования в области принятия решений показали, что эксперты в определенной области склонны думать о решениях иначе, чем неспециалисты. [10] Экспертная информация по частям и группам; например, гроссмейстеры по шахматам будут видеть открытые позиции (например, ферзевый гамбит или дебют слона ) вместо отдельных фигур на доске. Эксперты могут рассматривать ситуацию как функциональное представление (например, врач может видеть траекторию развития и прогнозируемый результат для пациента, а не список лекарств и симптомов). Эти различия могут также частично объяснить возросшее неприятие алгоритмов, наблюдаемое среди экспертов.

Культура

Различные культурные нормы и влияния могут заставить людей по-разному реагировать на алгоритмические рекомендации. То, как излагаются рекомендации (например, язык, тон и т. д.), может привести к тому, что люди отреагируют по-разному. [ нужна цитата ]

Возраст

Цифровые аборигены моложе и знакомы с технологиями всю свою жизнь, в отличие от цифровых иммигрантов. Возраст — часто упоминаемый фактор, который, как предполагается, влияет на то, принимают ли люди алгоритмические рекомендации или нет. Например, одно исследование показало, что доверие к алгоритмическому финансовому консультанту было ниже среди пожилых людей по сравнению с более молодыми участниками исследования. [11] Однако другие исследования показали, что отвращение к алгоритмам не меняется с возрастом. [2]

Предлагаемые методы преодоления неприятия алгоритмов

Алгоритмы часто способны превосходить людей или выполнять задачи гораздо эффективнее с точки зрения затрат. [4] [3]

Человек в курсе

Один из способов уменьшить отвращение к алгоритмам — предоставить человеку, принимающему решения, контроль над окончательным решением.

Прозрачность системы

Было доказано, что объяснение того, как работают алгоритмы, снижает отвращение. Эти объяснения могут принимать самые разные формы, в том числе о том, как работает алгоритм в целом, о том, почему он дает ту или иную рекомендацию в конкретном случае или насколько он уверен в своих рекомендациях. [1]

Обучение пользователей

Алгоритмические рекомендации представляют собой новый тип информации во многих областях. Например, медицинский диагноз бактериальной инфекции с помощью искусственного интеллекта отличается от лабораторного анализа, указывающего на наличие бактерий. Когда лица, принимающие решения, впервые сталкиваются с задачей, они могут особенно неохотно использовать алгоритм. Было показано, что эффект обучения, достигаемый за счет повторяющихся задач, постоянной обратной связи и финансовых стимулов, может способствовать снижению неприятия алгоритмов. [12]

Оценка алгоритма

Исследования не всегда показывают, что люди демонстрируют предвзятое отношение к алгоритмам, а иногда показывают обратное, предпочитая советы алгоритма, а не человека. Этот эффект называется оценкой алгоритма . [2] Результаты неоднозначны: люди иногда предпочитают советы, исходящие от алгоритма, а не от человека.

Например, клиенты с большей вероятностью проявят первоначальный интерес к торговым агентам-людям по сравнению с автоматическими торговыми агентами, но с меньшей вероятностью предоставят им контактную информацию. Это связано с «более низким уровнем ожидаемой производительности и ожидаемых усилий , связанных с человеческими торговыми агентами по сравнению с автоматизированными торговыми агентами». [13]

Рекомендации

  1. ^ abcd Юсупов, Екатерина; Бенбасат, Изак; Хайнцль, Армин (2020). «Почему мы не любим алгоритмы? Комплексный обзор литературы по неприятию алгоритмов». Двадцать восьмая Европейская конференция по информационным системам (ECIS2020) : 1–16.
  2. ^ abcd Logg, Дженнифер М.; Минсон, Джулия А.; Мур, Дон А. (01 марта 2019 г.). «Оценка алгоритмов: люди предпочитают алгоритмы человеческому суждению». Организационное поведение и процессы принятия человеческих решений . 151 : 90–103. дои :10.1016/j.obhdp.2018.12.005. ISSN  0749-5978.
  3. ^ abc Йоманс, Майкл; Шах, Анудж; Муллайнатан, Сендхил; Кляйнберг, Джон (2019). «Осмысление рекомендаций». Журнал принятия поведенческих решений . 32 (4): 403–414. дои : 10.1002/bdm.2118. ISSN  1099-0771. S2CID  141066682.
  4. ^ ab Дитворст, Беркли Дж.; Симмонс, Джозеф П.; Мэсси, Кейд (2015). «Отвращение к алгоритмам: люди ошибочно избегают алгоритмов, увидев, что они ошибаются». Журнал экспериментальной психологии: Общие сведения . 144 (1): 114–126. дои : 10.1037/xge0000033. ISSN  1939-2222. ПМИД  25401381.
  5. ^ Кабица, Федерико (2019). «Предвзятости, влияющие на принятие человеком решений в условиях второго мнения, поддерживаемых ИИ». MDAI 2019 — Международная конференция по моделированию решений для искусственного интеллекта . Конспекты лекций по информатике. Том. 11676. стр. 283–294. дои : 10.1007/978-3-030-26773-5_25. ISBN 978-3-030-26773-5. S2CID  201739274.
  6. ^ Бертон, Джейсон В.; Штейн, Мари-Клара; Дженсен, Тина Блегинд (2020). «Систематический обзор неприятия алгоритмов при расширенном принятии решений». Журнал принятия поведенческих решений . 33 (2): 220–239. дои : 10.1002/bdm.2155. ISSN  1099-0771. S2CID  210439660.
  7. ^ Идальго, Сезар (2021). Как люди судят о машинах . Кембридж, Массачусетс: MIT Press . ISBN 978-0-262-04552-0.
  8. ^ Лонгони, Кьяра; Бонецци, Андреа; Морведж, Кэри К. (3 мая 2019 г.). «Сопротивление медицинскому искусственному интеллекту». Журнал потребительских исследований . 46 (4): 629–650. дои : 10.1093/jcr/ucz013 . ISSN  0093-5301.
  9. ^ Аркес, Хэл Р.; Доус, Робин М.; Кристенсен, Кэрин (1 февраля 1986 г.). «Факторы, влияющие на использование решающего правила в вероятностной задаче». Организационное поведение и процессы принятия человеческих решений . 37 (1): 93–110. дои : 10.1016/0749-5978(86)90046-4. ISSN  0749-5978.
  10. ^ Фельтович, Пол Дж.; Приетула, Майкл Дж.; Эрикссон, К. Андерс (2006), Эрикссон, К. Андерс; Чарнесс, Нил; Фельтович, Пол Дж.; Хоффман, Роберт Р. (ред.), «Исследования экспертных знаний с психологической точки зрения», Кембриджский справочник по экспертным знаниям и экспертной деятельности , Кембриджские справочники по психологии, Кембридж: Cambridge University Press, стр. 41–68, doi : 10.1017/cbo9780511816796 .004, ISBN 978-1-107-81097-6, получено 8 сентября 2021 г.
  11. ^ Лоренсо, Карлос Дж.С.; Делларт, Бенедикт Г.К.; Донкерс, Бас (01 февраля 2020 г.). «Чей алгоритм так говорит: взаимосвязь между типом фирмы, восприятием доверия и опыта, а также принятием финансовых роботизированных советов». Журнал интерактивного маркетинга . 49 : 107–124. doi :10.1016/j.intmar.2019.10.003. hdl : 1765/123799 . ISSN  1094-9968. S2CID  211029562.
  12. ^ Филиз, Ибрагим; Юдек, Ян Рене; Лоренц, Марко; Спивокс, Маркус (01 сентября 2021 г.). «Уменьшение неприятия алгоритмов на основе опыта». Журнал поведенческих и экспериментальных финансов . 31 : 100524. doi : 10.1016/j.jbef.2021.100524. ISSN  2214-6350.
  13. ^ Адам, Мартин; Рётке, Константин; Бенлиан, Александр (10 ноября 2022 г.). «Человеческие и автоматизированные торговые агенты: как и почему реакция клиентов меняется на разных этапах продаж». Исследования информационных систем . 34 (3): 1148–1168. дои : 10.1287/isre.2022.1171. ISSN  1047-7047. S2CID  254271045.