Проблема трамвая — это серия мысленных экспериментов в этике , психологии и искусственном интеллекте, включающая стилизованные этические дилеммы о том, стоит ли жертвовать одним человеком, чтобы спасти большее число. Серия обычно начинается со сценария , в котором неуправляемый трамвай , трамвай или поезд движется к столкновению и гибели нескольких человек (традиционно пяти) на пути , но водитель или прохожий может вмешаться и направить транспортное средство, чтобы убить только одного человека на другом пути. Затем предлагаются другие вариации неуправляемого транспортного средства и аналогичные дилеммы жизни и смерти (медицинские, судебные и т. д.), каждая из которых содержит возможность либо ничего не делать, в этом случае погибнет несколько человек, либо вмешаться и пожертвовать одним изначально «безопасным» человеком, чтобы спасти остальных.
Мнения об этике каждого сценария оказываются чувствительными к деталям истории, которые могут показаться несущественными для абстрактной дилеммы. Вопрос о формулировании общего принципа, который может объяснить различные суждения, возникающие в разных вариантах истории, был поднят в 1967 году в рамках анализа дебатов об абортах и доктрине двойного эффекта английским философом Филиппой Фут . [1] Позже названная «проблемой тележки» Джудит Джарвис Томпсон в статье 1976 года, которая стимулировала большую литературу, тема относится к метапроблеме того, почему в конкретных случаях приходят к различным суждениям.
Философы Джудит Томсон, [2] [3] Фрэнсис Камм , [4] и Питер Унгер также подробно проанализировали эту дилемму . [5] Статья Томсона 1976 года положила начало литературе о проблеме трамвая как о самостоятельной теме. Характерными для этой литературы являются красочные и все более абсурдные альтернативные сценарии, в которых принесенного в жертву человека вместо этого выталкивают на рельсы, чтобы остановить трамвай, извлекают его органы для спасения пациентов, которым делают трансплантацию, или убивают более косвенными способами, которые усложняют цепочку причинно-следственной связи и ответственности.
Более ранние формы индивидуальных сценариев трамвая предшествовали публикации Фута. Фрэнк Чепмен Шарп включил версию в моральный опросник, который был роздан студентам Висконсинского университета в 1905 году. В этом варианте стрелочник железной дороги управлял стрелкой, а единственным человеком, которого приносили в жертву (или нет), был ребенок стрелочника. [6] [7] Немецкий философ права Карл Энгиш обсуждал похожую дилемму в своей докторской диссертации в 1930 году, как и немецкий правовед Ганс Вельцель в работе 1951 года. [8] [9] В своем комментарии к Талмуду , опубликованном задолго до его смерти в 1953 году, Авраам Йешая Карелиц рассматривал вопрос о том, этично ли отражать снаряд от большей толпы в сторону меньшей. [10] Аналогичным образом в «Забастовке» , телевизионной пьесе, транслировавшейся в Соединенных Штатах 7 июня 1954 года, командир в Корейской войне должен выбрать между приказом нанести удар с воздуха по наступающим силам противника ценой собственного патрульного отряда из 20 человек или отменить удар и рискнуть жизнями основной армии, состоящей из 500 человек. [11]
Начиная с 2001 года, проблема трамвая и ее варианты использовались в эмпирических исследованиях моральной психологии . Это было темой популярных книг. [12] Сценарии в стиле трамвая также возникают при обсуждении этики проектирования автономных транспортных средств , которые могут потребовать программирования для выбора того, кого или что ударить, когда столкновение кажется неизбежным. [13]
Версия мысленного эксперимента Фута, ныне известная как «Водитель трамвая», выглядела следующим образом:
Предположим, что судья или магистрат сталкивается с бунтовщиками, требующими найти виновного в определенном преступлении и угрожающими в противном случае собственной кровавой местью определенной части общества. Настоящий виновник неизвестен, и судья считает, что может предотвратить кровопролитие, только подставив невиновного и казнив его. Рядом с этим примером приводится другой, в котором пилот, самолет которого вот-вот потерпит крушение, решает, следует ли ему направлять его из более населенной местности в менее населенную. Чтобы провести параллель как можно ближе, можно предположить, что он водитель неуправляемого трамвая, который он может направить только с одной узкой колеи на другую; на одной колеи работают пять человек, а на другой — один; любой, на кого он въедет, обязательно будет убит. В случае бунтов у толпы пять заложников, так что в обоих примерах предполагается обмен жизни одного человека на жизни пяти. [1]
Утилитаристская точка зрения утверждает, что обязательно направлять трамвай на рельсы с одним человеком на них. Согласно классическому утилитаризму, такое решение было бы не только допустимым, но и, с моральной точки зрения, лучшим вариантом (другой вариант — вообще не предпринимать никаких действий). [14] Этот факт делает изменение трамвая обязательным. Альтернативная точка зрения заключается в том, что, поскольку моральные несправедливости уже присутствуют в ситуации, переход на другой путь представляет собой участие в моральной несправедливости, делая человека частично ответственным за смерть, когда в противном случае никто не был бы ответственным. Противник действия может также указать на несоизмеримость человеческих жизней. Согласно некоторым интерпретациям морального обязательства , простое присутствие в этой ситуации и возможность повлиять на ее исход представляет собой обязательство участвовать. Если это так, то бездействие будет считаться безнравственным поступком.
В 2001 году Джошуа Грин и его коллеги опубликовали результаты первого значительного эмпирического исследования реакций людей на проблемы с трамваем. [15] Используя функциональную магнитно-резонансную томографию , они продемонстрировали, что «личные» дилеммы (например, столкнуть человека с пешеходного моста) преимущественно задействуют области мозга, связанные с эмоциями, тогда как «безличные» дилеммы (например, отклонение трамвая с помощью переключателя) преимущественно задействуют области, связанные с контролируемым рассуждением. На этом основании они выступают за двухпроцессный подход к принятию моральных решений . С тех пор многочисленные другие исследования использовали проблемы с трамваем для изучения морального суждения, исследуя такие темы, как роль и влияние стресса, [16] эмоциональное состояние, [17] управление впечатлением, [18] уровни анонимности, [19] различные типы повреждений мозга, [20] физиологическое возбуждение, [21] различные нейротрансмиттеры, [22] и генетические факторы [23] на реакции на дилеммы с трамваем.
Задачи трамвая использовались как мера утилитаризма, но их полезность для таких целей широко критиковалась. [24] [25] [26]
В 2017 году группа под руководством Майкла Стивенса провела первый реалистичный эксперимент с проблемой трамвая, в котором испытуемые были размещены в одиночестве на станции, которую они считали станцией смены поездов, и показывали кадры, которые они считали реальными (но на самом деле были предварительно записаны) поезда, идущего по рельсам, с пятью рабочими на главном пути и одним на второстепенном пути; участники имели возможность потянуть рычаг, чтобы направить поезд на второстепенный путь. Пять из семи участников не потянули рычаг. [27] [ нужен лучший источник ]
Проблема вагонетки была предметом многих опросов, в которых около 90% респондентов выбрали убить одного и спасти пятерых. [28] Если ситуация изменяется так, что тот, кого приносят в жертву ради пятерых, является родственником или романтическим партнером, респонденты гораздо менее склонны жертвовать одной жизнью. [29]
Опрос, проведенный в 2009 году Дэвидом Бурже и Дэвидом Чалмерсом, показывает, что 68% профессиональных философов изменили бы свою точку зрения (пожертвовали бы одним человеком, чтобы спасти пять жизней) в случае проблемы трамвая, 8% не изменили бы ее, а оставшиеся 24% имели другую точку зрения или не смогли ответить. [30]
В статье 2014 года, опубликованной в журнале Social and Personality Psychology Compass , [24] исследователи раскритиковали использование задачи о вагонетке, утверждая, среди прочего, что представленный в ней сценарий слишком экстремальн и не связан с реальными моральными ситуациями, чтобы быть полезным или образовательным. [31]
В своей статье 2017 года Нассим Джафари Наими [32] излагает редуктивную природу проблемы трамвая в формулировании этических проблем, которая служит для поддержки обедненной версии утилитаризма. Она утверждает, что популярный аргумент о том, что проблема трамвая может служить шаблоном для алгоритмической морали, основан на фундаментально ошибочных предпосылках, которые служат самым могущественным с потенциально ужасными последствиями для будущего городов. [33]
В 2017 году в своей книге «О человеческой природе » Роджер Скратон критикует использование этических дилемм, таких как проблема вагонетки, и их использование такими философами, как Дерек Парфит и Питер Сингер, в качестве способов иллюстрации своих этических взглядов. Скратон пишет: «Эти «дилеммы» имеют полезный характер, поскольку устраняют из ситуации практически все морально значимые отношения и сводят проблему к одной только арифметике». Скратон считает, что только потому, что кто-то решил изменить путь так, чтобы поезд сбил одного человека вместо пяти, не означает, что он обязательно является консеквенциалистом . В качестве способа показать недостатки консеквенциалистских ответов на этические проблемы Скратон указывает на парадоксальные элементы веры в утилитаризм и подобные убеждения. Он считает, что мысленный эксперимент Нозика с машиной опыта окончательно опровергает гедонизм . [34] В своей статье 2017 года «Проблема вагонетки и сбрасывание атомных бомб» Масахиро Мориока рассматривает сбрасывание атомных бомб как пример проблемы вагонетки и указывает, что существует пять «проблем проблемы вагонетки», а именно: 1) редкость, 2) неизбежность, 3) зона безопасности, 4) возможность стать жертвой и 5) отсутствие перспективы у погибших жертв, которые были лишены свободы выбора. [35]
В статье 2018 года, опубликованной в Psychological Review , исследователи отметили, что в качестве меры утилитаристских решений жертвенные дилеммы, такие как проблема тележки, измеряют только одну грань протоутилитаристских тенденций, а именно терпимое отношение к инструментальному вреду, игнорируя при этом беспристрастную заботу о большем благе. Таким образом, авторы утверждали, что проблема тележки дает лишь частичную меру утилитаризма. [25]
Проблемы вагонетки подчеркивают разницу между деонтологическими и консеквенциалистскими этическими системами. Центральный вопрос, который выносят на свет эти дилеммы, заключается в том, правильно ли активно подавлять полезность отдельного человека, если это приводит к большей полезности для других людей. [13]
Базовая форма задачи о переключении трамвая также позволяет проводить сравнение с другими связанными дилеммами:
Как и прежде, трамвай мчится по рельсам навстречу пяти людям. Вы находитесь на мосту, под которым он проедет, и вы можете остановить его, положив перед ним что-то очень тяжелое. Как это ни странно, рядом с вами оказывается толстяк — единственный способ остановить трамвай — столкнуть его с моста на рельсы, убив его и спасая пятерых. Стоит ли продолжать?
Сопротивление такому образу действий кажется сильным; если спросить об этом, большинство людей одобрят нажатие переключателя, чтобы спасти сеть из четырех жизней, но не одобрят нажатие толстяка, чтобы спасти сеть из четырех жизней. [36] Это привело к попыткам найти соответствующее моральное различие между этими двумя случаями.
Одним из возможных различий может быть то, что в первом случае человек не намерен причинить вред кому-либо — причинение вреда одному человеку является лишь побочным эффектом переключения трамвая с пятерых. Однако во втором случае причинение вреда одному человеку является неотъемлемой частью плана по спасению пятерых. Это решение по сути является применением доктрины двойного эффекта , которая гласит, что человек может предпринять действие, которое имеет плохие побочные эффекты, но преднамеренное намерение причинить вред (даже ради благих целей) является неправильным. Таким образом, действие допустимо, даже если предвидится вред невиновному человеку, если только он не преднамеренный. Это аргумент, который Шелли Каган рассматривает (и в конечном итоге отвергает) в своей первой книге «Пределы морали» . [37]
Варианты оригинальной дилеммы водителя трамвая возникают при разработке программного обеспечения для управления автономными автомобилями . [13] Ожидаются ситуации, когда потенциально фатальное столкновение кажется неизбежным, но в которых выбор, сделанный программным обеспечением автомобиля , например, в кого или во что врезаться, может повлиять на детали смертельного исхода. Например, должно ли программное обеспечение ценить безопасность пассажиров автомобиля больше или меньше, чем безопасность потенциальных жертв вне автомобиля. [38] [39] [40] [41]
Платформа под названием Moral Machine [42] была создана MIT Media Lab, чтобы позволить общественности выражать свое мнение о том, какие решения должны принимать автономные транспортные средства в сценариях, использующих парадигму проблемы трамвая. Анализ данных, собранных с помощью Moral Machine, показал большие различия в относительных предпочтениях среди разных стран. [43] Другие подходы используют виртуальную реальность для оценки поведения человека в экспериментальных условиях. [44] [45] [46] [47] Однако некоторые утверждают, что расследование случаев типа трамвая не является необходимым для решения этической проблемы беспилотных автомобилей, поскольку случаи с трамваями имеют серьезные практические ограничения. Это должен быть план сверху вниз, чтобы соответствовать текущим подходам к решению чрезвычайных ситуаций в области искусственного интеллекта . [48]
Также остается вопрос о том, должен ли закон диктовать этические стандарты, которые должны использовать все автономные транспортные средства, или же владельцы или водители отдельных автономных автомобилей должны определять этические ценности своего автомобиля, такие как предпочтение безопасности владельца или его семьи безопасности других. [13] Хотя большинство людей не захотели бы использовать автоматизированный автомобиль, который может пожертвовать собой в дилемме жизни или смерти, некоторые [ кто? ] считают несколько нелогичным утверждение, что использование обязательных этических ценностей, тем не менее, будет в их интересах. По словам Гоголя и Мюллера, «причина, проще говоря, в том, что [персонализированные этические настройки] скорее всего приведут к дилемме заключенного ». [49]
В 2016 году правительство Германии назначило комиссию для изучения этических последствий автономного вождения. [50] [51] Комиссия приняла 20 правил, которые должны быть включены в законы, регулирующие этический выбор, который будут делать автономные транспортные средства. [51] : 10–13 К дилемме трамвая имеет отношение следующее правило:
8. Подлинные дилемматические решения, такие как выбор между одной человеческой жизнью и другой, зависят от конкретной ситуации, включая «непредсказуемое» поведение затронутых сторон. Таким образом, их нельзя четко стандартизировать, и их нельзя запрограммировать так, чтобы они были этически неоспоримыми. Технологические системы должны быть разработаны для предотвращения аварий. Однако их нельзя стандартизировать для комплексной или интуитивной оценки последствий аварии таким образом, чтобы они могли заменить или предвосхитить решение ответственного водителя с моральной способностью принимать правильные решения. Верно, что водитель-человек действовал бы незаконно, если бы он убил человека в чрезвычайной ситуации, чтобы спасти жизни одного или нескольких других людей, но он не обязательно действовал бы виновно. Такие правовые решения, принятые ретроспективно и с учетом особых обстоятельств, не могут быть легко преобразованы в абстрактные/общие оценки ex ante и, следовательно, также в соответствующие программные действия. … [51] : 11
{{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка )
