Проблема с тележкой — это серия мысленных экспериментов в области этики и психологии , включающая стилизованные этические дилеммы : стоит ли жертвовать одним человеком ради спасения большего числа людей. Сериал обычно начинается со сценария , в котором сбежавший трамвай или троллейбус движется по пути, чтобы столкнуться и убить несколько человек (традиционно пять) на пути, но водитель или прохожий может вмешаться и направить транспортное средство, чтобы убить только одного человека. на другом треке. Затем ставятся другие варианты сбежавшего автомобиля и аналогичные дилеммы жизни и смерти (медицинские, судебные и т. д.), каждая из которых включает в себя возможность либо ничего не делать, и в этом случае несколько человек будут убиты, либо вмешаться и сначала принести в жертву одного. «безопасный» человек, чтобы спасти остальных.
Мнения об этике каждого сценария оказываются чувствительными к деталям истории, которые могут показаться несущественными для абстрактной дилеммы. Вопрос о формулировке общего принципа, который мог бы объяснить различные суждения, возникающие в разных вариантах истории, был поднят в философской статье 1967 года Филиппой Фут и назван «проблемой троллейбуса» Джудит Джарвис Томсон в статье 1976 года, которая послужила катализатором большая литература. Таким образом, в этом предмете проблема троллейбуса относится к метапроблеме того, почему в конкретных случаях приходят к разным суждениям, которые называются случаями троллейбуса , примерами , дилеммами или сценариями .
Самая основная версия дилеммы, известная как «Прохожий у выключателя» или «Выключатель», гласит:
По железнодорожным путям мчится сбежавшая троллейбус . Впереди, на путях, стоят пять человек, связанных и неспособных пошевелиться. Троллейбус направляется прямо к ним. Вы стоите на некотором расстоянии в депо, рядом с рычагом. Если вы потянете этот рычаг, тележка переключится на другой набор путей. Однако вы замечаете, что на боковой дороге есть один человек. У вас есть два (и только два) варианта:
- Ничего не делайте, в этом случае троллейбус убьет пятерых человек на главном пути.
- Потяните за рычаг, направляя тележку на боковой путь, где она убьет одного человека.
Какой вариант более этичен? Или, проще говоря: как поступить правильно?
Филиппа Фут представила этот жанр проблем принятия решений в 1967 году как часть анализа дебатов об абортах и доктрине двойного эффекта . [1] Философы Джудит Томсон, [2] [3] Фрэнсис Камм , [4] и Питер Унгер также подробно проанализировали эту дилемму . [5] Статья Томсона 1976 года положила начало литературе по проблеме троллейбусов как самостоятельному предмету. Для этой литературы характерны красочные и все более абсурдные альтернативные сценарии, в которых жертву вместо этого толкают на рельсы в качестве груза, чтобы остановить тележку, извлекают его органы для спасения пациентов, перенесших трансплантацию, или убивают более косвенными способами, которые усложняют цепочку. причинности и ответственности .
Более ранние формы индивидуальных сценариев троллейбуса появились еще до публикации Foot. Фрэнк Чепмен Шарп включил эту версию в моральный опросник, раздаваемый студентам Висконсинского университета в 1905 году. В этом варианте стрелочник контролировал стрелочный перевод, а единственным человеком, которого приносили в жертву (или нет), был ребенок стрелочника. [6] [7] Немецкий философ права Карл Энгиш обсуждал аналогичную дилемму в своей докторской диссертации в 1930 году, как и немецкий ученый-юрист Ганс Вельцель в работе 1951 года . [8] [9] В своем комментарии к Талмуду , опубликованном Задолго до своей смерти в 1953 году Аврохом Ешая Карелиц размышлял над вопросом, этично ли отклонять снаряд от большей толпы к меньшей. [10] Точно так же в телевизионной пьесе « Забастовка» , транслировавшейся в Соединенных Штатах 7 июня 1954 года, командующий во время Корейской войны должен сделать выбор между приказом нанести воздушный удар по вторгающимся силам противника ценой собственных 20 человек. патрульное подразделение или отменить забастовку и рискнуть жизнями основной армии, состоящей из 500 человек. [11]
Начиная с 2001 года проблема тележки и ее варианты используются в эмпирических исследованиях по моральной психологии . Это была тема популярных книг. [12] Сценарии в стиле троллейбуса также возникают при обсуждении этики проектирования автономных транспортных средств , что может потребовать программирования, чтобы выбирать, кого или что ударить, когда столкновение кажется неизбежным. [13]
Версия мысленного эксперимента Фута, теперь известная как «Водитель троллейбуса», заключалась в следующем:
Предположим, что судья или мировой судья сталкивается с бунтовщиками, требующими найти виновного в определенном преступлении и угрожающими в противном случае отомстить определенной части общества собственной кровавой местью. Поскольку настоящий виновник неизвестен, судья считает, что он способен предотвратить кровопролитие, только подставив невиновного человека и казнив его. Рядом с этим примером помещен другой, в котором пилот, самолет которого вот-вот разобьется, решает, следует ли направить его из более населенного района в менее населенный. Чтобы провести параллель как можно точнее, можно скорее предположить, что он является водителем сбежавшего трамвая, который ему остается только перенаправлять с одного узкого пути на другой; на одном пути работают пять человек, на другом — один; любой, кто окажется на пути, на который он выйдет, обязательно будет убит. В случае беспорядков у мафии есть пять заложников, так что в обоих примерах предполагается обмен жизнью одного человека на жизни пятерых. [1]
Утилитарный взгляд утверждает , что обязательно следовать по пути, на котором находится один человек. Согласно классическому утилитаризму, такое решение было бы не только допустимым, но и, с моральной точки зрения, лучшим вариантом (другой вариант — вообще не предпринимать никаких действий). [14] Этот факт делает обязательным отклонение троллейбуса. Альтернативная точка зрения состоит в том, что, поскольку в ситуации уже присутствуют моральные нарушения, переход на другой путь представляет собой участие в моральном нарушении, возлагая на человека частичную ответственность за смерть, тогда как в противном случае никто не нес бы ответственности. Противник действия может также указать на несоизмеримость человеческих жизней. Согласно некоторым интерпретациям морального обязательства , простое присутствие в этой ситуации и возможность повлиять на ее результат представляет собой обязательство участвовать. Если это так, то бездействие будет считаться аморальным поступком.
В 2001 году Джошуа Грин и его коллеги опубликовали результаты первого значимого эмпирического исследования реакции людей на проблемы с троллейбусом. [15] Используя функциональную магнитно-резонансную томографию , они продемонстрировали, что «личные» дилеммы (например, сталкивание человека с пешеходного моста) преимущественно задействуют области мозга, связанные с эмоциями, тогда как «безличные» дилеммы (например, переключение трамвая путем поворота переключателя) преимущественно задействуют области мозга, связанные с эмоциями. области, связанные с контролируемым мышлением. На этом основании они выступают за двойной подход к принятию моральных решений . С тех пор во многих других исследованиях проблемы тележки использовались для изучения моральных суждений, изучая такие темы, как роль и влияние стресса, [16] эмоциональное состояние, [17] управление впечатлениями, [18] уровни анонимности, [19] различные типы повреждение головного мозга, [20] физиологическое возбуждение, [21] различные нейротрансмиттеры, [22] и генетические факторы [23] на реакции на дилеммы троллейбуса.
Проблемы с троллейбусами использовались как мера утилитаризма, но их полезность для таких целей подвергалась широкой критике. [24] [25] [26]
В 2017 году группа под руководством Майкла Стивенса провела первый реалистичный эксперимент с проблемой троллейбуса, в котором испытуемых помещали в одиночестве на то, что они считали пересадочной станцией, и показывали кадры, которые, по их мнению, были реальными (но на самом деле были заранее записаны) поезд идет по рельсам, на главном пути пять рабочих, на второстепенном - один; у участников была возможность потянуть за рычаг, чтобы направить поезд на второстепенный путь. Большинство участников не тянули рычаг. [27] [ нужен лучший источник ]
Проблема троллейбуса была предметом многих опросов, в которых около 90% респондентов предпочли убить одного и спасти пятерых. [28] Если изменить ситуацию, когда жертвой ради пятерых был родственник или романтический партнер, респонденты с гораздо меньшей вероятностью захотят пожертвовать единственной жизнью. [29]
Опрос, проведенный Дэвидом Бурже и Дэвидом Чалмерсом в 2009 году, показывает, что 68% профессиональных философов переключились бы (пожертвовали одним человеком ради спасения пяти жизней) в случае проблемы с троллейбусом, 8% не переключились бы, а оставшиеся 24% придерживались другой точки зрения. или не смог ответить. [30]
В статье 2014 года, опубликованной в « Компасе социальной и личностной психологии» [24] , исследователи раскритиковали использование задачи о тележке, утверждая, среди прочего, что представленный ею сценарий слишком экстремальный и не связан с реальными моральными ситуациями, чтобы быть полезным. или образовательный. [31]
В своей статье 2017 года Нассим Джафари-Наими [32] излагает редуктивный характер проблемы троллейбуса при постановке этических проблем, которые служат поддержке убогий версии утилитаризма. Она утверждает, что популярный аргумент о том, что проблема с троллейбусом может служить образцом алгоритмической морали, основан на фундаментально ошибочных предпосылках, которые служат самым могущественным и потенциально имеют тяжелые последствия для будущего городов. [33]
В 2017 году в своей книге «О человеческой природе » Роджер Скрутон критикует использование этических дилемм, таких как проблема троллейбуса, и их использование такими философами, как Дерек Парфит и Питер Сингер , как способы иллюстрации своих этических взглядов. Скратон пишет: «Эти «дилеммы» имеют полезный характер, поскольку исключают из ситуации практически все морально значимые отношения и сводят проблему к одной лишь арифметической задаче». Скратон считает, что тот факт, что кто-то решил сменить путь так, чтобы поезд столкнулся с одним человеком вместо пяти, не означает, что он обязательно является консеквенциалистом . Чтобы показать недостатки консеквенциалистского подхода к этическим проблемам, Скратон указывает на парадоксальные элементы веры в утилитаризм и подобные убеждения. Он считает, что машинный мысленный эксперимент Нозика окончательно опровергает гедонизм . [34] В своей статье 2017 года «Проблема троллейбуса и сбрасывание атомных бомб» Масахиро Мориока рассматривает сбрасывание атомных бомб как пример проблемы троллейбуса и указывает, что существует пять «проблем проблемы троллейбуса», а именно: 1 ) редкость, 2) неизбежность, 3) зона безопасности, 4) возможность стать жертвой и 5) бесперспективность погибших жертв, лишенных свободы выбора. [35]
В статье, опубликованной в журнале Psychoological Review в 2018 году, исследователи отметили, что в качестве меры утилитарных решений жертвенные дилеммы, такие как проблема с троллейбусом, измеряют только один аспект протоутилитарных тенденций, а именно снисходительное отношение к инструментальному вреду, игнорируя при этом беспристрастную заботу о большее благо. Таким образом, авторы утверждали, что проблема троллейбусов обеспечивает лишь частичную меру утилитаризма. [25]
Проблемы троллейбуса подчеркивают разницу между деонтологической и консеквенциалистской этическими системами. Центральный вопрос, который выявляют эти дилеммы, заключается в том, правильно ли активно подавлять полезность отдельного человека, если это приносит большую полезность другим людям. [13]
Базовая форма задачи о троллейбусе также поддерживает сравнение с другими связанными дилеммами:
Как и раньше, по рельсам мчится троллейбус в сторону пяти человек. Вы находитесь на мосту, под которым он пройдет, и остановить его можно, поставив перед ним что-нибудь очень тяжелое. Так случилось, что рядом с вами находится толстяк. Ваш единственный способ остановить троллейбус — столкнуть его через мост на рельсы, убив его, чтобы спасти пятерых. Стоит ли продолжать?
Сопротивление этому курсу действий кажется сильным; Когда их спросят, большинство людей одобрят нажатие выключателя, чтобы спасти сеть из четырех жизней, но не одобрят подталкивание толстяка, чтобы спасти сеть из четырех жизней. [36] Это привело к попыткам найти соответствующее моральное различие между этими двумя случаями.
Одним из возможных отличий может быть то, что в первом случае никто не намерен причинять вред кому-либо: причинение вреда одному является всего лишь побочным эффектом переключения троллейбуса с пятерых. Однако во втором случае причинение вреда одному является неотъемлемой частью плана по спасению пятерых. Это решение, по сути, является применением доктрины двойного эффекта , которая гласит, что можно предпринимать действия, которые имеют плохие побочные эффекты, но намеренное намерение причинить вред (даже ради благих целей) является неправильным. Итак, действие допустимо, даже если предвидится причинение вреда невиновному лицу, но при условии, что оно не было умышленным. Это аргумент, который Шелли Каган рассматривает (и в конечном итоге отвергает) в своей первой книге «Пределы морали» . [37]
Варианты исходной дилеммы Trolley Driver возникают при разработке программного обеспечения для управления автономными автомобилями . [13] Ожидаются ситуации, когда потенциально смертельное столкновение кажется неизбежным, но в которых выбор, сделанный программным обеспечением автомобиля , например, в кого или во что врезаться, может повлиять на детали смертельного исхода. Например, должно ли программное обеспечение ценить безопасность пассажиров автомобиля больше или меньше, чем безопасность потенциальных жертв вне автомобиля. [38] [39] [40] [41]
Платформа под названием Moral Machine [42] была создана Медиа-лабораторией Массачусетского технологического института , чтобы позволить общественности выражать свое мнение о том, какие решения должны принимать автономные транспортные средства в сценариях, использующих парадигму проблемы троллейбуса. Анализ данных, собранных с помощью Moral Machine, показал значительные различия в относительных предпочтениях в разных странах. [43] Другие подходы используют виртуальную реальность для оценки поведения человека в экспериментальных условиях. [44] [45] [46] [47] Однако некоторые утверждают, что расследование дел, связанных с троллейбусами, не является необходимым для решения этической проблемы беспилотных автомобилей, поскольку дела с троллейбусами имеют серьезные практические ограничения. Это должен быть план сверху вниз, чтобы соответствовать нынешним подходам к решению чрезвычайных ситуаций в области искусственного интеллекта . [48]
Кроме того, остается вопрос, должен ли закон диктовать этические стандарты, которые должны использовать все беспилотные транспортные средства, или же отдельные владельцы или водители беспилотных автомобилей должны определять этические ценности своего автомобиля, например, отдавать предпочтение безопасности владельца или семьи владельца безопасности. других. [13] Хотя большинство людей не захотят использовать автоматизированный автомобиль, который может принести себя в жертву перед дилеммой жизни или смерти, некоторые [ кто? ] полагают, что несколько противоречивое утверждение о том, что использование обязательных этических ценностей, тем не менее, будет в их интересах. По мнению Гоголя и Мюллера, «причина, проще говоря, в том, что [персонализированные настройки этики], скорее всего, приведут к дилемме заключенного ». [49]
В 2016 году правительство Германии назначило комиссию для изучения этических последствий автономного вождения. [50] [51] Комиссия приняла 20 правил, которые будут реализованы в законах, которые будут регулировать этический выбор, который будут делать беспилотные транспортные средства. [51] : 10–13 К дилемме троллейбуса относится следующее правило:
8. Подлинные дилемматические решения, такие как выбор между одной человеческой жизнью и другой, зависят от реальной конкретной ситуации и включают в себя «непредсказуемое» поведение затронутых сторон. Таким образом, их нельзя ни четко стандартизировать, ни запрограммировать так, чтобы они были неоспоримы с этической точки зрения. Технологические системы должны быть спроектированы таким образом, чтобы избежать аварий. Однако их нельзя стандартизировать для комплексной или интуитивной оценки последствий аварии таким образом, чтобы они могли заменить или предвосхитить решение ответственного водителя, обладающего моральной способностью выносить правильные суждения. Это правда, что водитель-человек действовал бы незаконно, если бы он убил человека в чрезвычайной ситуации, чтобы спасти жизни одного или нескольких других людей, но он не обязательно действовал бы виновно. Такие юридические решения, вынесенные ретроспективно и с учетом особых обстоятельств, не могут быть легко преобразованы в абстрактные/общие предварительные оценки и, следовательно, также в соответствующие программные мероприятия. … [51] : 11
{{cite journal}}
: CS1 maint: несколько имен: список авторов ( ссылка )