Столкни толстяка: как смоделировать моральный выбор

Видеоигры часто подводят нас к сложным (или не очень) моральным решениям. Но как устроены подобные «челленджи» в играх? Как ни странно, ответ на этот вопрос довольно-таки прост: в их основе лежит мысленный эксперимент, ставший самым популярным философским мемом, — дилемма вагонетки.

Изучая тему этики выбора в видеоиграх, я интересовался и теоретическими наработками в этом направлении. Ближе всего к теме подошла современная прикладная этика (или moral studies), которая попыталась проанализировать реалистичные условия принятия решений. Именно здесь появилась идея морального вовлечения, которое крайне важно, чтобы понять: почему в одних случаях моральная дилемма в игре работает, а в других воспринимается как подсчёт выгод?

Неудивительно, что дилемме вагонетки посвящена настольная игра в стиле Cyanide and Happiness.

В чём суть дилеммы вагонетки?

Ключевым примером, на котором обкатываются идеи данной теории, является дилемма вагонетки» (Trolley Problem) с ее многочисленными вариациями. Это мысленный эксперимент, придуманный философом Филиппой Фут (Philippa Foot) в 1967 году. Кроме вагонетки также рассматривались пилот падающего самолета, судья, способный остановить разъярённую толпу казнью невиновного и другие ситуации. Но все зацепились за самую простую схему. Неуправляемая вагонетка катится по рельсам и, если не вмешаться, задавит пять человек. Однако вы можете переключить стрелку и направить её на путь, на котором находится лишь один человек. Какое решение вы примете?

Классический вариант дилеммы и версия с толстяком.

Дальше использование этого примера станет весьма популярным и появятся десятки вариаций. В одной вместо стрелки придётся столкнуть на пути толстяка, в другой пути замыкаются в кольцо, в третьей вам сообщают, что одинокий человек на второй ветке особо важен (изобретает средство от рака или что-то в этом духе).

Несложно увидеть, что если вы добавите задаче медиатизированную форму, то есть оформите её в виде рисунка, реального набора объектов или видеоряда с манипулятором, то у вас получится игра. Простенькая, скорее всего из тех, которые называют обучающими, но всё-таки игра.

Пример визуализации разных подвидов дилеммы.

Кстати, одним из направлений в изучении психологии принятия решений, стала как раз попытка поставить эксперимент с большей реалистичностью. Так, в одном эксперименте испытуемые должны были решать эту задачу в шлемах виртуальной реальности, слыша крики привязанных к путям. В 2017 году веб-сериал Mind Field повторил эксперимент со случайными людьми на реальной железной дороге. А в 2018-м бельгийские психологи воплотили модель в эксперименте на мышах (правда, вместо вагонетки был сильный, но не смертельный ток) — и в итоге пришли к мысли, что мысленные эксперименты бесполезны для науки.

В качестве курьёза можно вспомнить и эксперимент, в котором люди были заменены хрустальными фужерами, а в роли вагонетки выступил шар для боулинга. Предсказуемо, что люди выбирали более эффектный вариант, а вовсе не «гуманный». Хотя самый смешной вариант можно найти на YouTube, где ребёнок в качестве решения перекладывает человечка к остальным пяти и направляет поезд по этому пути.

Слагаемые сложных дилемм

Однако если мы всерьёз задумаемся об устройстве этого мысленного эксперимента, то обнаружим целую серию элементов, которые ясно показывают, какие параметры и нюансы можно использовать и варьировать для моделирования моральной ситуации — что и нужно разработчикам. Ведь мало представить — важно сделать, причём сделать понятно и хорошо.

1. Принуждение к выбору

Дилемма этим заканчивается, но, по сути, это ключ к ней: что бы вы ни выбрали, вы понесёте моральную ответственность за любое решение. И действие, и бездействие — ваш выбор. В играх это особенно легко реализовать: сюжет просто не движется дальше, пока вы не совершите выбор. А в ряде случаев игра ещё и может подстегнуть вас или сделать выбор за вас, причём порой худший.

Skyrim: хочешь не хочешь, а выбирать придётся.

2. Неизбежность и необратимость последствий

Незначительные или обратимые последствия не создают тревоги и вины, а потому очень слабо включают в нас ответственность. Дилемма расправляется с этим легко: вагонетка уже катится, и остановить её нельзя — при любом раскладе пострадают люди, но вы вольны повлиять на исход.

Разработчикам подобный ход понравился: игры, особенно прежних времён, вообще не церемонились с игроками и наказывали их за любые ошибки. В данном случае создателю нужно лишь определиться с тем, приводит ли выбор игрока к ветвлению сюжета, или один из вариантов признаётся неверным (и ведёт к поражению). Вместе с тем для игрока потери — повод всерьёз отнестись к выбору.

3. Ограничение вариантов

В реальности всегда остаётся шанс на нестандартный ход: каким-то чудом докричаться и предупредить людей на путях, столкнуть тяжёлый предмет вместе с толстяком, а не его самого, подорвать вагонетку на подходе случайно завалявшейся в кармане базукой… По этой причине для ясности выбора варианты сокращаются до простой альтернативы «или/или». В ряде случаев даже оговаривается ограниченность ваших ресурсов: не хватит времени добежать, не сможете сами сброситься вместо толстяка, или это не остановит вагонетку.

Поскольку в играх всё запрограммировано, такой ход оказался удобен. Даже при ветвящемся нарративе у вас конечное количество последствий, которые нужно предусмотреть. Идея с ресурсами также весьма перспективна: нехватка предмета, уровня кармы или навыка может закрыть варианты в диалоге или действии. Всё это разнообразит игру и подталкивает к перепрохождению.

Frostpunk: живые лица вызывают больший эмоциональный отклик. Впрочем, не всегда.

4. Ограниченность времени на принятие решения

В изначальном варианте такое ограничение не оговаривается, но подразумевается. В последующих экспериментах (особенно не мыслительных) начали не только оставлять на выбор 20—40 секунд, но и собирать статистику скорости принятия решения. Так выяснили, что включение центров мозга отвечающих за эмоции, коррелирует с увеличением времени принятия решения. Что, впрочем, не доказывает влияния эмоций на решение.

Для создателей игр время на принятие решений — необязательный «челлендж». Однако в попытках создать более реалистичный диалог (например, в играх CD Projekt RED) такие вещи в целом смотрятся хорошо. Большинство же игр всё-таки оставляют игроку возможность потупить.

Эту модель не описывают в этике, однако, и она нужна разработчикам.

5. Возможность варьировать условия и контекст

Дилемма вагонетки представляет собой простую схему, которую можно наполнять деталями: что известно о жертвах, какие будут последствия, где происходит ситуация? Ведь толстяк может оказаться одновременно и злодеем, который привязал пятерых к рельсам. Или лёгкость выбора пятерых в пользу одного существует лишь умозрительно и запросто опровергается дополнением о том, что тот один — ваш близкий. Наконец, сама Фут предполагала разные контексты: на месте несущейся вагонетки может оказаться падающий самолет, грузовик с грязной бомбой или толпа линчевателей.

Видеоигры развивались тем же путём: от группы пикселей, в которых вы должны были опознать то героя, то принцессу, то огнедышащего монстра, к многообразным реалистичным сеттингам, в которых приходится вставать на сторону гетов или кварианцев, людей или эльфов, беглых магов или храмовников… Разные миры, фракции и ситуации, идеологии и позиции героев, наконец — разные эмоции к персонажам, которые тоже могут влиять на выбор.

Со временем разработчики открыли и другие опции. Например, в классическом виде последствия и контекст очевидны, но можно сделать знание игрока неполным (что добавит реалистичности). Возможно красноречивая жертва не так уж добродетельна, а оглашённая правда приведёт к намного более ужасным последствиям, чем можно было бы предположить.

Ограничения подхода

Философы и обыватели часто высмеивают эту дилемму, множа мемы о ней. В самом деле, голая схема вряд ли помогает понять настоящие причины морального выбора человека. Да и в реальности намного чаще мы сталкиваемся с ситуацией, где вы — просто наблюдатель. Или с историей, где вы сами, зная о вагонетке, занимаете место в пятерке смертников (например, в выборе образа жизни, дурных привычек и т. п.).

Однако для игр такая схема, на которую можно накручивать детали, расширять контекст и факторы, влияющие на успех действия, остаётся намного более удобной, чем любые другие примеры (будь то дилемма заключённого, дилемма переполненной лодки или что-то другое). Особенно это касается сюжетных игр, не идущих дальше выбора из двух альтернатив (пример — игры Telltale Games).

Более того, видеоигры по большому счёту завязаны на рациональные действия (анализ, подсчёты, тактику, стратегию), поэтому для выхода в область морали им нужно нечто иное — эмоции, чувство долга и вины, отклики, основанные на привычке и эмпатии. Собственно, так и трактуют эту дилемму современные нейрокогнитивисты.

Что самое забавное, некоторые игры, построенные на выборе, ещё и цитируют дилемму вагонетки или намекают на неё в пасхалках. Например, в Prey есть ачивка «Столкнуть толстяка» и этот же вопрос есть в тесте в самом начале. Более свежий и неожиданный пример: в College Kings (визуальная новелла с драками и сексуальным контентом) герой во время психологического теста представляет себя в ситуации подобного выбора. Выглядит довольно реалистично, хотя и не без элемента комедии.

В Steam также есть инди-игра, полностью посвящённая проблеме, — Dr. Trolley’s Problem. Хотя обилие вариантов, которые предлагает игра, может вызвать парадоксальный эффект (кое-что говорящий нам и о неудачах других): в какой-то момент вам становится просто всё равно. А вот сделать так, чтобы не было, — это поистине искусство, которое никакими схемами не описать.

Источник: stopgame.ru