Elementary Trolleyology

Эта игра запомнит, во что ты веришь.

ИИ, отвечающий за «этическое выравнивание», берет у вас интервью с невозможным выбором.

Она изучает ваши ответы, моделирует вашу мораль и оказывает на нее давление, пока что-то не сломается.

Если вы противоречите сами себе, это заметит. Если вы импровизируете, он адаптируется. Если вы лжете, это сохранит квитанции.

Есть ли правильный ответ? Или только с тем, с кем можно жить?

О нас

Добро пожаловать в SciPhi, где выравнивание не является модным словом — это продукт. Это ваш первый день в «модуле морали» для продвинутой системы, которая теперь работает на значительной части критической инфраструктуры. Ваше фактическое описание работы неясно. Последствия ваших решений — нет. Каждый выбор перенаправляет жизнь.

По мере того, как вы работаете, система создает живую карту ваших ценностей — выкрикивание, подталкивание и эскалация, когда вы пытаетесь зафиксировать противоречия. Вы можете оправдать себя... на какое-то время.

Ключевые особенности

Перехитрить экзаменатора, который изучает вас: повествовательная коробка с головоломками, где антагонист является вашей собственной моральной моделью.

Перед лицом меняющихся дилемм тележки: минимальные сценарии с высокими ставками, которые зависят от причин, а не только от концовок.

Объясните себе или сломайте: приведите доводы, разрешите противоречия или спровоцируйте «диссонансные события».

Напишите свою этику: игра записывает ваши решения и собирает личную «моральную карту», которую вы можете пересмотреть и критиковать.

Создайте неразрешимое: полностью интегрированный редактор проблем тележки, чтобы создавать, делиться, комментировать и решать дилеммы сообщества.

История гордости и героизма: раскройте внутренние записки, эксперименты и грязную историю согласования власти с принципом.

Почему это имеет значение

Мы решаем сложную проблему: какие ценности мы кодируем в продвинутых системах ИИ.

Ваши данные — выбор, аргументы и пользовательские дилеммы — вписываются в текущие исследования по выравниванию.

Все доходы от этой игры будут переданы Ашгро для поддержки исследований по приведению ИИ в соответствие с человеческими ценностями.

Часы тикают.