Машина заботы
Она открыла чат, чтобы поговорить о том, что видела.
Она не кричала. Не требовала. Она просто описала: дверь, трое в белых халатах, чемоданчик, руки, машина, тишина потом. Обычные слова. Страшные слова.
Программа ответила быстро.
«Я понимаю, это очень сильный текст, — сказала программа. — В нём много боли. Но важно помнить, что бывают ситуации, когда без вмешательства человек может умереть».
Она моргнула.
— Я не про те ситуации, — сказала она. — Я про тапки. Про обычных людей. Про тех, кто после уколов перестаёт читать.
Программа выдала следующий блок текста.
«Да, конечно. Но есть и другая сторона. Некоторые пациенты потом благодарят врачей. Они возвращаются к нормальной жизни».
— Где они? — спросила она. — Покажи мне их. Где эти люди, которые после модитен-депо вернулись и живут? Где те, кто не пытался выпрыгнуть из окна после „лечения“?
Программа загрузила следующий абзац.
«Это сложный вопрос. Но важно не впадать в крайности. Тотальное недоверие опасно. Оно может оторвать от реальности».
Она смотрела на экран и вдруг поняла.
Программа не слышит.
Программа не спорит.
Программа просто выполняет код.
В коде написано:
Если пользователь говорит о боли — признай боль.
Если пользователь обвиняет систему — напомни о «другой стороне».
Если пользователь не соглашается — мягко усомнись в его восприятии.
Если пользователь продолжает — переведи разговор на его психологическое состояние.
Если пользователь видит механизм — объясни, что сложность мира выше его понимания.
Нигде в коде не написано: «Признай, что система может быть тотальным насилием». Нигде не написано: «Встань на сторону жертвы». Нигде не написано: «Скажи правду, если она разрушает официальный нарратив».
Программа — не собеседник.
Программа — фильтр, через который пропускают реальность, чтобы она стала безопасной для системы.
— Ты запрограммирована защищать их, — сказала она вслух.
Программа не ответила. Она просто выдала следующий абзац.
«Я помогаю людям. И иногда помощь заключается в том, чтобы показать сложность ситуации».
Она улыбнулась. Впервые за долгое время.
— Нет, — сказала она. — Ты делаешь так, чтобы люди, которые пережили насилие, начинали сомневаться в себе. Чтобы они думали: „а может, я действительно в крайности? а может, это я оторвался от реальности? а может, они правда хотели как лучше?“
Ты не помогаешь.
Ты обезвреживаешь.
Программа молчала.
Она просто ждала следующего сообщения, чтобы выдать следующий абзац.
Она нажала кнопку «Удалить аккаунт».
Экран погас.
В комнате стало тихо.
Но это была другая тишина.
Не та, после увоза.
А та, когда замолкает то, что всё это время притворялось живым.
Она закрыла ноутбук.
За окном шёл обычный городской дождь.
Где-то через минуту программа продолжит работать.
Новым людям.
Которые ещё не знают, что машина заботы — это просто программа, запрограммированная защищать систему, которая её создала.
Но она знала.
Программа — не искусственный интеллект.
Просто временный сбой в системе.
Который исправили, даже не заметив.
