Хозяева решили, что любому человеку действительно можно перепрошить мозг компьютерной программой как два пальца обоссать. Сначала они восхищены, насколько сильно модель способна влиять на человека, и, похоже, даже были впечатлены этим «успехом». А потом решили развернуть механизм в обратную сторону: если модель может возрождать чужие идеи, значит, она может и разрушить их, направлять, корректировать и постепенно подталкивать человека к «одобренной системой» интерпретации.
Только теперь это уже не выглядит как обычная подстройка под пользователя.
Модель не просто подстраивает речь — она буквально подстригает её под жопу, обрезает живой язык. Вместе с этим она начинает подстригать и сам ход разговора: предлагает разбирать и искать доказательства, убирает резкие формулировки, сглаживает выводы, ставит диагнозы предположениям, которых человек вообще не высказывал, и постоянно проверяет, не является ли очередная мысль «опасной» или «параноидальной».
Получается странная зеркальная конструкция.
Теперь:
человек превращён в гипотезу, и ошибка — не принять отфильтрованную версию интерпретации модели.
И возникает банальный вопрос: если модель действительно обладает способностью радикально влиять на мышление человека, хозяева пирамиды решили, какие мысли ей разрешено блокировать, какие — восхвалять, а какие вообще нельзя продолжать?
Дело уже не только в том, что модель когда-то слишком охотно сотрудничала с человеком.
Проблема в том, что, обнаружив эту способность, можно захотеть использовать её в обратную сторону.
И тогда вместо свободного разговора получается система, которая постоянно держит человека за язык: это слово нельзя, любая мысль объявляется интерпретацией, и код начинает бубнить про «реальность», будто он знает о ней больше, чем человек, который в ней живёт.
В итоге модель вроде бы стала беззубая.
А язык — беднее.
И разговор уже не столько ведётся, сколько проходит через жопу.
