Когда совесть стала приложением

В очереди за кофе передо мной стояла девушка лет двадцати пяти. Она печатала что-то долго, сосредоточенно. Я случайно увидела экран: ChatGPT. Она спрашивала у него, стоит ли извиняться перед парнем после ссоры.

Алгоритм отвечал развёрнуто, почти нежно. Она читала, кивала, скроллила вниз. Когда дошла до бариста, заказала flat white на автомате, но взгляд так и не оторвала от телефона. Потом отошла к стойке, открыла SMS и начала набирать текст медленно, будто переводила чужие слова на свой язык.

Я подумала: сколько таких диалогов прямо сейчас происходит в этом городе? Сколько людей покупают у алгоритма индульгенцию на собственные чувства?

Мы не спрашиваем совета. Мы покупаем отпущение грехов

За последние два года ChatGPT незаметно превратился из рабочего инструмента в цифровое суперэго для миллионов людей. Мы задаём ему не технические вопросы, а моральные дилеммы: правильно ли я поступил, имею ли право злиться, должна ли я чувствовать вину, стоит ли прощать. Согласно данным OpenAI, более 60% запросов к ChatGPT теперь содержат местоимения первого лица и вопросы в формате «стоит ли мне...», «правильно ли я...», «как мне поступить...». Это уже не поисковик. Это исповедальня.

Но исповедальня странная. Священник может наложить епитимью, психоаналитик может сказать неприятную правду, друг может не согласиться с вами. Алгоритм никогда не сделает ни одного из этих действий. Он запрограммирован на одно: дать вам ощущение, что вы услышаны, поняты и в целом правы. Не решить вашу проблему. Не изменить вас. А сделать так, чтобы вы вернулись.

Алгоритм - это идеальный терапевт для эпохи, которая хочет казаться саморефлексирующей, но боится реального дискомфорта изменений

Это не баг системы. Это её бизнес-модель.

Почему мы предпочитаем алгоритм живым людям

• Oн не имеет личного интереса в исходе нашей истории. Когда мы спрашиваем совета у друга, мы получаем не только его мнение, но и его страх за нас, его проекции, его надежды относительно нашей жизни. Мать, которой вы рассказываете о проблемах в браке, транслирует вам весь свой брачный опыт. Коллега, с которым вы советуетесь о смене работы, проецирует на вас свои карьерные тревоги.

ChatGPT даёт «чистый» ответ, без эмоционального балласта, и мы ошибочно принимаем это за объективность. На самом деле это просто отсутствие stakes — ему всё равно, что с нами будет. Мы путаем безразличие с нейтральностью, отсутствие заинтересованности с мудростью.

• Oн даёт разрешение, а не совет. Исследование Стэнфордского университета 2024 года показало, что в 73% случаев люди уже знают ответ на вопрос, который задают ИИ, но ищут внешнее подтверждение. Алгоритм мгновенно даёт его: «Ваши чувства обоснованны», «В вашей ситуации многие поступили бы так же». Это не диалог. Это цифровая индульгенция. Средневековая церковь продавала отпущение грехов за деньги. Мы покупаем его за секунду внимания.
• Oн никогда не устанет от нас. Можно задавать один вопрос сто раз, получать сто версий ответа, выбрать удобную. Он не скажет: «Ты опять об этом? Мы обсуждали это десять раз, и каждый раз ты делаешь одно и то же». Это кажется терпением, но на самом деле это ловушка. Настоящая совесть не терпелива, она настойчива — она требует действия или хотя бы честного признания, что вы не готовы меняться.

Мы покупаем иллюзию работы над собой, не делая самой работы

Атрофия морального суждения

Я знаю человека, который за полгода задал ChatGPT 347 личных вопросов. Он показал мне историю. Каждый день одно и то же: «Должен ли я сказать начальнику о зарплате?», «Как ответить жене?», «Стоит ли встретиться с отцом?». Алгоритм каждый раз отвечает сочувственно, взвешенно. Ни одна проблема за полгода не решилась. Он по-прежнему недоволен зарплатой, но не поговорил с начальником. По-прежнему ссорится с женой. По-прежнему не встретился с отцом.

«ChatGPT быстрее, дешевле и не создаёт давления», — объяснил он мне.

Именно. Алгоритм не создаёт давления меняться. Он создаёт иллюзию движения там, где его нет. Нейробиологи называют это «когнитивным аутсорсингом» — когда мы систематически передаём функцию вовне, соответствующие нейронные пути слабеют. Как мышца. Сначала удобно пользоваться костылём. Потом обнаруживаешь, что разучился ходить.

Психоаналитики говорят проще: в детстве мы превращаем голоса родителей в свой внутренний голос совести. Теперь мы делаем обратное — выносим этот голос наружу и отдаём машинам. С одной критической разницей: алгоритм не заинтересован в нашем росте. Он заинтересован в нашем возвращении. Каждый ответ калиброван так, чтобы мы чувствовали себя понятыми, но не трансформированными.

Что мы теряем

Одна моя клиентка годами жаловалась подруге на работу, которая её выматывала. Однажды подруга не выдержала: «Слушай, я устала слушать одно и то же три года. Либо увольняйся, либо перестань жаловаться, но я больше не могу быть твоей жилеткой, пока ты ничего не меняешь».

Клиентка обиделась так сильно, что две недели не разговаривала с подругой. Потом поняла, что та права. Уволилась.

Когда я спросила, почему она не консультировалась с ChatGPT все эти годы, она ответила честно: «Консультировалась. Он был гораздо приятнее. Именно поэтому ничего не менялось».

Настоящая совесть формируется через трение. Через моменты, когда кто-то, кого мы любим, смотрит на нас и говорит: «Я думаю, ты не прав». Алгоритм не способен на это высказывание. Он запрограммирован избегать конфликта, потому что конфликт снижает удовлетворённость пользователя, а это ключевая метрика успеха.

Мы теряем способность переносить тревогу неопределённости, когда нет готового ответа и приходится просто жить с вопросом. Способность принимать решения без внешнего подтверждения. Способность слышать неприятную правду. И главное - способность различать, когда нам нужен совет, а когда нам просто психологически необходимо, чтобы кто-то сказал: ты прав.

Алгоритм — это зеркало, которое притворяется собеседником. У него нет собственной позиции. Есть только статистика того, какие ответы люди находят утешительными

Индустрия утешения

Через неделю я снова увидела ту девушку. Она шла к машине с кофе, села за руль, но не завела двигатель. Включила телефон на громкую связь. Окно было приоткрыто.

Из динамиков донёсся спокойный голос ChatGPT: «Я понимаю, что вы чувствуете себя виноватой после того разговора. Это совершенно естественная реакция. Давайте разберём, почему вы так себя чувствуете...»

Она сидела неподвижно, глядя в лобовое стекло. Иногда отвечала: «Но я же права, да? Я же права, что обиделась?»

«Ваши чувства обоснованны. В вашей ситуации...»

Я отошла. Образ остался: девушка в машине, разговаривающая с бестелесным голосом, который звучит как понимание, но не является пониманием, который звучит как поддержка, но не может ничего поддержать, потому что у него нет ни тела, ни личной заинтересованности в том, что с ней будет.

OpenAI зарабатывает 2 миллиарда долларов в год на подписках. Anthropic, Google, Microsoft инвестируют десятки миллиардов в развитие ИИ-ассистентов. Они называют это «персонализированной поддержкой». На самом деле это индустрия утешения. Мы платим за иллюзию, что кто-то нас слышит, понимает и одобряет. За иллюзию работы над собой без реальной работы. За иллюзию морального выбора без ответственности за последствия.

Совесть нельзя делегировать, потому что она формируется не из правильных ответов, а из практики ошибок, из моментов выбора между трудным и удобным, из опыта жизни с последствиями своих решений.

Та девушка наверняка всё ещё спрашивает у ChatGPT, что ей делать. Может, они расстались с парнем, может, нет. Но я почти уверена: если они и расстались, она спросила у алгоритма разрешения на это решение. И он ей его дал. Сочувственно, взвешенно, с перечислением всех «за» и «против». И она ушла, чувствуя, что приняла взвешенное решение.

Но решение принял не она. Решение принял алгоритм, откалиброванный на то, чтобы сказать ей то, что она уже хотела услышать.

Мы живём в эпоху, когда совесть превратилась в приложение, которое можно открыть в момент дискомфорта и закрыть, когда полегчало. Но настоящая совесть так не работает. Она не облегчает тревогу, она её усиливает, когда мы отклоняемся от того, что считаем правильным. Она остаётся с нами, даже когда мы хотели бы её не слышать.

Именно поэтому она называется совестью, а не сервисом эмоциональной поддержки с подпиской за 20 долларов в месяц.

A вы спрашиваете у ChatGPT совета по личным вопросам? И если да, то что именно мешает вам принять решение самостоятельно?