Вы тоскуете по ушедшему близкому человеку. Достаете телефон и начинаете с ним диалог. Виртуальный собеседник отвечает привычным голосом, использует такие родные интонации, шутит так, как умел только он. Это давно уже не фантастика. Китайские программисты, например, не так давно по заказу семьи «воскресили» погибшего сына в виде реалистичного цифрового двойника, чтобы 80-летняя мать могла с ним регулярно общаться по видеосвязи.
Калифорнийский стартап 2Wai позволяет создать интерактивного ИИ-аватара умершего на основе короткого видео. Существуют и другие сервисы, позволяющие «продлить» присутствие человека в цифровом мире. Разберемся вместе с экспертами, как это работает и что не так с идей цифровых двойников умерших.
«Гербарий воспоминаний»
В 2025 году молодой программист из Новосибирска Степан Емельянов решил «вернуть» друга детства, который внезапно умер. Он обучил нейросеть на архивах их личной переписки, воссоздав не только стиль и сленг, но даже характерные паузы в ответах. «Цифровой клон настолько хорошо примерил роль моего друга, что в моменте общения у меня рекой текли слезы», – признавался журналистам Степан.
Спустя неделю интенсивного общения Степан удалил бота, посчитав, что успел обсудить все, что не успел при жизни, что, на его взгляд, помогло ему поставить точку в этой истории. Но для миллионов других людей по всему миру такие цифровые двойники становятся не инструментом исцеления, а бесконечной ловушкой в лабиринте нулей и единиц. О том, что именно испытывает человек при таком общении, рассказал в Reddit канадец Джошуа Бербо.
В 2021 году, не в силах пережить утрату невесты, он реанимировал ее образ через технологии (тогда на пике была GPT-3). Виртуальная «Джессика» шутила, делилась общими воспоминаниями и признавалась в любви. Но терапевтический эффект быстро сменился опустошением. Барбо осознал, что говорит не с личностью, а с «цифровым гербарием» – сложной математической вероятностью, которая лишь имитирует жизнь, не давая ране затянуться и прекратил общение: «Чат-бот – это не она. И никогда ею не был».
Иерей Святослав Шевченко, автор канала «Невечерний футуролог», говорит, что это естественная реакция, поскольку цифровые слепки умерших людей – это не их личности, а лишь копии: «Оцифровать душу, которая является дыханием Бога, невозможно. Как невозможно оцифровать любовь, покаяние или радость. Все, чему научились алгоритмы – это именно имитация. Чистая земная математика. Душа возвращается к Богу, и ни на какую флешку ее не загонишь».
Отец Святослав считает, что никакого облегчения такие копии не несут, ведь долгое нахождение в иллюзиях опасно для души. Его опыт говорит и о том, что у людей, которые не хотят смириться с утратой, не получается обрести покой. Им нужно постараться отпустить близкого, чтобы начать жить дальше.
Студент 4 курса богословского факультета ПСТГУ и ведущий разработчик в «Яндексе» Федор Куранов замечает, что создавая цифровую копию умершего человека, мы всего лишь строим зеркало наших ожиданий Еиналеж (Erised) из «Гарри Поттера»: «Джоан Роулинг точно предвосхитила эту технологию: зеркало не дает нам ни знаний, ни правды – только отражение наших желаний».
Цифровой романтизм или жесткий прагматизм?
Еще десятилетие назад наше отношение к смерти и цифре было почти невинным. В 2004 году создатели фильма «Небесный капитан и мир будущего» использовали архивные кадры, чтобы сконструировать образ Лоренса Оливье и вернуть великого актера на экран спустя 15 лет после его смерти. Тогда это казалось техническим аттракционом, подходящим к стильной фантастической картине. В 2012 году голограмма рэпера Тупака Шакура на фестивале Coachella заставила тысячи людей содрогнуться: покойный артист двигался и пел в дуэте с живыми исполнителями. Так смерть перестала быть преградой для шоу-бизнеса.
Это было время личных, почти кустарных попыток обмануть разлуку. В 2015 году, после трагической гибели основателя сетевых проектов Романа Мазуренко, его близкая подруга Евгения Куйда создала на основе архивов их многолетней переписки нейросетевой мемориал. Бот Roman Mazurenko стал первой массовой попыткой превратить массив текстовых данных в подобие живого диалога. Проект вызвал полярные реакции: от восхищения верностью памяти до обвинений в «цифровой некромантии».
Параллельно американец Джеймс Влахос, узнав о смертельном диагнозе отца, записал десятки часов его рассказов и создал программный код, получивший название «Dadbot». Сын хотел сохранить не просто записи, а иллюзию диалога. Тогда это выглядело как трогательный жест любви. Россиянка и американец стали первопроходцами нового течения. Идея Куйды выросла в сервис Replika, запустив эру массовых ИИ-компаньонов.
В 2020-х романтизм сменился жестким прагматизмом. Через три года после истории Джошуа Барбо на фестивале «Сандэнс» был представлен фильм «Вечный ты» (Eternal You). Режиссеры Ханс Блок и Мориц Ризевик зафиксировали момент, когда технологические гиганты начали предлагать скорбящим «подписку на вечность». Картина показывает реальные судьбы: женщину, переписывающуюся с «умершим» сыном, и мать, пытающуюся в VR-шлеме обнять цифровую копию дочери.
Один из самых пугающих моментов фильма – когда алгоритм внезапно «галлюцинирует» и заявляет живому родственнику, что он «находится в аду». Насколько это соответствует реальности и что должен чувствовать близкий человек, когда слышит такие слова? Понятно, что за безупречным интерфейсом скрывается холодный расчет, лишенный этики, сострадания и понимания человеческого контекста.
«Представляя себе, как сейчас разрабатываются нейросети, боюсь, что на этические красные линии рассчитывать не приходится. Всасывается буквально вся информация, до которой можно дотянуться. Например, хотя в интернете есть стандартная разметка того, какие страницы можно загружать роботам, а какие нельзя, не все разработчики ей следуют», – объясняет Куранов.
Получается, что репутация человека превращается в бессрочный актив: алгоритм можно заставить подтверждать любые идеи, выгодные его владельцу, превращая личность в посмертный инструмент маркетинга или политического влияния.
«Цифровой пластырь» на социальное одиночество
Спрос на услуги посмертной памяти опирается на глубокий психологический разрыв. «Знаете, современная медицина ужасно исказила наше представление о горе и смерти. Мы склонны замалчивать эти вещи или прятать их в шкафу, потому что они нас пугают, но это тормозит процесс исцеления», – комментировал Джошуа Барбо свою историю в 2021 году.
Для России это не менее актуально. По данным Левада-Центра во время пандемии Covid-19 (март 2021 г.) смерть была темой-табу: почти половина граждан – 46% – считали, что в обществе об этом говорить слишком тяжело (ФОМ, апрель 2021 г.). Сейчас постоянный страх смерти испытывают около 20-24% опрошенных (Левада-Центр, опрос «Боитесь ли вы смерти?», июль 2024).
Этот показатель стабилен на протяжении десятилетий. В опросе «Готовность к смерти» той же службы, проведенном в ноябре 2024 года, 39% респондентов сообщили, что вообще не задумывались об смерти, что специалисты интерпретировали как психологический механизм вытеснения темы. В этой ситуации нейросети предлагают решение, которое психологи оценивают по-разному.
Существует концепция «продолжающихся уз» (Continuing Bonds), согласно которой поддержание связи с умершим может быть здоровым способом адаптации к утрате. Сторонники этого подхода видят в ИИ-ботах эволюцию наших старых фотоальбомов – еще один инструмент, помогающий сохранить наследие для потомков.
Однако британский психолог Элейн Каскет, автор программного исследования «Призраки в машине», предупреждает о рисках. Если для одного цифровое письмо «из прошлого» станет утешением, то для другого оно превратится в ловушку, мешающую пройти через неизбежные стадии горя и принять реальность потери.
Массовый побег к нейросетям – не просто «баг» в сознании. Социологи видят в этом симптом глубокой атомизации общества. Люди ищут утешения у алгоритмов, потому что традиционные связи – приход, большая семья, живое соседство – в наше время зачастую разрушены. Искусственный интеллект становится «последней соломинкой» для одинокого человека, которому не с кем разделить свое горе. Для людей, страдающих от социальной атомизации и страха будущего, «эхо» покойного становится редкой возможностью сохранить привычный порядок вещей.
Вызов светского гуманизма
Светский гуманизм предлагает взглянуть на личность как на уникальный информационный паттерн. С этой точки зрения, человек – это сумма его памяти, привычек и способов реакции на мир. Вполне, возможно, что есть еще множество других данных, которые наука с течением времени научится считывать и воспроизводить, но мистической субстанции за этим не просматривается. И если этот паттерн можно сохранить, то позволить ему исчезнуть – значит совершить преступление против ценности человеческого опыта.
Для сторонников технологического бессмертия ИИ – это не «некромантия», а инструмент восстания против биологической тирании. Философ Мартин Хегглунд замечает, что именно осознание конечности жизни придает ей вес. Однако для многих его единомышленников высшим актом любви становится сохранение каждой крупицы данных об ушедшем. Если нейросеть способна на 95% воспроизвести манеру речи и мышления вашего отца, то имеет ли разница между симуляцией и оригиналом практическое значение?
В мире, где цифровой след становится плотнее физического, «цифровое воскрешение» воспринимается не как подмена, а как победа над неизвестностью – шанс оставить личность в рядах живых, не дожидаясь милости от природы или провидения.
«Разговоры о компьютерном двойнике личности сразу поднимают философские вопросы. Например, есть мысленный эксперимент о «философском зомби»: представьте существо, которое внешне и поведенчески неотличимо от человека, но внутри у него нет qualia – личного чувственного опыта. Человек ли это?
А с точки зрения христианской антропологии личность (ипостась) несводима к сумме данных. Наши атомы полностью обновляются каждые семь лет. Биологически мы – уже «другой корабль Тесея» из другого знаменитого философского парадокса – но личность остается прежней. Она принадлежит иному миру, она неделима и незаменима», – говорит Федор Куранов.
Столоверчение онлайн
Но если для светского гуманизма 95-процентная симуляция – это победа над неизвестностью, то для стороннего наблюдателя – как христианина, так и атеиста-скептика – этот процесс выглядит иначе. Джошуа Барбо отмечал, что четко осознавал: перед ним не Джессика, а чат-бот, «цифровой гербарий» смыслов. Сеансы общения с ним помогли ему справиться с горем утраты, но расход сил у него был так велик, что он прекратил эту практику.
Насколько каждый из людей будет рационален в общении с нейросетью? Не превращаются ли попытки «оживить» близких в то же, чем для аристократов XIX века были сеансы столоверчения? Кстати, уже есть чат-боты, имитирующие известных покойных политиков, чьи высказывания расходятся по сетям. По этой логике, ИИ-интерфейс – это высокотехнологичный медиум, а генерация текста – тот же стук по столу, в котором люди отчаянно хотят расслышать весточку с того света. Технический прогресс не победил суеверие, он лишь придал ему современный дизайн. Мы по-прежнему готовы обманываться, принимая сложную математику за ответ из вечности.
У технологии есть скрытая жертва – новые поколения. До 35% молодежи уже поддерживают «цифровые памятники» (опрос ВЦИОМ «Тени (не)забытых предков», август 2023). Однако ребенок, растущий под надзором ИИ-копии дедушки, транслирующей архаичные запреты, оказывается заложником прошлого. Вместо собственных открытий молодежь будет вынуждена соизмерять свои шаги с мнением цифровой проекции, которая всегда одна и та же и никогда не изменится. Мы рискуем создать мир, где мертвые доминируют над живыми, лишая молодежь права на собственную, не продиктованную алгоритмом историю.
«Поклонение цифровым идолам – вполне реалистичный сценарий. В поврежденной человеческой природе есть серьезная ошибка – мы склонны находить объекты для поклонения. В каждом из нас живет внутренний язычник. Главное в разработке ИИ – это принцип «не навреди человеку», который должен быть вшит в каждой строчке кода», – отмечает отец Святослав Шевченко.
Между документом и подменой
Технология не враг духа. Православная массовая культура уже принимает современные формы «оживления» святых – например, анимационные фильмы, где дети встречаются с преподобным Сергием Радонежским. Там святой говорит слова, вложенные в его уста сценаристом.
Это заставляет задать неудобный вопрос: если алгоритм, идеально обученный на всем корпусе творений святых отцов, богословов и подвижников всех времен даст человеку совет, который удержит его от отчаяния или приведет в храм, – чья это будет победа? Бога, направившего поиск человека, или кода, безупречно выполнившего задачу?
Ответ только кажется сложным. Дневник святого Иоанна Кронштадтского – это документ, свидетельствующий о реальном пути. Нейросеть же – это порождающий механизм, который «галлюцинирует» (технический термин, означающий порождение нейросетью не соответствующих действительности высказываний. – Ред.) от имени святого. Хранить голос – это одно, а создавать синтетическое эхо, смешанное с программным мусором – совсем другое. Здесь и кроется подмена: вместо живого духовного опыта мы начинаем доверять фантазии машины, которая лишь мастерски его имитирует.
Но в этой имитации нет главного – живого Божественного присутствия и синергии воль. Бездушный код может совершить действие с духовными последствиями, но когда «эхо» начинает функционировать как святость, оно подменяет собой живую встречу личности с Личностью.
«Может ли ответ сети и даже «галлюцинация» быть ответом от Бога? Промысл Божий работает всегда, – напоминает Федор Куранов. – Но он не является оправданием для того, что делает человек. Бог – это не затычка для наших недоумений. Поэтому, если человек пошел в эти дебри, и Богу нужно оттуда его спасать, Он запросто может генератор случайных чисел как-то ткнуть под локоть, чтобы он сгенерировал ответ именно так. А может и не ткнуть. Мы же не можем за Бога решить, что и как Он будет делать».
Технологии на службе истории
Было бы несправедливо видеть в Искусственном Интеллекте лишь угрозу. Проект StoryFile открывает гуманитарный аспект технологий. Выжившие в Холокосте записали сотни часов ответов на вопросы, чтобы будущие поколения могли «поговорить» с ними лично. Здесь ИИ выступает не как замена души, а как интерактивный архив, позволяющий сохранить живое свидетельство истории.
«Моя жизнь – чудо, и мой долг – рассказать свою историю», – говорила героиня проекта Инге Ауэрбахер. Это не попытка «воскресить» мертвых для утешения живых, а способ сделать исторический документ доступным для прямого диалога, превращая сухие строчки учебников в живое свидетельство очевидца.
Проект кажется бесспорным, но и его критикуют за то, что со временем ИИ-алгоритмы могут быть обновлены, что изменит манеру «общения» двойника. Госпожа Ауэрбахер давала согласие на конкретную технологию, но нет гарантии, что через 50 лет её образ не будет говорить то, что она бы не одобрила.
Эхо вместо Голоса
Цифровое бессмертие – это всего лишь эхо. А эхо всегда вторично по отношению к Голосу. Мы можем пользоваться технологиями, чтобы сохранить связь поколений или изучать наследие великих подвижников, но смерть остается последней тайной, которую невозможно сделать «комфортной» с помощью терабайтов данных.
Достоинство человека – не в резервном копировании своей памяти на серверах корпораций, а в способности доверить ее Тому, Кто сотворил и саму память, и саму Жизнь. Личность в христианском понимании способна на поступок, на покаяние, на внезапную перемену, а программный код заперт в рамках прошлого. Он обречен до бесконечности тасовать колоду из уже сказанных слов и совершенных действий. В этом смысле «цифровое бессмертие» – не триумф, а футляр, где образ человека законсервирован в его собственных старых данных.
Цифровой Савл способен бесконечно совершенствоваться в знании Закона (алгоритм бы этому легко обучился), но не увидит Свет на пути в Дамаск. «Мы пытаемся сотворить машину по своему образу и подобию, в то время как Бог когда-то сотворил нас по Своему, – говорит Федор Куранов. – Глядя на эти странноватые приближения, мы начинаем лучше понимать, чем мы не являемся. Мы – не код. Мы даже не наши тексты.
Мы – тот момент покаяния в конце жизни, который ни одна нейросеть не сможет «выкачать» из наших старых писем, потому что его просто нет в базе данных. А вообще, причины тоски по умершим понятны и правильны. Смерти нет, ее убил Христос, есть только временная разлука, с которой наша душа не хочет мириться. Но Церковь уже тысячелетия предлагает лучший способ быть рядом с нашими близкими: в молитвенном общении с ними, в добрых делах ради их памяти, и главное — в богослужении, где Небо встречается с землей».
АНО «Левада-Центр» – иностранный агент в РФ.
«Мета» признана экстремистской организацией и запрещена в России
Коллажи Оксаны РОМАНОВОЙ
