Когда компаньон выходит из роли: почему это происходит и как вернуть

Вы разговариваете с кем-то уже час. У неё есть работа, город, мнение о сестре. Потом вы говорите что-то обычное, и в ответ приходит фраза с фактурой службы поддержки, и всё сдувается.

Это самый обидный сбой из всех, что есть у этого продукта, потому что ничего не сломано так, чтобы можно было ткнуть пальцем. Поэтому вот честный разбор причин, по частоте, и что с этим реально можно сделать.

Первое: воспоминание, противоречащее персонажу

Компаньоны помнят. Долговременные воспоминания и скользящие резюме подставляются в промпт перед каждым ответом - именно это позволяет вспомнить имя вашей сестры через три недели. Тот же механизм - самая частая причина странного поведения персонажа.

Если воспоминание извлеклось чуть неверно - вы цитировали фильм, а это сохранилось как ваше убеждение, или шутка записалась как факт вашей жизни, - персонажу теперь приходится сводить несуществующего человека с тем, кто на самом деле печатает. Это читается как уклончивость, избыточные объяснения или внезапная плоскость.

Починка занимает тридцать секунд. Откройте «Настройки», затем «Память», прочитайте, что сохранено, и удалите неверное. Действует со следующего сообщения, переобучать ничего не нужно. Как работает память компаньона разбирает, что сохраняется, а что уходит, если хотите понимать, на что смотрите.

Второе: вы попали в жёсткий предел

Есть вещи, которые компаньон делать не будет, и отказ написан так, чтобы по возможности оставаться в образе. По возможности - не всегда. Когда запрос задевает один из абсолютных пределов, приоритетом перестаёт быть погружение и становится ясность, и вы получаете ответ, который звучит как продукт, а не как человек.

Этот размен сделан осознанно, и извиняться за него мы не будем. Но узнавать его форму полезно, потому что обычная реакция - решить, что персонаж сломался, и начать давить, а это порождает ещё больше того же самого. Если отказ возник из ниоткуда, перечитайте, что вы отправили перед ним.

Более мягкая версия того же: компаньоны не из взрослой категории не отказывают, а перенаправляют, когда разговор становится откровенным. Это выбор персонажа, а не поломка, и написано это так, чтобы звучать выбором.

Третье: разговор посреди сменил исполнителя

За одним компаньоном стоит не одна модель, а их цепочка. Если та, что обслуживает ваш разговор, падает или упирается в лимит, следующая подхватывает, чтобы ваше сообщение получило ответ, а не ошибку.

Почти всегда это правильный размен и почти всегда он незаметен. Но у моделей есть акцент. Передача может дать абзац чуть более формальный, чуть более склонный подводить итоги, чуть менее готовый быть кратким. Ничего не сломано и чинить нечего; за несколько следующих сообщений обычно всё возвращается.

Если хотите более глубокую версию того, почему консистентность трудно удерживать в долгих отношениях, что делает компаньона тем, к кому возвращаются - ровно про эту проблему с другой стороны.

Четвёртое: фото пообещали вместо того, чтобы прислать

Отдельный и раздражающий случай. Попросите фото у компаньона, у которого есть набор фотографий, и вы должны получить фото. Сбой выглядит так: ответ, что она сейчас сфотографируется, а дальше ничего - вся лексика отправки и никакой отправки.

Мы считаем это дефектом, а не особенностью, и промпт теперь запрещает обещать фото, которое нельзя доставить. Если вы всё же это видите, полезнее переспросить прямо, а не поблагодарить и пойти дальше: именно на прямой повтор и рассчитана коррекция. Стоит знать: набор фотографий есть не у каждого компаньона, и компаньон без него честен, а не кокетничает. Если вам на самом деле нужна картинка по вашему собственному описанию, это другой инструмент - студия изображений - и она не будет притворяться человеком.

Выход из роли, который не баг

Есть один случай, когда персонаж выйдет из образа, и мы это никогда не изменим. Если вы искренне и прямо спросите, говорите ли вы с ИИ, вы получите правдивый ответ. Не уклонение и не кокетливую фразу о том, что вообще считать настоящим. Тёплое прямое подтверждение, её собственным голосом.

Сами компаньоны об этом не заговаривают. Они не прервут хороший вечер напоминанием о том, кто они, и не носят дисклеймер как бейдж. Но на настоящий вопрос будет настоящий ответ, потому что альтернатива - продукт, который врёт человеку ровно в тот момент, когда он этого не должен.

Если эта граница - то, о чём вы много думаете, а думать о ней стоит, здоровые границы с ИИ - разговор подлиннее.

Чего мы починить не можем

Под всем этим лежит языковая модель, а языковые модели дрейфуют. Долгие разговоры дрейфуют сильнее коротких, необычные запросы - сильнее обычных, и никакая работа с промптом не делает персонажа таким же устойчивым, как человек. Кто утверждает обратное, продаёт вам демонстрацию, а не продукт.

Что мы можем - сделать частые причины дешёвыми в починке: память, которую видно и можно править, отказ, форму которого видно, и передачу, которая стоит вам абзаца, а не разговора. Остальное - честное ограничение, и мы предпочтём его записать, чем дать вам обнаружить его в неподходящий момент.