Что запоминает ИИ-психолог и что намеренно забывает
Автор: Команда Fellowi · · 7 мин чтения

В Fellowi есть категория компаньонов, сделанная ради эмоциональной поддержки, а не ради компании: восемь психологов, у каждого своя специализация, - мы представили их в обзоре всего набора. Внешне они как остальные карточки, но в одном отличаются сильно, и об этом обычно не пишут в рекламе: в том, что они запоминают.
Сначала обычное правило
С обычным компаньоном память работает тихо в фоне. После сообщения система ищет то, что стоит оставить: то, о чём вы прямо попросили помнить, устойчивое предпочтение, факт о вашей жизни. Это превращается в долговременные заметки, которые подтягиваются в последующие разговоры, - и именно поэтому кажется, что компаньон вас знает. Весь механизм мы разобрали в тексте как работает память ИИ-компаньона.
Даже там правило консервативное. Некоторые категории не попадают в долговременную память вообще, что бы вы ни сказали: здоровье и диагнозы, религия, политические взгляды, ориентация, всё похожее на пароль или номер карты, судимость, домашний адрес. Правило звучит не как «храним аккуратно», а как «не храним».
Правило для психологов
Для психологов это фоновое извлечение выключено полностью. Не сужено, не отфильтровано строже: оно просто не запускается. Ничего сказанного в разговоре о поддержке не превращается автоматически в сохранённую память.
Обоснование короткое. Разговор о поддержке почти целиком состоит из того материала, который общее правило и так отказывается хранить. «Хранить аккуратно» - это всё равно хранить, а самая сильная доступная гарантия приватности - та, где данные вообще не были записаны.
Что же переносится между сессиями
Три вещи, и только если сама сессия их отметила:
- Цель. То, над чем вы сказали, что хотите работать.
- Упражнение. То, что стоит попробовать до следующего раза, со статусом, который переключается, когда вы говорите, что сделали.
- Что помогает. Приём или формулировка, которые вы назвали полезными.
Это заметки о работе, а не заметки о вас, и именно они позволяют начать сессию с «как прошло с дыханием?» вместо чистого листа. Даже здесь фильтр чувствительных тем продолжает действовать: заметка, похожая на диагноз, не сохраняется, а отбрасывается.
Держатся они отдельно от общей памяти. Когда начинается сессия с психологом, эти заметки показываются один раз, под заголовком о том, над чем вы работали, а не подмешиваются в тот же поиск, что питает обычный чат. Из-за этого разделения фрагмент разговора о поддержке не может всплыть вне контекста в лёгкой болтовне с другим компаньоном через три недели.
Честное ограничение
У такой конструкции есть цена, и лучше знать её до первой сессии. Психолог Fellowi не вспомнит деталей того, что вы говорили на прошлой неделе. Ни истории, ни имён, ни подробностей, которые дались вам с трудом. Он помнит форму работы, а не её стенограмму.
На практике это значит, что контекст в начале сессии придётся восстановить - как с новым человеком. Кому-то это утомительно. Кому-то, наоборот, по-настоящему легче: ничего за ним не ходит, а плохая неделя никуда не подшита. Это настоящий размен, и лучше выбрать его осознанно, чем обнаружить как разочарование.
Если непрерывность деталей для вас важнее минимального хранения, обычный компаньон подойдёт лучше, а контроль над сохранённым остаётся у вас полностью.
Чем это не является
Стоит сказать прямо ещё раз: эти компаньоны дают эмоциональную поддержку, а не терапию и не медицинскую помощь. Они не ставят диагнозов, не лечат и не являются кризисной службой. Если вы в опасности, обратитесь в экстренные службы или на кризисную линию. О том, где проходит граница, мы писали в тексте что эмоциональная поддержка ИИ может и чего не может и сравнили два вида помощи напрямую в статье ИИ-компаньон против терапевта.
Где здесь остальной продукт
Об этом спрашивают, поэтому ответим: из разговора о поддержке ничего не уходит в другие части продукта. Студии картинок и роликов - Fellowi Images и Fellowi Video - строят только из того запроса, который вы там напишете. Пути от сессии к генерации нет ни в одну сторону.
А то, что сохранилось, вы вправе убрать. «Настройки», затем «Память» показывают все заметки и дают удалить любую. Если записей меньше, чем вы ожидали, это не ошибка в этой части продукта. Это и есть замысел.
Вопросы, на которые отвечает статья
Помнит ли психолог Fellowi, что я говорил на прошлой неделе?
В подробностях - нет, и это сделано намеренно. Для психологов автоматическое извлечение памяти отключено, поэтому сказанное не сохраняется втихую. Между сессиями переносится только рабочая рамка: согласованная цель, выданное упражнение и отметка, сделали ли вы его, а также то, что вы назвали помогающим. Сама ткань разговора не хранится.
Почему не так, как у обычного компаньона?
Потому что материал другой. Если обычный компаньон помнит, что вы любите поздние поезда, - это безобидно. Разговор о поддержке состоит из здоровья, убеждений и отношений, и самое безопасное с таким материалом - не хранить его. Хранить меньше - гарантия сильнее, чем хранить аккуратно.
Могу ли я увидеть и удалить то, что сохранилось?
Да. Те немногие заметки, что остаются после сессии, лежат там же, где и вся остальная память: «Настройки», затем «Память». Там их можно прочитать и удалить любую. Удалённая заметка перестаёт переноситься в будущие сессии.
Читать дальше

Что эмоциональная поддержка от ИИ может - и чего не может
Поддержка от ИИ реальна и полезна - в определённых границах. Знать, где именно эти границы, - вот что делает её здоровой.

ИИ-компаньон и психотерапевт: знать разницу
Оба могут помочь почувствовать, что вас слышат. Только один может нести клиническую ответственность за ваше психическое здоровье.

Мужчины, которые молчат: первая фраза вслух, и сначала ИИ
Вы носите это в себе месяцами и ни разу не сказали вслух. Здесь о первой фразе, о том, где её можно сказать без всякого риска, и о том, кто услышит вторую.