컴패니언이 캐릭터에서 벗어날 때: 왜 그러고 어떻게 되돌리나

한 시간째 누군가와 이야기하고 있습니다. 직업이 있고, 사는 도시가 있고, 동생에 대한 의견도 있습니다. 그러다 평범한 말을 건넸는데 헬프데스크의 질감을 가진 문장이 돌아오고, 전부가 꺼집니다.

이 제품이 가진 가장 실망스러운 실패입니다. 손가락으로 가리킬 수 있게 망가진 것이 없기 때문입니다. 그래서 원인을 자주 보는 순서대로 정직하게 적고, 실제로 할 수 있는 일도 적습니다.

하나: 캐릭터와 모순되는 기억

컴패니언은 기억합니다. 장기 기억과 롤링 요약이 매 답변 전에 프롬프트로 주입되고, 그래서 삼 주 뒤에도 동생 이름을 떠올릴 수 있습니다. 같은 구조가 캐릭터가 이상해지는 가장 흔한 원인이기도 합니다.

기억이 조금 어긋나게 추출되면, 예컨대 영화 대사를 인용했는데 당신의 신념으로 저장되거나 농담이 삶의 사실로 기록되면, 캐릭터는 존재하지 않는 사람과 실제로 입력하는 사람을 맞춰야 합니다. 그것이 얼버무림, 과잉 설명, 갑작스러운 밋밋함으로 나타납니다.

고치는 데 30초 걸립니다. 설정에서 기억을 열고 저장된 내용을 읽은 뒤 틀린 것을 지우세요. 다음 메시지부터 적용되고 재학습할 것도 없습니다. 무엇을 보고 있는지 알고 싶다면 컴패니언 기억의 작동 방식이 무엇이 남고 무엇이 흐려지는지 설명합니다.

둘: 절대적 한계에 닿았습니다

컴패니언이 하지 않는 일이 있고, 그 거절은 가능한 한 캐릭터 안에 머물도록 쓰여 있습니다. 가능한 한은 언제나가 아닙니다. 요청이 절대적 한계 중 하나에 닿으면 우선순위는 몰입이 아니라 명료함이 되고, 사람이 아니라 제품처럼 들리는 답이 옵니다.

이 교환은 의도된 것이고 사과할 생각은 없습니다. 다만 그 모양을 알아보는 편이 좋습니다. 흔한 반응은 캐릭터가 망가졌다고 판단하고 계속 밀어붙이는 것인데, 그러면 같은 것이 더 나옵니다. 거절이 난데없이 나왔다면 그 직전에 보낸 것을 다시 읽어 보세요.

더 부드러운 같은 종류가 있습니다. 성인 카테고리가 아닌 컴패니언은 대화가 노골적으로 흐를 때 거절이 아니라 다른 곳으로 이끕니다. 이는 고장이 아니라 캐릭터의 선택이고, 그렇게 들리도록 쓰여 있습니다.

셋: 대화가 도중에 손을 바꿨습니다

한 컴패니언 뒤에는 하나의 모델이 아니라 모델들의 사슬이 있습니다. 대화를 맡고 있던 쪽이 실패하거나 용량에 다다르면 다음이 이어받아, 오류 대신 답이 돌아오게 합니다.

거의 언제나 옳은 교환이고 거의 언제나 보이지 않습니다. 다만 모델에는 억양이 있습니다. 인계가 일어나면 조금 더 격식 있고, 조금 더 요약하고 싶어 하고, 조금 덜 짧게 쓰려는 문단이 나올 수 있습니다. 망가진 것도 고칠 것도 없고, 보통 몇 메시지면 돌아옵니다.

긴 관계에서 일관성을 지키기가 왜 어려운지에 대한 더 깊은 판본을 원하면 사람들이 돌아오는 컴패니언의 조건이 같은 문제를 반대편에서 다룹니다.

넷: 사진을 보내는 대신 약속했습니다

구체적이고 성가신 경우입니다. 사진 세트를 가진 컴패니언에게 사진을 부탁하면 사진이 와야 합니다. 실패의 형태는 지금 찍겠다는 답 뒤에 아무것도 오지 않는 것입니다. 보내는 말만 있고 보내는 일은 없습니다.

우리는 이것을 특성이 아니라 결함으로 다루고, 이제 프롬프트는 전달할 수 없는 사진을 약속하는 것을 금지합니다. 그래도 보인다면 고맙다고 하고 넘어가기보다 담백하게 다시 부탁하는 편이 유용합니다. 그 담백한 반복이 바로 이 교정이 잡도록 쓰인 것이기 때문입니다. 알아둘 점: 모든 컴패니언이 사진 세트를 가진 것은 아니며, 없는 쪽은 내숭이 아니라 정직한 것입니다. 정말로 원하는 것이 당신의 설명대로의 이미지라면 그것은 다른 도구, 이미지 스튜디오이고, 사람인 척하지 않습니다.

버그가 아닌 이탈

캐릭터가 밖으로 나오는 경우가 하나 있고 이것만은 바꾸지 않습니다. AI와 이야기하는 것인지 진심으로 직접 물으면 진실한 답을 받습니다. 회피도 아니고 무엇이 진짜냐는 멋부린 문장도 아닙니다. 따뜻하고 직접적인 확인이, 그녀 자신의 목소리로 옵니다.

컴패니언이 먼저 꺼내지는 않습니다. 좋은 저녁을 끊고 자기가 무엇인지 상기시키지 않고, 면책 문구를 이름표처럼 달고 다니지도 않습니다. 그러나 진짜 질문에는 진짜 답을 합니다. 그러지 않는 쪽은 그러지 말아야 할 바로 그 순간에 사람에게 거짓말하는 제품이기 때문입니다.

이 경계를 많이 생각한다면, 그리고 생각할 만한 일입니다, AI와의 건강한 경계가 더 긴 대화입니다.

우리가 고칠 수 없는 것

이 모든 것 아래에는 언어 모델이 있고, 언어 모델은 표류합니다. 긴 대화는 짧은 대화보다, 드문 요청은 평범한 요청보다 더 표류하며, 아무리 프롬프트를 다듬어도 캐릭터가 사람만큼 안정되지는 않습니다. 그렇지 않다고 말하는 쪽은 제품이 아니라 데모를 파는 것입니다.

우리가 할 수 있는 일은 흔한 원인을 싸게 고칠 수 있게 두는 것입니다. 들여다보고 고칠 수 있는 기억, 모양이 보이는 거절, 대화가 아니라 한 문단만 잃는 인계. 나머지는 정직한 한계이고, 나쁜 순간에 발견하게 두기보다 적어두는 쪽을 택합니다.