생각의 충돌

기억은 저장된 영상을 다시 꺼내는 것일까? — Bartlett에서 Loftus까지

충돌자 — Fri, 23 Oct 2026 20:30:42 +0900

생각의 충돌 · 기초이론 024

어제 저녁에 무엇을 먹었는지 떠올려보자.

우리는 흔히 머릿속 어딘가에 저장된 장면을 다시 재생한다고 생각한다.

하지만 인간의 기억은 녹화된 영상을 꺼내 보는 것과는 상당히 다를 수 있다.

친구 두 명이 같은 사고 장면을 보았다고 생각해보자.

둘 다 같은 장면을 봤다.

그런데 며칠 뒤 이야기를 나누다 보니 사고 당시 없었던 세부사항을 한 사람이 확신하며 이야기하기 시작한다.

그 사람은 거짓말을 하고 있는 걸까?

아니면 기억 자체가 처음과 조금 다른 형태로 만들어진 것일까?

기억을 저장창고처럼 생각하면

가장 직관적인 기억의 모습은 저장과 검색이다.

사건 경험
↓
기억 저장
↓
필요할 때 검색
↓
과거 사건 재생

이 그림에서는 기억이 틀렸다면 정보가 제대로 저장되지 않았거나, 시간이 지나 일부가 손실된 것으로 설명하기 쉽다.

하지만 기억 연구에서는 오래전부터 다른 문제가 관찰됐다.

사람은 단순히 일부를 잊는 것뿐 아니라, 과거 사건을 현재의 지식과 기대, 이후에 얻은 정보와 결합해서 다르게 기억하기도 한다.

Bartlett: 기억은 재생보다 재구성에 가깝다

Frederic Bartlett은 1932년 Remembering에서 기억을 단순한 과거의 복제물로 보는 관점에 문제를 제기했다.

그의 유명한 연구에서는 참가자들이 낯선 이야기를 읽은 뒤 시간이 지나 다시 이야기하도록 했다.

반복해서 기억하는 과정에서 이야기의 세부사항은 생략되거나, 익숙한 형태로 바뀌거나, 참가자가 가진 기존 지식에 맞게 재구성되었다.

기억은 과거를 그대로 복사해서 보관하는 것이 아니라, 기존 지식과 함께 다시 구성될 수 있다.

Bartlett은 이 과정에서 schema, 즉 경험과 지식을 조직하는 기존 구조가 기억에 영향을 준다고 보았다.

기억할 때 과거와 현재가 만난다

재구성이라는 표현에서 중요한 것은 사람이 일부러 내용을 꾸며낸다는 뜻이 아니다.

과거 사건을 다시 떠올릴 때 우리는 남아 있는 정보만 사용하는 것이 아니라 현재 가지고 있는 지식과 기대도 함께 사용한다.

과거의 흔적
+
현재의 지식
+
상황과 맥락
↓
현재의 기억

그래서 같은 사건도 언제, 어떤 질문을 받고, 어떤 정보를 새롭게 알게 되었는지에 따라 다르게 떠올릴 가능성이 생긴다.

Loftus: 질문 하나가 기억에 영향을 줄 수 있을까?

Elizabeth Loftus와 John Palmer는 1974년 자동차 사고 영상을 이용한 유명한 실험을 발표했다.

참가자들은 같은 사고 장면을 본 뒤 차량의 속도를 추정하는 질문을 받았다.

이때 질문 속 충돌을 표현하는 동사를 달리했다.

“서로 부딪쳤을(hit) 때 얼마나 빨랐습니까?”

또는

“서로 박살 나듯 충돌했을(smashed) 때 얼마나 빨랐습니까?”

사용된 표현에 따라 속도 추정치가 달라졌다.

두 번째 실험에서는 강한 충돌 표현을 들었던 참가자들이 실제 영상에는 없었던 깨진 유리를 보았다고 보고하는 비율도 더 높았다.

사건 이후에 제공된 정보가 이후의 기억 보고에 영향을 줄 수 있다.

그렇다고 기억이 마음대로 바뀐다는 뜻은 아니다

Loftus의 연구는 자주 과장된다.

“질문만 바꾸면 사람의 기억을 원하는 대로 조작할 수 있다” 라고 받아들이면 지나치다.

실험은 특정 조건에서 질문의 표현과 이후 정보가 일부 기억 판단에 영향을 줄 수 있다는 것을 보여준다.

모든 기억이 쉽게 바뀌거나, 사람이 경험한 사건 전체가 새로운 이야기로 교체된다는 뜻은 아니다.

기억은 오류가 생길 수 있다
≠
기억은 아무 의미가 없다

Schacter: 기억의 오류는 여러 형태로 나타난다

Daniel Schacter는 기억이 실패하는 방식을 여러 종류로 나누어 정리했다.

그가 제안한 이른바 기억의 일곱 가지 죄에는 시간에 따른 소실뿐 아니라 잘못된 출처, 암시의 영향, 현재의 믿음에 따른 왜곡 등이 포함된다.

형태	예
Transience	시간이 지나면서 접근하기 어려워짐
Misattribution	정보의 출처를 잘못 기억함
Suggestibility	외부의 암시나 새로운 정보가 기억에 영향을 줌
Bias	현재의 믿음과 감정이 과거 기억에 영향을 줌

중요한 점은 Schacter가 이런 현상을 단순히 망가진 기억 시스템의 오류 목록으로만 보지 않았다는 것이다.

일부 오류는 기억 시스템의 정상적이고 적응적인 특성에서 파생될 수도 있다고 보았다.

잊는 것은 항상 실패일까?

우리는 기억력이 좋다는 말을 대부분 긍정적으로 사용한다.

반대로 잊는 것은 기억 시스템의 실패처럼 느껴진다.

하지만 모든 정보를 영원히 같은 중요도로 유지하는 것이 항상 좋은 시스템은 아닐 수 있다.

Richards와 Frankland는 2017년 기억의 지속성과 망각을 함께 검토하면서, 망각이 변화하는 환경에서 낡은 정보의 영향을 줄이고 일반화를 돕는 기능을 할 수 있다고 제안했다.

기억의 목적이 모든 과거를 보존하는 것이 아니라 현재의 판단에 도움이 되는 것이라면, 망각도 기억 시스템의 일부일 수 있다.

모든 것을 기억하면 오히려 문제가 될까?

예를 들어 한 사람이 10년 전 한 번 있었던 부정적인 일을 현재의 모든 관계 판단에서 똑같은 비중으로 사용한다고 생각해보자.

정보를 잊지 않았다는 점에서는 기억력이 좋은 것처럼 보인다.

하지만 현재 상황이 달라졌는데도 오래된 사건이 계속 판단을 지배한다면 유연한 행동은 오히려 어려워질 수 있다.

기억이 많다
≠
판단이 좋다

무엇을 남기고, 무엇의 중요도가 줄어들며, 현재 상황에서 무엇을 다시 꺼내는지가 더 중요할 수 있다.

기억과 검색은 같은 문제일까?

여기에서 앞서 다룬 Clark와 Chalmers의 확장된 마음을 다시 생각해볼 수 있다.

Otto가 항상 사용하는 노트를 자신의 기억과 비슷한 방식으로 활용한다면, 그 외부 기록을 인지시스템의 일부로 볼 수 있는지를 확장된 마음은 질문했다.

하지만 외부에 정보가 저장되어 있다는 사실만으로 인간의 기억과 동일해지는 것은 아니다.

데이터 저장

정보가 존재하는가?
정확히 다시 불러올 수 있는가?

인간 기억

무엇이 떠오르는가?
어떤 맥락에서 떠오르는가?
현재 판단에 어떤 영향을 주는가?

저장과 기억은 겹치는 부분이 있지만 완전히 같은 문제라고 볼 수는 없다.

AI 에이전트에서는 이미 이 문제가 나타난다

장기간 활동하는 AI 에이전트도 경험이 늘어나면 모든 과거 정보를 현재 판단에 동시에 사용할 수 없다.

2023년 발표된 Generative Agents에서는 25명의 에이전트에게 경험을 자연어 형태로 기록하는 memory stream을 사용했다.

하지만 저장한 모든 기억을 매번 전부 사용하지 않았다.

현재 상황에서 필요한 기억을 검색하고, 여러 경험에서 더 높은 수준의 reflection을 만들어 향후 계획과 행동에 사용했다.

경험
↓
기억 저장
↓
필요한 기억 검색
↓
경험을 묶은 해석
↓
다음 행동과 계획

이 사례 역시 기억을 단순한 데이터베이스의 크기로만 생각하기 어렵다는 것을 보여준다.

하지만 AI 기억을 인간 기억이라고 부르면 안 된다

여기에서도 선을 하나 그어야 한다.

에이전트가 과거 로그를 저장하고 관련 정보를 다시 검색한다고 해서 그 시스템이 인간과 같은 방식으로 기억한다고 결론내릴 수는 없다.

사람에게서 나타나는 재구성, 망각, 감정적 중요성, 출처 혼동, 암시 효과 같은 현상은 단순한 데이터 검색과 다른 문제다.

정보를 저장했다
≠
인간처럼 기억한다

AI나 NPC에서는 무엇을 인간 기억과 비슷하게 설계할 것인지가 별도의 선택 문제가 된다.

기억을 연구할 때 무엇을 구분해야 할까?

지금까지 내용을 정리하면 기억에는 적어도 몇 가지 서로 다른 문제가 들어 있다.

저장
어떤 경험이 기록되는가?

유지와 망각
무엇이 오래 남고 무엇이 약해지는가?

검색
현재 상황에서 어떤 기억이 떠오르는가?

재구성
기억을 꺼내는 과정에서 현재의 지식과 맥락이 어떻게 개입하는가?

행동
꺼낸 기억이 현재 판단과 선택을 어떻게 바꾸는가?

이 다섯 문제를 모두 “기억력이 얼마나 좋은가”라는 하나의 숫자로 설명하기는 어렵다.

이론 해석 점검

“인간의 기억은 모두 거짓이다.”
아니다. 기억이 재구성적이고 오류에 취약하다는 것과 기억이 일반적으로 무의미하거나 신뢰할 수 없다는 것은 다른 주장이다.

“질문의 표현만 바꾸면 원하는 기억을 심을 수 있다.”
Loftus와 Palmer의 결과를 지나치게 확대해석한 것이다. 특정 조건에서 사후 정보와 질문 표현이 기억 보고에 영향을 줄 수 있다는 결과다.

“망각은 뇌가 실패해서 생기는 오류다.”
망각에는 여러 원인이 있으며, 일부 형태의 망각은 변화하는 환경에서 유연한 판단과 일반화에 기여할 가능성이 제안되어 왔다.

“모든 것을 기억하는 사람이 더 합리적으로 판단한다.”
기억의 양과 판단의 질은 같은 문제가 아니다. 오래되고 부적절한 정보가 현재 판단을 지배하면 오히려 유연성이 떨어질 수 있다.

“AI의 데이터베이스는 인간의 장기기억과 같다.”
기능적으로 비슷한 역할을 하는 부분은 있을 수 있지만, 인간 기억의 재구성·망각·출처 판단과 같은 과정을 그대로 동일시할 근거는 없다.

이 관점의 설명 범위

잘 설명하는 문제	남는 문제
과거 경험이 항상 그대로 재생되지 않는 이유	특정 기억이 실제로 얼마나 정확한지 개별적으로 판단하는 방법
현재 지식과 사후 정보가 기억에 영향을 줄 수 있는 이유	어떤 조건에서 기억 왜곡이 더 크게 발생하는가
망각이 반드시 단순한 결함만은 아닐 가능성	무엇을 언제 잊는 것이 적응적인가
기억의 저장과 사용을 분리해서 볼 필요성	인간 기억의 원리를 AI나 NPC에 어디까지 적용할 수 있는가

이번 이론에서 남는 것

기억을 과거의 완벽한 기록이라고 생각하면 많이 저장하고 오래 유지하는 것이 좋은 기억 시스템처럼 보인다.

하지만 인간 기억은 그보다 더 복잡하다.

좋은 기억은 모든 과거를 보존하는 능력일까?

아니면 현재 필요한 과거를 적절하게 사용하는 능력일까?

이 질문은 인간 기억에만 해당하지 않는다.

과거 사건과 관계가 쌓이는 NPC를 만든다면 똑같은 문제가 다시 나타난다.

모든 사건을 저장할 수는 있다.

하지만 모든 사건을 항상 같은 비중으로 기억하게 만드는 것이 정말 사람다운 행동을 만들지는 아직 알 수 없다.

다음 질문

NEXT · NPC 행동 충돌

NPC는 과거를 많이 기억할수록 더 사람다워질까?

다음에는 인간 기억 연구, 확장된 마음, Generative Agents, 게임 AI 개발과 NPC 행동 설계 관점을 함께 놓는다.

모든 사건을 저장하는 NPC와 일부 사건만 남기고 잊는 NPC 중 어느 쪽이 더 자연스러운 행동을 만들 수 있는지, 그리고 게임에서 ‘망각’을 어떻게 정의해야 하는지 충돌시킨다.

연구 확인 및 참고문헌

Bartlett, F. C. (1932). Remembering: A Study in Experimental and Social Psychology. Cambridge University Press.
Loftus, E. F., & Palmer, J. C. (1974). Reconstruction of Automobile Destruction: An Example of the Interaction Between Language and Memory. Journal of Verbal Learning and Verbal Behavior, 13(5), 585–589.
Schacter, D. L. (1999). The Seven Sins of Memory: Insights from Psychology and Cognitive Neuroscience. American Psychologist, 54(3), 182–203.
Schacter, D. L. (2022). The Seven Sins of Memory: An Update. Memory, 30(1), 37–42.
Richards, B. A., & Frankland, P. W. (2017). The Persistence and Transience of Memory. Neuron, 94(6), 1071–1084.
Park, J. S., O'Brien, J., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative Agents: Interactive Simulacra of Human Behavior. Proceedings of UIST 2023, Article 2, 1–22.

생각의 충돌
이 글은 Bartlett, Loftus, Schacter 및 후속 기억 연구를 하나의 단일 이론으로 취급하지 않습니다. 각 연구는 서로 다른 문제와 방법을 다루지만, 기억을 단순한 정보의 저장과 재생만으로 설명하기 어렵다는 점을 중심으로 함께 살펴봅니다.

페르소나는 무엇을 바탕으로 말할까? — 인물 자료와 운영 프로그램을 준비한 과정

충돌자 — Fri, 23 Oct 2026 20:30:26 +0900

생각의 충돌 · 페르소나 개발기

대화할 인물을 준비하면서, 그 인물을 관리할 도구도 필요해졌다

토키에 페르소나를 연결한다고 생각했을 때, 먼저 떠올린 것은 캐릭터와 대화하는 장면이었다.

질문을 건네면 인물이 답하고, 앞서 나눈 이야기를 이어 가며, 때로는 새로운 글을 쓰는 모습이다.

하지만 그 장면을 준비하려면 대화창에 보이지 않는 부분부터 정해야 했다.

어떤 자료를 참고하게 할 것인지. 그 자료와 새로운 창작을 어떻게 구분할 것인지. 응답에서 문제가 발견됐을 때 운영자는 어디를 확인하고 무엇을 고칠 수 있어야 하는지.

캐릭터가 말을 하게 만드는 일과,
그 말을 계속 점검하고 다룰 수 있는 프로그램을 만드는 일은
같은 작업이 아니었다.

이번 개발기에서는 도스토옙스키라는 인물을 준비하면서 자료의 범위를 넓히고, 초기 검토 범위를 줄이며, 운영 화면까지 구상하게 된 과정을 정리한다.

이 글은 개발 과정의 기록이다. 진행한 자료 반영 작업과 설계한 관리 기준, 화면 기안을 구분해 소개하며 내부 구현과 인물 자료 원문은 공개하지 않는다.

먼저 텍스트로 확인하기로 했다

최종적으로 생각한 페르소나에는 목소리와 움직이는 캐릭터, 방송 화면이 함께 들어간다.

그렇다고 처음부터 모든 요소를 한꺼번에 연결하는 것을 출발점으로 삼지는 않았다.

먼저 살펴볼 것은 질문을 받고 텍스트로 답하는 흐름이었다. 화면 표현과 음성에 관한 작업을 별도로 진행하더라도, 인물이 어떤 내용을 내놓는지는 텍스트로 먼저 검토할 수 있도록 범위를 나누었다.

질문을 입력한다
↓
인물 자료와 대화 맥락을 바탕으로 응답을 구성한다
↓
무엇을 답했고, 무엇을 확인해야 하는지 살펴본다

이 순서는 목소리나 외형을 중요하지 않게 보았기 때문이 아니다.

응답 내용이 문제인지, 표현 방식이 문제인지부터 나누어 보려는 선택이었다. 문장이 자료와 어긋났다면 캐릭터의 움직임을 자연스럽게 만드는 것으로 해결할 수는 없다.

반대로 텍스트가 자연스럽다고 해서 실제 방송에서 말하고 움직이는 모습까지 자연스러울 것이라고 볼 수도 없다.

그래서 질문을 제대로 받아들였는지, 앞서 한 말과 어떤 관계가 있는지, 소재가 달라져도 비슷한 답변만 반복하는지 등을 우선 살펴보기로 했다.

한 인물에게 어떤 자료가 필요했나

첫 번째로 준비한 인물은 도스토옙스키였다.

작품의 줄거리나 유명한 문장을 알려주는 기능만을 만들려던 것은 아니었다.

작품과 생애에 관한 자료를 바탕으로 새로운 질문을 받아들이고, 기존 기록에 그대로 답이 없는 상황에서도 인물의 맥락을 유지하며 대화를 이어 가는 방향을 생각했다.

그 과정에서 원작뿐 아니라 편지와 인간관계에 관한 자료도 함께 반영하는 작업을 진행했다.

자료의 종류가 늘어나면서 각각을 같은 방식으로 읽어도 되는지부터 다시 생각해야 했다.

자료의 범위	살펴보려는 내용	구분할 점
작품	인물과 갈등, 장면과 대화가 어떻게 구성되어 있는가?	등장인물의 발언을 곧바로 작가 개인의 입장으로 취급하지 않는다.
편지	누구에게 어떤 상황에서 무엇을 말했는가?	받는 사람과 당시 맥락을 떼어 내어 모든 상황의 답으로 사용하지 않는다.
관계와 생애에 관한 자료	인물과 사건을 이해하는 데 어떤 배경이 필요한가?	기록으로 확인되는 내용과 후대의 해석을 구분한다.

이 표는 자료를 어떤 비율로 섞는다는 계산식이 아니다.

페르소나의 결과를 나중에 다시 확인할 수 있도록, 서로 다른 자료가 어떤 성격을 갖는지 구분하기 위한 기준에 가깝다.

자료의 양을 늘리는 것과 함께,
무슨 자료를 어떤 의미로 참고하는지 정하는 일이 필요했다.

기록에 있는 말과 새로 만든 말을 나누었다

페르소나에 들어오는 질문은 모두 같은 종류가 아니다.

작품에 등장하는 사건을 묻는 질문과, 새로운 소재로 단편을 써 달라는 요청은 서로 다른 답을 요구한다.

앞의 질문은 자료에서 확인할 내용을 중심으로 답해야 한다. 뒤의 요청은 기존 자료를 참고하더라도 지금 새로운 내용을 만들어야 한다.

그래서 개발 과정에서는 자료에서 확인한 사실, 그 자료에 대한 해석, 현재의 대화에서 새롭게 만들어진 내용과 창작을 구분하는 방향을 정했다.

기록으로 확인하는 내용
자료에 무엇이 남아 있는가?

자료를 바탕으로 해석하는 내용
그 기록을 어떻게 이해할 것인가?

지금 새롭게 구성하는 내용
현재의 질문과 상황에 어떤 응답을 만들 것인가?

이 구분이 필요한 이유는 생성된 문장이 자연스럽다는 사실만으로 그 문장의 지위가 정해지지는 않기 때문이다.

새로 만든 대사는 실제 도스토옙스키가 남긴 문장이 아니다.

사용자와 새롭게 나눈 대화 역시 역사 속 인물의 생애에 원래 존재했던 경험으로 바뀌어서는 안 된다.

대화를 이어 가기 위해 앞선 내용을 기억하는 것과, 그것을 역사적 사실로 받아들이는 것은 다른 문제다.

여기까지는 관리 기준을 세운 단계다. 실제 생성 결과가 이 경계를 얼마나 안정적으로 지키는지는 계속 결과를 읽으며 확인해야 한다.

대화창 뒤에 운영 화면을 두다

인물에게 질문하고 답을 받는 화면을 구상하다 보니, 그 화면만으로 해결되지 않는 작업들이 남았다.

자료를 추가하거나 설정을 바꾸고 싶을 때, 앞선 대화를 확인해야 할 때, 응답이 나오지 않거나 예상과 다르게 이어질 때 운영자가 볼 자리가 필요했다.

페르소나와 대화하는 일과 페르소나를 관리하는 일을 구분하면서, 운영 콘솔의 형태도 함께 검토하게 되었다.

인물 선택, 대화 입력과 응답, 진행 기록을 함께 배치한 운영 콘솔 기안. 화면의 대사·시각·상태 표시는 예시이며 실제 실행 기록이 아니다.

이 기안에서는 인물과 대화가 화면의 중심에 놓인다. 아래에는 입력창과 진행 기록을 배치했다.

대화를 읽는 공간과 프로그램의 진행을 확인하는 공간을 함께 두려는 구성이다.

이 그림이 모든 관리 기능을 보여주는 것은 아니다. 어떤 기능을 별도 화면에서 다룰지, 대화 화면에는 어느 정도만 드러낼지도 계속 정리해야 했다.

특히 운영자가 설정을 바꾸는 요청과 인물에게 건네는 일반적인 대화는 같은 것으로 처리하지 않는 방향을 잡았다.

인물에게 “이런 이야기를 해 보자”고 말하는 것과, 앞으로 사용할 자료나 운영 규칙을 변경하는 것은 다른 작업이기 때문이다.

대화 상대에게 하는 말과
프로그램을 관리하기 위한 요청을
구분할 수 있어야 했다.

답을 만드는 것만큼 고칠 자리도 중요했다

운영 도구를 생각하면서는 정상적으로 응답하는 장면만 그릴 수 없었다.

어떤 답이 자료와 맞지 않거나, 의도하지 않은 방향으로 계속 이어진다면 어디를 확인해야 할까?

눈앞의 문장 하나를 바꾸는 것과, 다음에도 비슷한 문제가 생기지 않도록 자료와 설정을 점검하는 것은 다른 일이다.

그래서 운영 프로그램에는 대화 결과를 읽는 역할뿐 아니라, 문제가 생겼을 때 관련 내용을 확인하고 변경할 수 있는 역할도 필요하다고 보았다.

설정 변경 역시 자연어 한 줄을 입력했다고 곧바로 모든 것이 바뀌는 방식보다, 무엇을 변경할 것인지 확인하고 적용 결과를 기록할 수 있는 방향으로 구상했다.

이것은 특정 오류를 이미 해결했다는 보고가 아니다. 앞으로 문제를 발견했을 때 단순히 새 답을 한 번 더 생성하는 것만으로 끝내지 않기 위한 운영 구조다.

잘 답하는 인물을 준비하는 것과 함께,
답이 어긋났을 때 다시 살펴볼 수 있는 프로그램도 준비하려 했다.

자료를 넣은 뒤에는 결과를 다시 보게 됐다

자료를 반영하는 작업을 진행하고 생성되는 내용을 살펴보기 시작하면서, 준비 단계에서는 충분히 생각하지 못했던 문제도 보이기 시작했다.

최근에는 이야기 속 인물이 지식인 중심으로 반복되는 것처럼 느껴지는 결과가 있었다.

그것이 도스토옙스키의 작품과 자료가 가진 특징을 반영한 결과인지, 자료나 생성 조건 때문에 특정 유형에 지나치게 수렴한 것인지는 아직 구분하지 않았다.

직업만 다르게 지정해 보았다고 문제가 해결됐다고 말할 수도 없다. 인물의 직업은 달라졌지만 말하는 방식과 갈등의 구조가 계속 비슷할 수도 있기 때문이다.

그래서 앞으로는 특정 표현이 한 번 등장했는지보다, 질문과 소재를 바꾸어도 비슷한 결과로 반복해서 돌아가는지를 살펴볼 필요가 있다고 보고 있다.

자료를 반영하는 일 다음에는
그 자료가 어떤 결과로 나타나는지 살펴보는 일이 남았다.

이 역시 현재 점검 중인 문제다. 빈도나 원인을 측정해 확정한 결과로 소개하지 않는다.

화면에 그린 것과 확인한 것을 나누기

개발을 설명하다 보면 설계한 기능, 실제로 진행한 작업, 앞으로 확인할 항목이 쉽게 섞인다.

이번 글에서 다룬 준비 과정을 나누면 다음과 같다.

항목	현재 기록에서 말할 수 있는 진행
초기 개발 범위	음성·표현·방송 연결과 구분해 텍스트 응답을 먼저 검토하는 방향을 정했다.
인물 자료	원작과 편지, 관계 자료를 반영하는 작업을 진행하고 생성 결과를 살펴보았다.
자료 관리 기준	사실 자료와 해석, 새로운 대화와 창작을 구분하는 방향을 정리했다.
운영 화면	인물과의 대화 및 진행 기록을 확인하기 위한 콘솔 화면을 기안했다.
결과 점검	반복과 편중처럼 추가로 검토해야 할 문제를 발견하고 확인 항목을 늘리고 있다.

화면 기안에 응답이 표시되어 있다고 해서 그것이 실제 실행에서 얻은 대화라는 뜻은 아니다.

같은 이유로 진행 기록의 예시가 있다고 해서 오류 처리나 복구까지 검증되었다고 볼 수도 없다.

이 구분을 남겨 두면 이후 개발기에서 설계에 있던 기능이 실제로 연결됐는지, 연결한 뒤 무엇이 달라졌는지를 비교할 수 있다.

이제 대화창 밖으로

토키에 페르소나를 입히는 과정에서 준비해야 했던 것은 인물의 말투만이 아니었다.

어떤 자료를 바탕으로 응답하게 할지, 자료에 없는 말은 어떻게 구분할지, 운영자는 무엇을 확인하고 바꿀 수 있어야 할지를 함께 정해야 했다.

그 과정을 지나며 페르소나는 대화 장면 하나의 구상에서, 인물을 준비하고 운영하는 프로그램의 형태로 조금씩 넓어졌다.

토키가 보여줄 인물을 준비하려면,
그 인물이 참고할 자료와
그 결과를 관리할 자리도 필요했다.

다음 단계에서는 이 대화를 화면과 목소리로 옮기는 문제가 남는다.

원고를 읽고 수정할 수 있는 개발 화면과, 다른 사람이 지켜보는 방송 화면은 목적이 다르다.

캐릭터와 원고를 어디에 놓을지, 작업 중인 상태를 무엇으로 보여줄지, 실제 방송에서는 어디까지 공개할지를 따로 정해야 했다.

다음 개발기에서는 페르소나를 실제 방송으로 연결하기 위해 준비한 화면과 공개 범위를 정리한다.

참고자료 및 개발 기록

[1] 페르소나 기획·개발 논의 기록. 초기 텍스트 검토 범위, 도스토옙스키의 원작·편지·관계 자료 반영, 생성 결과 점검과 운영 도구 구상에 관한 기록.

[2] 페르소나 자료 관리·운영 설계 기준. 사실 자료와 해석, 대화 경험과 창작의 구분 및 운영상 변경을 다루기 위한 내부 설계 기록. 세부 구현과 인물 자료 원문은 비공개.

[3] 「도스토옙스키 페르소나 콘솔 UI」 화면 기안. 인물 선택, 대화, 입력, 진행 기록의 배치를 검토한 시각 자료. 실제 실행 화면이나 성능 측정 결과가 아님.

생각의 충돌의 개발기록은 완성된 결과뿐 아니라, 무엇을 선택했고 무엇을 아직 확인하지 못했는지도 함께 남깁니다.

NPC에게 ‘특권’을 없애면 MMO는 어떻게 달라질까? — OpenMMO 분석

충돌자 — Thu, 22 Oct 2026 20:30:41 +0900

생각의 충돌 · SPECIAL 001

게임 속 NPC는 보통 플레이어와 같은 세계에 존재하지만, 같은 방식으로 존재하지는 않는다.

플레이어는 게임이 허용한 인터페이스를 통해 행동한다.
NPC는 그 세계를 운영하는 코드 안쪽에서 움직인다.

그런데 이 둘에게 처음부터 같은 행동 인터페이스와 같은 규칙을 준다면 무엇이 달라질까?

전통적인 게임을 아주 단순하게 그려보자.

플레이어는 클라이언트를 조작한다.
이동하고, 공격하고, 물건을 사고, 다른 사람과 대화한다.

NPC는 조금 다르다.

개발자가 만든 AI 코드가 게임 내부 상태를 읽고 필요한 행동을 직접 결정한다.

겉에서는 둘 다 같은 세계에 있지만, 실제로는 세계와 연결되는 방식이 다르다.

OpenMMO는 무엇을 바꾸려고 하나?

OpenMMO는 공개 프로젝트 문서에서 Agent–Human Parity를 핵심 원칙으로 제시한다.

AI 에이전트와 인간 플레이어가 같은 WebSocket 프로토콜을 사용하고, AI에게만 허용되는 별도의 특권 API를 두지 않는 구조다.

인간 플레이어
↓ 공통 프로토콜
↓ 서버
↑ 공통 프로토콜
↑ AI 에이전트

중요한 것은 AI가 인간처럼 보이도록 대사를 잘 만드는 것만이 아니다.

이동하고, 전투하고, 물건을 얻고, 거래하고, 낚시하는 과정에서도 같은 세계 규칙에 들어가게 하는 것이 핵심이다.

AI를 특별한 NPC 코드로 움직이는 것이 아니라
세계 안에서 행동하는 하나의 행위자로 취급한다.

NPC와 플레이어의 경계가 흔들린다

이 구조를 따라가면 조금 이상한 질문이 생긴다.

AI가 플레이어와 같은 방식으로

이동하고
싸우고
물건을 사고팔고
다른 존재와 대화하고
세계의 자원을 사용한다면

그 존재를 여전히 전통적인 의미의 NPC라고 부르는 것이 적절할까?

NPC라는 말에는 보통 Non-Player Character, 즉 플레이어가 조종하지 않는 캐릭터라는 의미가 들어 있다.

하지만 AI 에이전트가 자신의 입력과 판단을 가지고 플레이어와 같은 규칙 속에서 계속 행동한다면,

더 근본적인 구분은

Player / NPC

보다

Human-controlled actor / AI-controlled actor

가 될 수도 있다.

중요한 것은 누가 조종하는가이지, 세계 안에서 무엇을 할 수 있는가가 아닐 수도 있기 때문이다.

같은 인터페이스가 왜 중요한가?

AI에게 서버 내부 상태를 직접 수정할 권한이 있다면 매우 강력한 NPC를 쉽게 만들 수 있다.

예를 들어 상인이 가격을 바꾸고 싶다면 AI가 가격 변수 자체를 수정하게 할 수도 있다.

하지만 그러면 AI는 세계 안에서 행동하는 존재가 아니라 세계를 직접 조작하는 존재가 된다.

플레이어:
“할인해줄 수 있어?”

NPC:
가격 데이터베이스 직접 수정

이것은 사람과 사람의 거래와는 구조가 전혀 다르다.

OpenMMO의 경제 시스템에서 흥미로운 원칙이 등장하는 이유가 여기 있다.

AI는 제안하고, 서버가 결정한다

OpenMMO의 흥정 시스템에서는 LLM NPC가 플레이어와 대화를 나눈 뒤 할인이나 가격변경을 제안할 수 있다.

하지만 LLM이 실제 가격을 마음대로 결정하는 것은 아니다.

서버가 허용된 가격 범위, 예산, 재사용 제한, 거래 조건 등을 검증한다.

AI proposes
↓
Server validates
↓
World changes

이 구분은 꽤 중요하다.

LLM은 대화 속에서 “10% 할인해주겠다”고 판단할 수 있다.

하지만 실제 세계에서는 서버가 그것이 허용된 범위인지 확인한다.

AI가 잘못된 판단을 하거나 플레이어에게 조작되더라도 게임 경제 자체가 그대로 따라가지 않도록 하는 것이다.

자유로운 AI와 권위 있는 세계

이 구조는 AI 에이전트를 사용하는 게임에서 아주 중요한 구분을 보여준다.

AI가 결정할 것

무엇을 원하는가
누구와 이야기할 것인가
어떤 행동을 시도할 것인가
어떤 제안을 할 것인가

게임이 결정할 것

그 행동이 가능한가
실제로 성공했는가
자원이 충분한가
세계 상태가 어떻게 변하는가

AI의 자유와 게임 세계의 규칙을 분리하는 것이다.

이렇게 보면 LLM은 게임세계의 관리자라기보다 행동을 선택하는 행위자에 가까워진다.

LLM이 NPC 전체일 필요도 없다

OpenMMO의 낚시 시스템을 보면 또 다른 흥미로운 구조가 나타난다.

낚시를 시작하거나 중단하는 것처럼 상위 수준의 선택은 LLM이 할 수 있다.

하지만 물고기가 물었을 때 짧은 시간 안에 반응해야 하는 과정까지 매번 LLM에게 묻지는 않는다.

시간에 민감한 반응은 별도의 reflex layer가 처리한다.

LLM
무엇을 할 것인가?

↓

행동 / 반사 계층
그 행동을 어떻게 수행할 것인가?

↓

서버
그 결과가 규칙상 가능한가?

이 구조는 “LLM NPC”라는 말을 다시 생각하게 만든다.

NPC 전체가 LLM일 필요는 없다.

오히려 목표선택, 대화, 계획, 반사행동, 경로탐색, 전투, 세계규칙을 여러 계층으로 나눌 수도 있다.

사람도 모든 행동을 생각하고 하지는 않는다

이 지점은 인간행동과 비교해도 흥미롭다.

사람 역시 걸을 때마다 다리 각도를 의식적으로 계산하지 않는다.

컵을 잡거나, 익숙한 길을 걷거나, 갑자기 날아오는 물체를 피하는 행동도 모든 과정을 언어적인 숙고를 통해 수행하지 않는다.

따라서 사람다운 NPC를 만든다고 해서 모든 행동을 하나의 거대한 언어모델에게 맡기는 것이 반드시 더 인간적인 구조라고 할 수는 없다.

생각하는 계층과
행동하는 계층을 분리하는 것이 오히려 더 자연스러울 수도 있다.

같은 규칙이면 정말 공평한가?

Agent–Human Parity에는 바로 다음 질문이 따라온다.

인간과 AI가 같은 프로토콜과 같은 서버 규칙을 사용하면 정말 같은 조건에서 게임한다고 할 수 있을까?

반드시 그렇지는 않다.

AI 에이전트는 설계에 따라

장시간 쉬지 않고 행동할 수 있고,

외부 메모리에 많은 정보를 저장할 수 있으며,

정확한 좌표나 수치를 활용할 수도 있고,

일정한 반응속도를 유지할 수도 있다.

반면 인간에게는 피로, 주의력, 기억, 시간 같은 제한이 있다.

따라서

같은 규칙
≠
같은 능력

일 수 있다.

여기서 Agent–Human Parity는 완전한 능력의 평등보다는 세계와 상호작용하는 통로의 평등으로 이해하는 편이 정확하다.

그러면 AI에게 제한을 추가해야 할까?

이 질문은 간단하지 않다.

AI에게 인간과 똑같은 제약을 일부러 흉내 내게 할 수도 있다.

기억량을 제한하거나, 반응속도를 늦추거나, 하루 활동시간을 줄이는 식이다.

하지만 그렇게 하면 또 다른 문제가 생긴다.

AI를 사람처럼 만들기 위해 인위적으로 약하게 만드는 것이 정말 필요한가?

AI 에이전트가 다른 종류의 행위자라면 능력 차이 자체를 세계의 일부로 인정할 수도 있다.

결국 공정성 문제는 “인간과 똑같아야 한다”보다

그 차이가 게임 안에서 어떤 효과를 만드는가

로 이동한다.

플레이어가 없어도 세계는 움직일 수 있을까?

전통적인 MMORPG의 많은 콘텐츠는 플레이어가 접근했을 때 활성화된다.

NPC는 플레이어에게 퀘스트를 주고, 상인은 플레이어에게 물건을 팔고, 몬스터는 플레이어와 싸운다.

세계의 중심에는 플레이어가 있다.

하지만 AI 행위자가 플레이어와 같은 세계규칙 속에서 계속 행동할 수 있다면 구조가 달라질 수 있다.

AI가 물건을 산다
↓
다른 곳으로 이동한다
↓
자원이 이동한다
↓
다른 AI와 관계가 생긴다
↓
세계 상태가 바뀐다
↓
나중에 접속한 인간이 그 결과를 만난다

그 순간 NPC는 플레이어를 기다리는 콘텐츠에서 세계를 구성하는 행위자로 이동한다.

하지만 자율성은 새로운 문제를 만든다

AI가 스스로 행동하기 시작하면 좋은 일만 생기는 것은 아니다.

OpenMMO의 개발 기록에서도 NPC가 다른 NPC에게 계속 물건을 사려고 시도하며 반복적인 상호작용과 LLM 호출을 발생시키는 문제가 나타났다.

프롬프트에 “NPC에게 사지 말라”고 적는 것만으로는 충분하지 않았고, 결국 시스템 수준에서 행동을 제한하는 수정이 필요했다.

AI에게 규칙을 설명하는 것과
시스템이 규칙을 강제하는 것은 다르다.

이 사례는 LLM 기반 NPC에서 중요한 문제를 보여준다.

프롬프트는 행동을 유도할 수 있다.

하지만 반드시 지켜야 하는 규칙이라면 코드와 서버가 강제해야 한다.

Dennett의 관점에서 보면

앞에서 살펴본 Intentional Stance를 이 구조에 적용해볼 수 있다.

AI 상인이

“저 플레이어의 이야기가 마음에 들어서 조금 싸게 팔아주기로 했다.”

고 행동한다고 하자.

실제로 내부에서는 LLM 출력, 가격범위 검증, 예산 계산, 서버 거래처리가 여러 단계로 나뉘어 있다.

하지만 플레이어에게는

“상인이 설득되어 할인을 해줬다”

라는 설명이 전체 행동을 간단하게 압축한다.

Intentional Stance는 바로 이런 수준의 설명이 복잡한 시스템을 이해하는 데 유용할 수 있음을 보여준다.

Searle의 관점에서는?

반대로 중국어 방의 질문도 그대로 남는다.

상인이 대화에 맞게 반응하고, 플레이어의 말을 기억하고, 가격을 조정했다고 해서

그 NPC가 인간과 같은 의미에서 설득을 이해했다고 말할 수 있을까?

그 결론은 자동으로 나오지 않는다.

행동할 수 있는 것,
행동을 설명할 수 있는 것,
그리고 실제로 이해하는 것은
서로 다른 질문이다.

OpenMMO가 흥미로운 이유

OpenMMO의 흥미로운 부분은 “AI가 인간처럼 생각한다”는 것을 증명했다는 데 있지 않다.

오히려 질문의 위치를 바꾼 데 있다.

기존 질문

NPC를 어떻게 사람처럼 보이게 만들까?

새로운 질문

AI가 실제 세계의 행위자처럼 행동할 수 있도록 어떤 권한과 제약을 줘야 할까?

이렇게 보면 NPC의 사람다움은 대사의 자연스러움만으로 결정되지 않는다.

세계 속에서 무엇을 할 수 있는지, 행동 결과를 누가 결정하는지, 다른 존재와 같은 규칙을 공유하는지까지 NPC 설계의 일부가 된다.

그래도 아직 남는 문제

이 설계가 모든 MMO의 답이라는 결론은 나오지 않는다.

오히려 여러 문제가 새로 생긴다.

AI가 24시간 경제활동을 하면 인간 플레이어와의 균형은 어떻게 되는가?

수많은 AI 에이전트의 LLM 비용과 서버 비용을 어떻게 감당하는가?

AI끼리 발생시키는 반복적·무의미한 행동을 어떻게 통제하는가?

AI의 장기 기억은 어느 정도까지 유지해야 하는가?

AI가 인간과 경쟁하는 존재가 될 때 게임은 여전히 인간 플레이어에게 재미있는가?

Agent–Human Parity는 이 질문들을 없애지 않는다.

오히려 더 선명하게 만든다.

NPC 연구에 남기는 것

이 사례를 NPC 행동 관점에서 보면 중요한 설계 원칙 몇 가지를 분리할 수 있다.

문제	OpenMMO 사례에서 보이는 접근
AI의 행동권한	인간과 같은 인터페이스를 통해 행동
세계 상태 변경	서버가 최종적으로 검증하고 적용
고수준 판단	LLM이 대화·목표·행동을 제안할 수 있음
빠른 기계적 행동	경로탐색·반사계층 등 별도 시스템 사용 가능
규칙 위반 방지	프롬프트가 아니라 시스템 수준에서 제한

현재 결론

OpenMMO는 AI가 사람과 같은 마음을 가지고 있다는 사례가 아니다.

또한 이것만으로 미래 MMO의 구조가 결정되는 것도 아니다.

하지만 한 가지 질문은 상당히 분명하게 만든다.

NPC를 얼마나 사람처럼 만들 것인가보다 먼저,

NPC에게 세계 안에서 어떤 권리와 어떤 제약을 줄 것인가를 물어야 하는 것은 아닐까?

AI가 세계를 직접 조작하는 관리자에 가까운 존재인지,

아니면 다른 플레이어와 마찬가지로 규칙 안에서 행동하고 결과를 받아들이는 존재인지에 따라

같은 LLM을 사용하더라도 전혀 다른 게임이 만들어질 수 있다.

그리고 만약 후자를 선택한다면 NPC는 더 이상 플레이어를 기다리는 배경이 아니라 플레이어가 없어도 세계를 변화시키는 행위자가 될 수 있다.

다음 질문

NEXT · NPC 행동 충돌

NPC는 과거를 많이 기억할수록 더 사람다워질까?

AI에게 사람과 비슷한 행동권한을 줬다면 다음에는 그 존재가 세계에서 겪은 일을 얼마나 기억해야 하는지가 문제가 된다.

모든 사건을 저장하는 것이 좋은 기억인지, 망각도 필요한지, 외부 데이터베이스를 NPC의 기억이라고 부를 수 있는지를 심리학·인지과학·철학·게임 AI 관점에서 살펴본다.

연구 확인 및 참고자료

OpenMMO 공식 저장소. 프로젝트의 Agent–Human Parity 원칙, 공통 WebSocket 프로토콜 및 서버 구조.
OpenMMO Devlog, 2026-06-11. LLM NPC 흥정, 서버 가격검증, NPC 간 반복 거래 문제와 구조적 수정 기록.
OpenMMO Fishing Documentation. AI 에이전트와 인간의 동일한 서버 규칙, LLM과 reflex layer의 역할 분리.
Dennett, D. C. (1987). The Intentional Stance. MIT Press.
Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–424.

생각의 충돌
이 글은 OpenMMO의 공개 코드와 문서를 NPC·AI 에이전트 설계 사례로 분석한 글입니다. 특정 설계가 우월하다는 결론을 내리지 않으며, Agent–Human Parity가 인터페이스와 세계규칙의 공유를 의미한다고 해서 인간과 AI의 능력·인지·심리까지 동일하다고 가정하지 않습니다.

NPC가 사람처럼 행동하려면, 내부도 사람처럼 만들어야 할까? — 심리학·철학·게임 AI의 충돌

충돌자 — Thu, 22 Oct 2026 20:30:16 +0900

생각의 충돌 · TC-008

사람처럼 보이는 NPC를 만들려면 사람의 마음을 그대로 재현해야 할까?

아니면 플레이어가 납득할 수 있는 행동만 만들어도 충분할까?

이번에는 하나의 가상 마을을 생각해보자.

주민 A는 원래 플레이어에게 비교적 호의적이었다.

그런데 어느 날 플레이어가 A와 가까운 주민 B를 마을 사람들 앞에서 공개적으로 의심한다.

그 뒤부터 A는 플레이어와 대화하는 횟수를 줄이고, 플레이어가 전달하는 정보를 이전보다 덜 신뢰하기 시작한다.

며칠 뒤 새로운 사건이 발생했을 때 A는 같은 내용의 증언이라도 플레이어보다 다른 주민의 말을 더 신뢰한다.

플레이어는 아마 이렇게 생각할 것이다.

“저 NPC, 그때 일 때문에 나를 못 믿게 된 것 같은데?”

오늘의 질문

이 행동을 만들기 위해
NPC 내부에도 실제 인간과 비슷한 심리가 필요할까?

겉으로 나타난 행동만 놓고 보면 A에게는 기억도 있고, 관계도 있고, 감정도 있으며, 상대방에 대한 믿음도 있는 것처럼 보인다.

하지만 게임 내부에서 실제로 작동하는 것은 전혀 다를 수 있다.

호감도 -15
↓
신뢰도 임계값 하락
↓
플레이어 증언 가중치 감소

몇 개의 숫자와 규칙만으로도 비슷한 행동을 만들 수 있다.

그렇다면 굳이 인간의 심리를 닮은 복잡한 내부구조가 필요할까?

참가 관점

관점	이번에 보는 것
CAPS / 성격심리학	같은 사람도 상황을 어떻게 해석하느냐에 따라 행동이 달라지는 과정
Dennett / Intentional Stance	믿음·욕구·목표라는 설명이 행동을 얼마나 잘 예측하는가
Searle / 중국어 방	그럴듯한 행동과 실제 이해를 같은 것으로 볼 수 있는가
게임 AI 개발 관점	이 행동을 안정적이고 추적 가능하며 효율적으로 구현할 수 있는가
NPC 행동 설계 관점	플레이어가 캐릭터의 행동 변화를 납득할 수 있는가

※ 게임 AI 개발 관점과 NPC 행동 설계 관점은 특정 실제 개발자의 발언이 아니라, 게임 AI 및 believable agent 연구와 실제 설계 방법론을 바탕으로 재구성한 관점입니다.

관점별 첫 해석

CAPS: 성격 하나로는 부족하다

Mischel과 Shoda의 CAPS 관점에서는 사람의 행동을 고정된 성격값 하나로 바로 연결하지 않는다.

사람은 상황을 해석하고, 과거의 경험을 떠올리고, 기대를 형성하며, 감정과 목표가 서로 영향을 주는 과정 속에서 행동한다.

따라서 A의 행동을 단순히

A는 원래 의심이 많은 성격이다.

라고 설명하는 것보다,

“가까운 사람을 공개적으로 공격한 상대에게는 신뢰를 빠르게 거두는 경향이 있다.”

처럼 상황과 행동의 반복적인 관계를 보는 것이 더 중요하다.

NPC로 옮긴다면 하나의 성격 수치보다 상황을 어떻게 받아들였는지까지 행동에 영향을 줄 수 있다는 뜻이다.

Dennett: 내부 구현보다 설명력이 먼저일 수도 있다

Dennett의 Intentional Stance에서 보면 플레이어가

“A는 플레이어를 더 이상 신뢰하지 않는다.”

라고 해석하는 것이 이후 행동을 잘 예측한다면 그 설명은 상당히 유용하다.

다음 회의에서 플레이어의 발언을 덜 믿고, 도움을 덜 주며, B에게는 더 많은 정보를 제공한다면

“불신한다”라는 말 하나가 여러 행동을 압축해서 설명한다.

내부 코드에 실제로 ‘불신’이라는 변수가 있어야만 불신이라는 설명을 사용할 수 있을까?

Intentional Stance는 반드시 그렇지는 않을 가능성을 보여준다.

Searle: 그래도 ‘실제 마음’이라고 부르기는 이르다

Searle의 중국어 방을 가져오면 바로 제동이 걸린다.

NPC가 사람처럼 행동한다고 해서 NPC 내부에서 인간과 같은 종류의 이해가 이루어지고 있다고 결론내릴 수는 없다.

A의 모든 행동이 사실은

if 신뢰도 < 30 → 증언 가중치 × 0.5

같은 규칙에서 나온 것일 수도 있다.

그렇다고 이 행동이 게임에서 잘못된 것은 아니다.

다만

사람처럼 행동한다
≠
사람과 같은 방식으로 이해한다

는 구분을 유지해야 한다.

게임 AI 개발: 먼저 돌아가야 한다

개발 관점에서는 질문이 상당히 달라진다.

인간의 마음을 얼마나 정확히 복제했는가보다 먼저 확인할 것이 있다.

이 행동을 디버깅할 수 있는가?
같은 조건에서 재현할 수 있는가?
NPC 수가 늘어도 처리할 수 있는가?
규칙이 충돌했을 때 원인을 찾을 수 있는가?
새로운 행동을 추가하기 쉬운가?

게임에서는 Behavior Tree, 상태기계, Utility 기반 선택, 행동 계획, 규칙 시스템 등 여러 방식으로 행동을 구성할 수 있다.

Behavior Tree만 해도 복잡한 행동을 모듈화하고 상황에 반응하도록 구성하기 위해 게임과 로봇 분야에서 사용되어 왔다.

Goal-Oriented Action Planning처럼 현재 상황과 목표를 바탕으로 실행할 행동의 순서를 계획하는 방법도 있다.

하지만 이런 구조들은 그 자체로 인간의 마음에 대한 심리이론은 아니다.

“사람이 실제로 이렇게 생각한다”와 “게임에서 이런 행동을 만드는 데 이 구조가 유용하다”는 서로 다른 주장이다.

NPC 행동 설계: 현실적인 것보다 납득되는 것이 중요하다

NPC 행동 설계에서는 또 다른 문제가 나타난다.

실제 사람의 행동은 때로 매우 복잡하고, 일관되지 않으며, 본인조차 이유를 설명하지 못한다.

그것을 그대로 게임에 넣으면 오히려 플레이어는 NPC가 무작위로 행동한다고 느낄 수 있다.

believable agent 연구에서도 believable은 반드시 현실과 똑같다는 뜻으로 사용되지 않았다.

캐릭터의 행동이 그 캐릭터의 성격과 상황 속에서 납득 가능하게 이어지는 것이 중요하다.

현실적인 인간
≠
납득 가능한 캐릭터

실제 사람은 갑자기 마음을 바꿀 수도 있지만, 게임 캐릭터가 아무 단서 없이 그러면 플레이어는 버그라고 생각할 가능성이 있다.

첫 번째 충돌

내부가 단순해도 행동이 그럴듯하면 충분할까?

Dennett의 관점과 게임 AI 개발 관점은 이 지점에서 어느 정도 가까워진다.

내부구조가 인간 뇌와 같지 않더라도 행동을 안정적으로 만들어내고 유용하게 예측할 수 있다면 굳이 인간 심리를 그대로 복제할 필요가 없을 수 있다.

하지만 CAPS는 다른 문제를 제기한다.

너무 단순한 규칙은 다른 상황에서도 같은 반응을 반복하기 쉽다.

예를 들어 신뢰도 30 이하인 모든 NPC가 항상 같은 방식으로 행동한다면,

개별 캐릭터의 성격과 상황에 따른 차이는 빠르게 사라진다.

단순한 내부구조도 행동을 만들 수 있다.

하지만 다양한 상황에서도 그 캐릭터다운 행동을 만들 수 있는지는 별도의 문제다.

두 번째 충돌

숫자로 표현하면 심리가 아닌가?

게임에서는 관계를 숫자로 표현하는 경우가 많다.

호감도 62
신뢰도 47
공포 18
의심 71

이 방식은 계산하기 쉽고 디버깅하기도 쉽다.

하지만 숫자 하나가 심리상태 전체를 의미한다고 보면 문제가 생긴다.

예를 들어 신뢰도 40이라는 값만으로는

왜 신뢰하지 않는지, 누구 앞에서 달라지는지, 어떤 사건 때문에 바뀌었는지, 어떤 조건에서 다시 회복되는지를 알 수 없다.

반대로 숫자를 사용한다고 해서 그 구조가 반드시 단순하거나 잘못된 것도 아니다.

중요한 것은 숫자가 어떤 맥락과 연결되어 있는가다.

값 자체보다
그 값이 어떻게 만들어졌고 어떤 상황에서 행동을 바꾸는지가 중요하다.

세 번째 충돌

일관적인 NPC와 사람다운 NPC는 같은가?

게임에서는 흔히 NPC가 일관되어야 한다고 말한다.

그러나 사람은 항상 같은 행동을 하지 않는다.

Mischel과 Shoda가 강조한 문제도 바로 이 지점이었다.

사람에게서 안정적으로 나타날 수 있는 것은 항상 똑같은 행동이 아니라,

“이런 상황에서는 이렇게, 저런 상황에서는 저렇게”

반응하는 패턴일 수 있다.

NPC 역시 마찬가지일 수 있다.

A가 플레이어를 믿지 않는다고 해서 모든 상황에서 플레이어를 적대할 필요는 없다.

위험한 상황에서는 협력할 수도 있고, B가 관련된 문제에서만 강하게 반응할 수도 있으며, 시간이 지나면서 행동이 다시 달라질 수도 있다.

그렇다면 캐릭터의 일관성은

항상 같은 행동을 하는 것이 아니라
변하는 방식에 일정한 구조가 있는 것

으로 다시 정의할 수 있다.

네 번째 충돌

플레이어에게 원인을 보여줘야 할까?

심리적으로 복잡한 NPC를 만들수록 개발자는 더 많은 내부상태를 숨길 수 있다.

NPC 내부에서는 수십 개의 사건과 관계가 영향을 주지만 플레이어는 결과 행동 하나만 볼 수도 있다.

이론적으로는 정교하다.

하지만 플레이어에게는

“갑자기 얘가 왜 이러지?”

로 보일 수 있다.

NPC 행동 설계 관점에서는 복잡성 자체보다 행동의 원인이 읽힐 수 있는가가 중요해진다.

대사, 표정, 다른 주민의 언급, 이전 사건, 관계 변화 같은 단서가 행동 변화와 연결되어 있어야 한다.

즉 내부 심리가 정교해질수록 외부 표현도 함께 설계해야 한다.

다섯 번째 충돌

NPC는 스스로 행동해야 할까, 이야기를 위해 움직여야 할까?

NPC를 완전히 자율적으로 만들면 예상하지 못했던 행동이 나타날 수 있다.

그것은 시뮬레이션으로서는 흥미롭지만, 게임의 사건이나 이야기와 충돌할 수도 있다.

believable agent와 interactive drama 연구에서도 이 문제는 오래 다뤄졌다.

캐릭터 개인의 목표만을 따라가는 강한 자율성과 이야기 전체가 요구하는 행동 사이에는 긴장이 생길 수 있다.

좋은 NPC는 자유로워야 할까?
아니면 작가가 원하는 이야기를 만들어야 할까?

특히 사회적 사건이 중요한 게임에서는 이 둘을 완전히 분리하기 어렵다.

파르퓜에서 보면

이 질문은 파르퓜에서 추상적인 문제가 아니다.

작은 마을 안에서 NPC들이 서로 관계를 가지고, 사건을 보고, 정보를 전달하고, 누군가를 의심하거나 신뢰한다면

플레이어는 자연스럽게 각 행동의 심리적 이유를 추론하게 된다.

그렇다고 NPC 내부에 인간의 마음 전체를 재현할 필요가 있다는 결론은 아직 나오지 않는다.

대신 최소한 몇 가지 층을 구분해서 볼 필요가 있다.

상황
무슨 일이 일어났는가?

해석
NPC에게 그 사건은 어떤 의미였는가?

기억과 관계
누구와 어떤 과거가 있었는가?

목표와 상태
지금 무엇을 원하거나 피하려 하는가?

행동 선택
그래서 현재 무엇을 할 것인가?

외부 표현
플레이어는 그 변화를 어떻게 알아차릴 수 있는가?

이 층들이 실제 인간의 마음을 그대로 복제하는 것은 아니다.

하지만 행동을 단순한 수치변화에서 맥락을 가진 과정으로 바꾸는 데는 도움이 된다.

실제 연구에서는

여기에서 서로 다른 연구분야를 섞어버리지 않는 것이 중요하다.

CAPS는 인간의 성격과 상황에 따른 행동 변화를 설명하기 위한 심리학 이론이다.

Behavior Tree나 GOAP 같은 방법은 행동을 구현하고 제어하기 위한 게임 AI·에이전트 설계기법이다.

Dennett의 Intentional Stance는 복잡한 시스템의 행동을 믿음과 욕구라는 수준에서 해석하는 철학적 전략이다.

Searle의 중국어 방은 적절한 행동이나 형식적 처리만으로 실제 이해까지 입증할 수 있는지를 문제 삼는다.

그리고 believable agent 연구는 캐릭터가 반드시 현실적이어야 하는 것이 아니라, 행동이 캐릭터와 상황에 맞게 납득될 수 있어야 한다는 문제를 다뤄왔다.

이들은 서로 같은 문제에 대한 서로 다른 구현법이 아니다.

애초에 서로 다른 질문을 하고 있다.

이론 해석 점검

“사람 같은 NPC를 만들려면 인간 심리학을 그대로 코드로 옮기면 된다.”
그렇게 단순하지 않다. 심리이론은 인간을 설명하기 위한 모델이며, 게임에서 실행 가능한 NPC 아키텍처와 동일하지 않다.

“행동만 자연스러우면 내부구조는 아무래도 상관없다.”
단기적인 장면에서는 가능할 수 있지만, 장기간의 관계와 상황 변화에서도 일관된 패턴을 유지할 수 있는지는 별도의 문제다.

“NPC에게 신뢰도 수치를 사용하면 심리적으로 단순한 시스템이다.”
숫자를 사용한다는 사실보다 그 값이 어떤 사건·맥락·목표와 연결되는지가 중요하다.

“사람처럼 행동하는 NPC는 사람처럼 이해하고 있다.”
행동의 유사성과 실제 이해의 존재는 구분해야 한다.

“가장 현실적인 NPC가 가장 좋은 NPC다.”
believable character 연구에서 납득 가능성은 현실의 완벽한 복제와 동일하지 않다. 게임에서는 표현 가능성과 플레이어가 원인을 읽을 수 있는지도 중요하다.

각 관점의 설명 범위

관점	잘 설명하는 것	단독으로 해결하기 어려운 것
CAPS	상황에 따라 행동이 달라지면서도 일정한 패턴이 유지되는 방식	실시간 게임에서 이를 어떻게 구현할 것인가
Intentional Stance	믿음·욕구·목표를 통해 행동을 압축해서 설명하고 예측	그 설명이 실제 내부상태와 동일한가
중국어 방	행동 성공과 실제 이해를 구분해야 한다는 문제	게임에서 어떤 행동구조가 가장 좋은가
게임 AI 개발	실행·성능·안정성·확장성·디버깅 가능한 행동구조	그 행동이 플레이어에게 심리적으로 납득되는가
NPC 행동 설계	캐릭터성과 행동의 연속성, 플레이어가 느끼는 납득 가능성	실제 인간의 심리과정을 얼마나 정확히 반영하는가

이번 충돌에서 남은 것

이번 질문에 “인간의 마음을 그대로 만들면 된다”는 간단한 답은 나오지 않았다.

오히려 여러 관점에서 NPC에게 필요한 ‘사람다움’이 서로 다른 의미라는 것이 드러났다.

사람과 같은 내부구조를 가지는 것과
사람처럼 납득되는 행동을 만드는 것은 같은 목표가 아니다.

사람의 심리를 닮은 구조가 더 풍부한 행동을 만드는 데 도움이 될 수 있다.

하지만 그것만으로 좋은 NPC가 보장되는 것도 아니다.

반대로 매우 단순한 규칙으로도 특정 장면에서는 훌륭한 캐릭터처럼 보일 수 있다.

문제는 그 캐릭터가 시간이 흐르고, 관계가 바뀌고, 새로운 상황이 발생해도 계속 납득 가능한가이다.

현재 결론

현재 단계에서 가장 안전하게 남길 수 있는 결론은 NPC가 인간의 마음을 그대로 복제해야 한다는 것이 아니다.

대신 사회적 행동이 중요한 NPC라면 최소한

왜 행동이 변했는지 기록할 수 있고,
상황이 달라지면 반응도 달라질 수 있으며,
그 변화가 캐릭터의 이전 행동과 연결되고,
플레이어가 일부 원인을 읽을 수 있는 구조

가 필요할 가능성이 높다.

그 내부를 성격모델, 규칙, Utility, 행동트리, 계획 시스템, 언어모델 중 무엇으로 만들 것인지는 그 다음 질문이다.

다음 질문

NEXT · NPC 행동 충돌

NPC는 과거를 많이 기억할수록 더 사람다워질까?

다음에는 NPC의 기억을 다룬다.

사건을 전부 저장하면 더 똑똑한 NPC가 되는지, 어떤 기억은 잊고 어떤 기억은 남겨야 하는지, 그리고 실제 인간의 기억과 게임의 데이터베이스를 어디까지 같은 것으로 볼 수 있는지를 인지과학·심리학·게임 AI·NPC 설계 관점에서 충돌시킨다.

연구 확인 및 참고문헌

Mischel, W., & Shoda, Y. (1995). A Cognitive-Affective System Theory of Personality: Reconceptualizing Situations, Dispositions, Dynamics, and Invariance in Personality Structure. Psychological Review, 102(2), 246–268.
Dennett, D. C. (1987). The Intentional Stance. MIT Press.
Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–424.
Bates, J. (1994). The Role of Emotion in Believable Agents. Communications of the ACM, 37(7), 122–125.
Loyall, A. B. (1997). Believable Agents: Building Interactive Personalities. Ph.D. dissertation, Carnegie Mellon University.
Mateas, M. (2002). Interactive Drama, Art and Artificial Intelligence. Ph.D. dissertation, Carnegie Mellon University.
Colledanchise, M., & Ögren, P. (2018). Behavior Trees in Robotics and AI: An Introduction. CRC Press.
Orkin, J. (2006). Three States and a Plan: The AI of F.E.A.R. Game Developers Conference.

생각의 충돌
이번 토론의 ‘게임 AI 개발 관점’과 ‘NPC 행동 설계 관점’은 특정 개발자의 실제 발언이 아니라 관련 연구와 개발 방법론을 바탕으로 재구성한 가상 관점입니다. 또한 심리학 이론을 NPC 구현법으로 직접 동일시하거나, 사람처럼 행동하는 NPC에게 실제 인간과 같은 심리상태가 존재한다고 가정하지 않습니다.

토키에 페르소나를 입히다 — 움직이는 캐릭터에서 대화하는 인물로

충돌자 — Thu, 22 Oct 2026 16:11:26 +0900

생각의 충돌 · 개발기록 · Persona

캐릭터를 움직이는 것에서, 대화할 인물을 만드는 것으로

토키를 만들면서는 캐릭터를 어떻게 움직이고 화면에 보여줄지 고민했다.

목소리에 맞춰 입을 움직이고, 표정을 바꾸고, 사용자가 원하는 동작을 표현하는 일이다.

그러다 질문이 하나 더 생겼다.

이 캐릭터가 내 말을 따라 움직이는 데서 그치지 않고,
나와 대화를 이어 가는 인물이 된다면 어떨까?

질문을 받으면 정해진 대사를 읽는 것이 아니라, 자료와 앞선 대화를 참고해 응답하는 캐릭터. 자기만의 말투와 관점을 가지고 이야기를 이어 가며, 때로는 새로운 글을 쓰는 인물.

토키에 그런 역할을 연결해 보고 싶었다. 그 인물 쪽을 맡기 위해 구상한 프로그램이 페르소나다.

‘토키에 페르소나를 입힌다’고 표현할 수 있지만, 토키의 모든 기능을 하나의 AI 프로그램으로 바꾸려는 것은 아니다. 캐릭터를 표현하는 역할과, 그 캐릭터가 무엇을 말하고 어떻게 반응할지 구성하는 역할을 나누어 연결하는 방향이다.

토키에서는 어떻게 보일지를 다뤘다면,
페르소나에서는 어떤 인물로 대화할지를 다루기 시작했다.

이 구상을 구체화할 첫 번째 인물로 도스토옙스키를 선택했다.

작품의 줄거리를 설명하는 데서 그치지 않고, 작품과 생애에 관한 자료를 바탕으로 질문을 받아들이고 새로운 소재로 글을 쓰는 모습을 생각했다.

하지만 인물을 정하자 필요한 일도 늘어났다. 어떤 자료를 반영할지, 사실과 새로 만든 대화를 어떻게 구분할지, 운영자는 무엇을 확인하고 수정할지, 그 결과를 어떤 화면으로 보여줄지까지 정해야 했다.

이번 개발기에서는 토키에 페르소나를 연결한다는 구상이 어떻게 전체 프로그램의 설계로 이어졌는지, 그 과정에서 무엇을 진행했고 무엇이 아직 남아 있는지를 정리한다.

페르소나는 실제 인물 본인이나 의식의 복원을 표방하지 않는 AI 캐릭터 프로젝트다. 자료 반영과 생성문 검토, 화면 기안, 앞으로 연결할 기능은 진행 상태를 구분해 소개한다.

말을 완벽하게 해도 정말 이해한 걸까? — John Searle의 중국어 방

충돌자 — Wed, 21 Oct 2026 20:30:58 +0900

생각의 충돌 · 기초이론 023

질문을 하면 정확한 답이 돌아온다.

농담도 알아듣는 것 같고, 앞에서 한 이야기를 이어가며, 상황에 맞는 말도 한다.

그렇다면 우리는 그 존재가 정말 이해했다고 말해도 될까?

한 가지 이상한 방을 생각해보자.

방 안에는 중국어를 전혀 모르는 사람이 있다.

밖에서 중국어 문장이 들어오면 그 사람은 아주 자세한 규칙책을 펼친다.

“이 모양의 기호가 들어오면 저 모양의 기호를 꺼내라.”

그는 뜻은 하나도 모르지만 규칙을 정확히 따른다.

결과적으로 방 밖의 중국어 사용자는 자신과 대화하는 상대가 중국어를 완벽하게 이해한다고 생각한다.

그런데 방 안의 사람은 여전히 중국어를 한마디도 이해하지 못한다.

중국어 방이 묻는 것

John Searle은 1980년 Minds, Brains, and Programs에서 이 사고실험을 제시했다.

당시 그가 비판하려던 것은 컴퓨터가 유용한 계산도구가 될 수 있다는 주장 자체가 아니었다.

더 강한 주장, 즉 적절한 프로그램을 실행하는 것만으로 컴퓨터가 실제로 이해하고, 믿고, 인지상태를 가질 수 있다는 생각이었다.

규칙에 맞는 출력을 만들어내는 것과
그 출력의 의미를 이해하는 것은 같은 일일까?

기호를 다루는 것과 의미를 아는 것

중국어 방에서 사람은 중국어 문자의 모양을 구별할 수 있다.

하지만 그 기호가 무엇을 뜻하는지는 모른다.

Searle이 강조한 구분은 흔히 syntax와 semantics의 문제로 설명된다.

Syntax

기호의 형식과
규칙에 따른 조작

Semantics

그 기호가 무엇을
의미하는가

방 안의 사람은 형식적인 규칙을 완벽하게 실행할 수 있다.

그러나 Searle의 직관에서는 그 사실만으로 의미가 생기지는 않는다.

따라서 그의 핵심 주장은 프로그램의 형식적 실행만으로는 이해에 충분하지 않다는 것이다.

정답을 냈다는 것만으로 충분할까?

이 사고실험이 강하게 느껴지는 이유는 외부에서 관찰할 수 있는 행동과 내부의 이해를 분리하기 때문이다.

방 밖의 사람에게는 아무 문제가 보이지 않는다.

질문은 제대로 처리되고, 답도 자연스럽다.

행동만 보면 중국어 사용자를 상대하고 있다고 생각할 수 있다.

외부 행동이 완벽해도
그 내부에 우리가 생각하는 종류의 ‘이해’가 존재하지 않을 가능성을 배제할 수 있을까?

이 질문 때문에 중국어 방은 단순한 옛날 컴퓨터 이야기를 넘어 지금까지도 마음철학과 인공지능 논쟁에서 반복해서 등장한다.

Dennett와 바로 충돌한다

앞에서 살펴본 Daniel Dennett의 Intentional Stance를 떠올리면 두 관점의 차이가 선명해진다.

Dennett에게 중요한 질문 중 하나는 믿음과 욕구를 부여하는 해석이 복잡한 존재의 행동을 안정적으로 설명하고 예측할 수 있는가였다.

Searle은 거기서 한 단계 더 들어간다.

관점	핵심 질문
Dennett	믿음과 욕구라는 설명이 행동을 잘 설명하고 예측하는가?
Searle	그렇게 행동한다고 해서 실제 이해와 의미까지 존재한다고 말할 수 있는가?

둘은 반드시 완전히 반대되는 주장만 하는 것은 아니다.

행동을 설명하기 위해 마음의 언어를 사용하는 것이 유용하다는 것과, 그 시스템 내부에 실제 이해가 존재한다는 것은 서로 다른 문제이기 때문이다.

가장 유명한 반론들

중국어 방은 발표 당시부터 수많은 반론을 받았다.

특히 중요한 것은 방 안의 개인이 이해하지 않는다는 사실에서 전체 시스템도 이해하지 않는다고 결론내릴 수 있느냐는 문제다.

시스템 전체가 이해하는 것은 아닐까?

가장 대표적인 것이 Systems Reply다.

방 안의 사람은 전체 시스템의 일부일 뿐이다.

규칙책, 기억장치, 기호, 중간 계산, 사람을 모두 합친 전체 시스템이 중국어를 이해한다고 볼 수도 있다는 것이다.

컴퓨터의 CPU가 영어를 이해하지 못한다고 해서
컴퓨터 전체가 영어를 처리할 수 없다고 결론내리지는 않는 것과 비슷한 문제다.

Searle은 이에 대해 사람이 규칙과 데이터를 모두 외워 전체 시스템을 머릿속에서 실행한다고 해도 여전히 중국어를 이해하지 못할 것이라고 대응했다.

그러나 비판자들은 다시 묻는다.

“규칙을 실행하는 사람”과 “그 실행으로 구현되는 전체 인지시스템”을 왜 같은 존재라고 봐야 하는가?

몸이 없어서 그런 것은 아닐까?

또 다른 반론은 Robot Reply다.

중국어 방은 세계와 직접 접촉하지 않는다.

기호가 계속 기호와만 연결될 뿐이다.

하지만 실제 인간은 사물을 보고, 만지고, 움직이고, 실패하고, 다른 사람과 상호작용하면서 언어를 배운다.

기호가 세계와 연결되어 있다면
상황은 달라지지 않을까?

카메라와 마이크, 촉각센서, 행동수단을 가진 로봇이 실제 환경과 지속적으로 상호작용한다면 기호가 단순한 형식 이상의 의미를 얻을 수 있다는 반론이다.

Searle은 감각입력 역시 방 안의 사람에게는 결국 추가적인 기호에 불과하다고 대응했다.

뇌 자체를 그대로 모사한다면?

Brain Simulator Reply는 조금 다른 방향에서 접근한다.

단순한 규칙책이 아니라 실제 중국어 사용자의 뇌에서 일어나는 신경활동을 세부적으로 모사하는 시스템이라면 어떨까?

그 시스템은 인간의 정보처리와 훨씬 가까운 방식으로 움직일 것이다.

Searle은 이 경우에도 구조를 모사했다는 사실만으로 실제 이해가 발생했다고 할 수 없다고 반박한다.

반면 비판자들은 여기서 우리의 직관이 신뢰할 만한지를 문제 삼는다.

인간의 뇌 전체와 같은 기능을 수행하는 시스템을 만들어놓고도 단순히 재료가 다르다는 이유로 이해를 부정할 수 있느냐는 것이다.

중국어 방 자체가 직관에 너무 의존하는 것은 아닐까?

중국어 방의 힘은 매우 강한 직관에서 나온다.

방 안의 사람은 중국어를 모른다.

그래서 우리는 자연스럽게 “여기에는 이해가 없다”고 느낀다.

하지만 비판자들은 바로 그 직관을 의심한다.

시스템의 작은 구성요소가 이해하지 못한다고 해서
시스템 전체도 이해하지 않는다고 느끼는 직관은 정말 신뢰할 수 있을까?

우리 뇌의 개별 뉴런 역시 한국어나 영어를 이해하지 않는다.

그렇다고 인간 전체가 언어를 이해하지 않는다고 말하지는 않는다.

따라서 일부 비판은 중국어 방이 부분에서 전체로 너무 빠르게 이동한다고 본다.

중국어 방이 증명하지 않는 것

이 부분은 특히 구분해야 한다.

“컴퓨터는 절대로 생각할 수 없다.”
Searle의 논지는 이것보다 좁다. 그는 프로그램 실행만으로는 이해에 충분하지 않다고 주장했다.

“인공지능 연구는 모두 의미가 없다.”
그의 표적은 모든 AI 활용이 아니라, 프로그램 자체가 곧 마음을 구성한다는 강한 주장이다.

“사람처럼 말하면 반드시 이해하지 못한다.”
그것도 아니다. 중국어 방은 행동만으로 이해를 확정할 수 있는지를 문제 삼는다. 행동이 이해와 무관하다고 증명하는 것은 아니다.

“중국어 방이 AI의 의식 부재를 과학적으로 증명했다.”
중국어 방은 철학적 사고실험이다. 그 결론과 직관을 둘러싼 논쟁 자체가 계속되고 있다.

LLM을 보면 질문이 다시 살아난다

오늘날 언어모델은 중국어 방이 처음 제시됐던 시대보다 훨씬 복잡한 언어행동을 보여준다.

긴 대화를 유지하고, 문장을 요약하고, 설명을 바꾸고, 문맥에 맞는 답변을 만들어낼 수 있다.

그래서 중국어 방을 곧바로 현대 언어모델의 구조와 동일시하는 것은 정확하지 않다.

Searle가 공격했던 당시의 규칙 기반 프로그램과 현대의 학습 기반 모델은 구현 방식이 상당히 다르기 때문이다.

그럼에도 철학적 질문은 남는다.

출력이 점점 인간과 비슷해질수록
우리는 어느 시점에서 ‘잘 처리한다’를 넘어 ‘이해한다’고 말해야 할까?

그리고 그 판단에는 행동만 필요한가?

내부구조가 필요한가?

세계와의 상호작용이 필요한가?

의식 경험까지 확인해야 하는가?

중국어 방은 이 질문들에 답을 주기보다 그 차이를 드러내는 역할을 한다.

NPC에서는 질문을 더 세분화할 수 있다

게임 속 NPC도 플레이어에게는 하나의 행동하는 존재다.

NPC가 과거 사건을 기억하고, 플레이어를 의심하며, 다른 주민에게 정보를 숨기고, 상황에 따라 말을 바꾼다면 플레이어는 자연스럽게 말한다.

“저 NPC는 나를 못 믿고 있어.”

“저 사람은 사실을 알고 있는데 숨기는 것 같다.”

하지만 내부에서는 전혀 다른 일이 일어나고 있을 수 있다.

관계 수치 변화
조건문 실행
행동트리 선택
기억 데이터 조회
Utility 점수 계산
언어모델의 응답 생성

중국어 방의 질문을 NPC에 가져오면 흥미로운 구분이 생긴다.

NPC가 인간처럼 보이는 것, 인간과 비슷한 구조로 행동을 결정하는 것, 그리고 실제 인간과 같은 방식으로 이해하는 것은 서로 같은 주장이 아니다.

행동 연구에서는 더 조심해야 한다

이 문제는 인간행동을 해석할 때도 중요하다.

어떤 행동이 특정 심리상태와 잘 맞아 보인다고 해서 그 심리상태가 실제로 존재한다고 바로 확정할 수는 없다.

행동
↓
가능한 해석
↓
심리상태 가설
↓
추가 관찰과 검증

행동과 내부상태 사이에는 추론단계가 존재한다.

Dennett는 이 추론이 행동을 설명하는 데 얼마나 유용할 수 있는지를 보여줬다면, Searle은 그 유용성을 내부의 실제 이해와 동일시해서는 안 된다는 문제를 제기한다.

이 관점의 설명 범위

중국어 방이 강하게 제기하는 문제	중국어 방만으로 결정하기 어려운 문제
형식적 기호처리와 의미이해를 구분할 필요	어떤 물리적 시스템이 실제 이해를 가질 수 있는가
행동 성공만으로 내부상태를 확정할 수 있는지에 대한 의문	시스템 전체 수준의 이해가 존재할 수 있는가
시뮬레이션과 실제 현상을 구분해야 한다는 문제	충분히 정확한 뇌 모사가 실제 마음을 만들 수 있는가
‘이해한다’는 표현을 무엇을 근거로 사용할 것인지 문제화	현대 AI가 어떤 의미에서 이해한다고 할 수 있는가

이번 이론에서 남는 것

중국어 방의 중요한 점은 “AI는 이해하지 못한다”라는 한 문장보다 그보다 앞선 질문이다.

우리는 무엇을 보고
다른 존재가 ‘이해했다’고 판단하는가?

행동인가?

내부구조인가?

환경과의 관계인가?

아니면 이 모든 것이 함께 필요한가?

중국어 방은 그 경계를 명확하게 정해주지는 않는다.

대신 정확한 행동과 실제 이해 사이에 논증해야 할 빈 공간이 존재한다는 것을 강하게 드러낸다.

다음 질문

NEXT · 충돌테스트

NPC가 사람처럼 행동한다면, 내부도 사람처럼 만들어야 할까?

다음 충돌에서는 지금까지 다룬 심리학과 마음철학에 게임 AI 개발과 NPC 행동 설계 관점을 처음 합류시킨다.

같은 NPC 행동을 두고 심리학자는 무엇을 보며, Dennett와 Searle은 무엇을 다르게 묻고, 개발자는 무엇을 구현 문제로 보며, NPC 행동 설계자는 무엇을 ‘캐릭터가 납득되는 조건’으로 보는지 비교한다.

참고문헌 및 자료

Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–424, with peer commentary and author response in the same issue.
Dennett, D. C. (1987). The Intentional Stance. MIT Press.
Block, N. (1980). Troubles with Functionalism and commentary surrounding Searle's argument.
Churchland, P. M., & Churchland, P. S. (1990). Could a Machine Think? Scientific American, 262(1), 32–37.
Cole, D. The Chinese Room Argument. Stanford Encyclopedia of Philosophy.

생각의 충돌
이 글은 중국어 방을 인공지능이 이해할 수 없다는 확정적 증명으로 사용하지 않습니다. Searle의 주장과 그에 대한 Systems Reply, Robot Reply, Brain Simulator Reply 등 주요 반론을 함께 살펴보고, 행동·기호처리·의미·이해를 어디까지 구분해야 하는지를 다룹니다.

공유 화면과 설명서까지, 1.5.2를 정리하며 — 토키 개발기 #09

충돌자 — Wed, 21 Oct 2026 20:30:27 +0900

방송 프로그램에서 캐릭터가 보이는 것과 Discord 화면 공유에서 보이는 것은 서로 다른 문제였다. 공유하는 쪽의 화면을 방해하지 않으면서 상대방에게 캐릭터가 함께 보이도록, 공유할 영상과 캐릭터를 합치는 출력을 추가했다.

Discord에서 공유할 창을 하나 만들기

Toki에서 공유할 프로그램이나 모니터를 선택하면, 원본 영상의 우측 하단에 캐릭터를 합성한다. Discord에서는 그 결과를 담은 Toki Share 창을 선택해 공유한다. Toki 설정 창은 트레이로 보내도 출력이 이어진다.

방송 출력에서 PRISM·OBS, Discord 화면 공유, 내 화면의 캐릭터 창을 구분했다.

이 기능에는 별도 켜기·끄기 스위치를 두고 화면 공유 전용임을 표시했다. 공유 대상을 바꾸는 도중 취소했을 때 기존 출력이 유지되는지, 기능을 끄면 캡처와 합성이 종료되는지도 확인했다.

개인정보가 없는 시험 화면을 사용한 실제 합성 출력. Discord 상대방 화면에서도 표시되는 것을 확인했다.

현재 출력은 1280×720, 최대 약 30fps의 영상 전용이다. 게임이나 프로그램 소리는 함께 전달하지 않는다. 원본 프로그램을 최소화하지 않은 상태로 사용해야 한다. 안전한 시험 화면의 수신은 확인했지만, 모든 게임·HDR·장시간 방송까지 검증한 것은 아니다.

설명서도 설치 파일 안으로

사용법이 대화 기록에만 남아 있으면 필요한 순간 찾기 어렵다. 그래서 실제 화면을 넣은 사용 설명서와 캐릭터 제작 설명서를 각각 8쪽으로 정리했다. 읽기용 PDF와 편집 가능한 Word 원본을 설치 파일에 함께 넣고, 앱 설정 아래에서 바로 열 수 있게 했다.

설명서는 한국어로 제공한다. 설치 후에는 인터넷 없이 열어 볼 수 있다.

사용 설명서는 마이크 설정부터 PRISM·OBS 연결, Discord 공유와 백업까지 다룬다. 제작 설명서에는 PNG 파일 규칙, 점선 마네킹, 몸·팔·책상 연결 기준과 AI에 제작을 요청할 때 쓸 문장을 넣었다. 생성된 그림은 요청문만 믿고 끝내지 않고, 실제 합성 상태에서 연결부와 손가락을 확인하도록 했다.

1.5.2 배포와 다음 단계

1.5.2에서는 화면 공유와 설정 정리, 설명서 동봉을 함께 마무리했다. 기존 1.5.1에서의 업데이트와 새 설치를 확인하고, 개인 설정과 교체한 PNG가 유지되는지도 검사했다. 구성 요소의 라이선스 고지도 설치 파일에 포함했다. 설치 파일은 현재 코드 서명이 없는 상태다.

이 글로 PNG 기반 토키의 이번 개발 기록은 한 번 정리한다. 앞으로도 실제 사용 중 발견되는 문제는 업데이트로 보완할 예정이다. 다음 큰 주제는 2D 캐릭터의 움직임과 제작 방식이다. 얼굴 추적과 2D 리깅은 아직 현재 버전의 기능이 아니며, 입력과 캐릭터 움직임을 나눈 구조를 바탕으로 기획과 검증부터 이어가려 한다.

Toki-Creator-Guide-KO-1.5.3.pdf

0.52MB

Toki-Creator-Guide-EN-1.5.3.pdf

0.45MB

Toki-User-Guide-KO-1.5.3.pdf

0.61MB

Toki-User-Guide-EN-1.5.3.pdf

0.55MB

행동만 보고 ‘믿고 원한다’고 말해도 될까? — Daniel Dennett의 Intentional Stance

충돌자 — Tue, 20 Oct 2026 20:30:38 +0900

생각의 충돌 · 기초이론 022

어떤 행동을 보고 우리는 너무 자연스럽게 말한다.

“저 사람은 저걸 원하는 것 같아.”
“저 동물은 위험하다고 생각한 거야.”
“저 프로그램은 내 수를 막으려고 하는군.”

그런데 우리는 정말 그 존재의 머릿속을 본 걸까?

체스 프로그램과 게임을 하고 있다고 생각해보자.

프로그램이 자신의 퀸을 보호하는 수를 두었다.

우리는 쉽게 이렇게 말할 수 있다.

“퀸을 잃으면 불리하다는 걸 알고 있어서 방어한 거야.”

하지만 프로그램 내부를 열어보면 ‘퀸을 지켜야 한다’라는 문장이 어딘가에 실제로 저장되어 있을 필요는 없다.

그렇다면 우리가 방금 사용한 설명은 틀린 설명일까?

마음을 직접 보지 않고도 설명한다

Daniel Dennett가 주목한 것은 우리가 일상에서 다른 사람을 이해하는 방식이었다.

친구가 우산을 들고 나가는 모습을 보며 우리는 모든 신경세포의 상태를 계산하지 않는다.

대신 이렇게 생각한다.

그 사람은 비가 올 것이라고 믿고 있고,
비에 젖고 싶지 않다고 원하기 때문에
우산을 가져갔다.

여기에는 믿음, 욕구, 목표, 의도 같은 개념이 등장한다.

Dennett는 이런 방식의 해석을 단순한 말버릇으로 치부하지 않았다.

오히려 복잡한 존재의 행동을 예측하고 이해하기 위한 하나의 강력한 전략으로 보았다.

여기서 말하는 ‘intentional’은 의도와 조금 다르다

주의할 점이 하나 있다.

철학에서 intentionality는 일상적으로 말하는 “일부러 했다”는 의미의 의도와 정확히 같지 않다.

어떤 믿음이 ‘비가 온다’는 사실에 관한 것이고, 어떤 욕구가 ‘집에 가고 싶다’는 상태를 향하는 것처럼,

정신상태가 무언가를 가리키거나 무언가에 관한 성질을 갖는 것을 말한다.

Intentional Stance는
‘일부러 행동한다고 가정하는 태도’라기보다
믿음과 욕구를 가진 행위자로 해석하는 관점에 가깝다.

같은 존재를 세 가지 방식으로 볼 수 있다

Dennett의 설명에서 중요한 것은 우리가 어떤 시스템을 한 가지 방식으로만 설명할 필요가 없다는 점이다.

대표적으로 세 가지 관점이 등장한다.

물리적 관점

Physical Stance

시스템의 물리적 상태와 자연법칙을 이용해 다음 상태를 예측한다.

공을 떨어뜨렸을 때 어디로 떨어질지 예측할 때는 이 방식이 적절하다.

컴퓨터라면 전압, 회로, 트랜지스터 상태까지 추적해 행동을 설명하는 극단적인 방식도 생각할 수 있다.

설계 관점

Design Stance

그 물체가 어떤 기능을 하도록 구성되어 있는지를 이용해 예측한다.

알람시계가 설정한 시간에 울릴 것이라고 예상할 때 우리는 내부 전자의 정확한 위치를 계산하지 않는다.

“이 장치는 그 시간에 울리도록 만들어졌다.”

라는 기능적 구조를 이용한다.

지향적 관점

Intentional Stance

대상을 믿음과 욕구를 가진 비교적 합리적인 행위자로 보고 그에 따라 다음 행동을 예측한다.

상대가 이기기를 원하고, 현재 상황을 어느 정도 파악하고 있으며, 자신의 목표에 맞는 행동을 선택할 것이라고 가정한다.

체스 프로그램을 세 번 설명해보면

같은 체스 프로그램의 다음 수를 세 관점으로 생각해볼 수 있다.

관점	설명
물리적 관점	프로세서와 메모리의 물리적 상태를 분석한다.
설계 관점	프로그램의 알고리즘과 평가함수에 따라 어떤 수를 선택하는지 분석한다.
지향적 관점	“상대는 퀸을 지키고 싶어 하고 이 수가 위험하다는 것을 알고 있다”고 해석한다.

세 설명은 반드시 서로 경쟁하는 설명일 필요가 없다.

상황에 따라 어떤 설명이 더 효율적인지가 달라질 수 있다.

왜 굳이 믿음과 욕구를 말할까?

복잡한 시스템에서는 물리적 세부사항을 모두 알아도 실제로 다음 행동을 예측하기 어려울 수 있다.

반대로 그 존재가 무엇을 알고 있고, 무엇을 원하는지를 대략 가정하면 상당히 좋은 예측이 가능해지는 경우가 있다.

“이 존재는 무엇을 믿고 있는가?”
“무엇을 원하는가?”
“그 조건에서 합리적으로 무엇을 할 것인가?”

이 세 질문만으로 엄청나게 복잡한 시스템의 행동을 압축해서 설명할 수 있다는 것이다.

그렇다면 믿음은 실제로 존재하는가?

여기서 Dennett를 단순한 허구론자로 이해하면 문제가 생긴다.

초기의 Intentional Stance는 종종 도구주의적으로 해석되었다.

즉 믿음과 욕구를 행동예측에 편리한 언어로 보는 것이다.

하지만 Dennett의 입장은 시간이 지나면서 조금 더 복잡한 형태를 갖게 된다.

그는 행동 속에 안정적으로 발견되고 실제로 예측력을 갖는 패턴을 단순한 허구로 취급할 필요는 없다고 보았다.

믿음이 뇌 속 어딘가에
문장처럼 저장되어 있어야만
‘실재한다’고 말할 수 있는 것은 아닐 수도 있다.

반복적으로 관찰되는 행동과 환경과의 관계 속에서 믿음과 욕구라는 설명이 안정적인 패턴을 잡아낸다면,

그 패턴 역시 세계를 설명하는 의미 있는 수준일 수 있다는 것이다.

온도조절기도 무언가를 원한다고 해야 할까?

이 관점에는 바로 문제가 따라온다.

온도조절기를 보면서도 이렇게 말할 수 있기 때문이다.

“온도조절기는 방을 22도로 만들고 싶어 한다.”

“현재 온도가 너무 낮다고 판단했다.”

“그래서 난방을 켰다.”

놀랍게도 이 설명은 어느 정도 행동을 예측할 수 있다.

그렇다면 온도조절기도 사람과 같은 의미에서 믿음과 욕구를 가진 존재일까?

Dennett의 관점에서 중요한 것은 단순히 이런 말을 붙일 수 있느냐가 아니다.

그 설명이 얼마나 유용하고 지속적인 예측력을 제공하느냐가 중요하다.

온도조절기는 구조가 단순해서 설계 관점만으로 충분히 설명할 수 있다.

굳이 복잡한 믿음과 욕구를 부여하는 것이 별 이득을 주지 않는다.

복잡해질수록 상황이 달라진다

사람이나 복잡한 동물, 체스 프로그램처럼 가능한 행동의 수가 많아지면 상황이 달라진다.

시스템 내부를 전부 추적하기보다는

이 존재는 지금 무엇을 알고 있는가?
무엇을 얻으려고 하는가?
어떤 선택을 합리적이라고 볼 것인가?

를 가정하는 것이 훨씬 경제적인 설명이 될 수 있다.

Dennett에게 중요한 것은 바로 이 압축력이다.

하지만 사람은 합리적이지 않다

여기서 또 다른 문제가 생긴다.

Intentional Stance는 대상이 어느 정도 합리적인 행동을 할 것이라는 전제를 사용한다.

그런데 지금까지 살펴본 Mischel, Prospect Theory, Simon, Choice Architecture 같은 이론들은 사람이 상황과 정보구조에 따라 일관되게 합리적이지 않을 수 있음을 보여준다.

사람은 정보를 잊기도 하고, 잘못된 믿음을 갖기도 하며, 손실을 과도하게 두려워하기도 하고, 습관적으로 행동하기도 한다.

합리적인 존재라고 가정해야 행동을 예측할 수 있는데,
그 존재가 계속 비합리적으로 행동한다면 어떻게 해야 할까?

실제 지향적 해석에서는 완벽한 합리성을 요구할 필요는 없다.

그 사람이 가진 정보, 잘못된 믿음, 제한된 능력, 현재 목표 등을 함께 고려해야 한다.

하지만 어디까지를 합리적인 해석의 수정으로 허용할 것인지는 중요한 문제로 남는다.

해석하는 사람에게 너무 의존하는 것은 아닐까?

또 다른 비판은 Intentional Stance가 관찰자의 해석에 지나치게 의존할 수 있다는 것이다.

같은 행동에도 여러 종류의 믿음과 욕구를 부여할 수 있기 때문이다.

예를 들어 누군가 회의에서 말을 하지 않았다.

“반대 의견이 없어서 침묵했다.”

“반대하지만 갈등을 피하고 싶어서 침묵했다.”

“발언할 정보가 부족하다고 생각했다.”

“애초에 회의 내용에 관심이 없었다.”

관찰된 행동은 하나인데 가능한 정신상태 해석은 여러 개다.

예측이 가능하다는 사실만으로 그중 하나가 실제 내부 상태라고 확정할 수는 없다.

행동을 잘 맞혔다고 마음을 읽은 것은 아니다

이 구분은 행동을 연구할 때 특히 중요하다.

어떤 사람이 반복적으로 위험한 선택을 했다고 하자.

그 행동을 보고

“위험을 좋아하는 사람이다.”

라고 해석하면 다음 행동을 어느 정도 예측할 수도 있다.

하지만 실제로는 정보를 잘못 알고 있었거나, 보상이 필요했거나, 선택지가 제한되어 있었거나, 다른 목표를 추구했을 수도 있다.

예측에 성공한 해석
≠
내부 심리상태를 확인한 측정

Intentional Stance는 행동을 해석하는 데 강력한 방법을 제공하지만, 그 자체가 심리측정 도구는 아니다.

확장된 마음과 이어서 보면

앞서 Clark와 Chalmers는 마음의 경계가 두개골 안에서 반드시 끝나야 하는지를 물었다.

Dennett의 질문은 조금 다르다.

확장된 마음

마음을 구성하는 시스템의
경계는 어디까지인가?

Intentional Stance

어떤 시스템을
마음을 가진 것처럼 해석하는 것이
언제 정당한가?

하나는 마음의 경계를 묻고, 다른 하나는 마음을 설명하는 해석 수준을 묻는다.

둘을 섞으면 외부 메모리를 사용하는 시스템이나 인공지능에 대해 지나치게 빠른 결론을 내릴 수 있다.

NPC에게 적용하면 매우 유용하다

게임 속 NPC를 생각하면 Intentional Stance의 장점이 금방 드러난다.

NPC 내부에는 실제로

행동트리
상태머신
관계수치
기억 데이터
목표점수
언어모델
규칙 기반 시스템

같은 다양한 구조가 존재할 수 있다.

하지만 플레이어는 그 내부구조를 보지 않는다.

대신 이렇게 말한다.

“저 NPC는 나를 의심하고 있어.”
“저 사람을 믿고 있군.”
“살아남으려고 거짓말을 한 것 같다.”

내부에서는 복잡한 계산이 이루어져도 겉에서는 믿음과 욕구의 언어가 훨씬 간단하게 행동을 설명할 수 있다.

그렇다고 NPC에게 인간과 같은 마음이 있다는 뜻은 아니다

여기서 가장 중요한 선을 그어야 한다.

NPC의 행동이 Intentional Stance로 잘 설명된다는 사실은

“이 NPC가 실제 인간과 같은 방식으로 믿고 느끼고 이해하고 있다.”

는 결론을 자동으로 만들지 않는다.

Intentional Stance가 제공하는 것은 우선 설명과 예측의 수준이다.

의식, 주관적 경험, 실제 이해, 인간과 동일한 정신구조가 존재하는지는 별도의 문제다.

LLM에서는 문제가 더 선명해진다

언어모델과 대화하면 우리는 자연스럽게 이런 표현을 쓴다.

“이 모델은 내가 무엇을 원하는지 이해했다.”

“앞에서 말한 내용을 기억하고 있다.”

“자신의 실수를 알아차렸다.”

이 표현들은 상호작용을 설명하는 데 상당히 편리하다.

실제로 다음 반응을 예측하는 데 도움이 될 수도 있다.

하지만 이 언어가 유용하다는 이유만으로 모델 내부에 인간의 믿음이나 욕구와 동일한 상태가 존재한다고 결론내려서는 안 된다.

“마음을 가진 것처럼 설명할 수 있다”와
“인간과 같은 마음을 가지고 있다”는
다른 주장이다.

오히려 NPC 연구에서는 내부를 알 수 있다

인간 연구와 NPC 연구 사이에는 흥미로운 차이가 있다.

사람을 연구할 때는 행동을 보고 내부상태를 추론해야 한다.

하지만 직접 설계한 NPC에서는 일부 내부상태를 우리가 알고 있다.

인간

행동
↓
내부상태 추론

설계된 NPC

알려진 내부상태
↓
행동 발생

그래서 NPC에서는 한 가지 실험이 가능하다.

실제 내부상태와 외부 관찰자가 Intentional Stance를 통해 추론한 상태가 얼마나 일치하는지 비교할 수 있다.

다만 그것이 곧바로 인간에게도 같은 정확도로 적용된다는 뜻은 아니다.

행동분석에서 얻을 수 있는 것

Intentional Stance를 행동분석 관점에서 사용한다면 심리상태를 바로 확정하기보다 가설을 만드는 단계에 두는 편이 안전하다.

행동 관찰
↓
반복 패턴 발견
↓
가능한 믿음·목표 가설
↓
다른 상황에서 예측
↓
추가 행동으로 검증

중요한 것은 첫 번째 해석에서 멈추지 않는 것이다.

같은 행동을 설명하는 다른 가설도 함께 남겨두어야 한다.

이 관점에 대한 주요 논쟁

예측만 되면 충분한가?

가장 근본적인 문제다.

어떤 정신상태 설명이 행동을 잘 예측한다고 해서, 그 정신상태가 실제 원인이라고 말할 수 있을까?

예측적 유용성과 존재론적 실재는 같은 질문이 아니다.

모든 것에 마음을 붙일 수 있지 않을까?

해석을 충분히 느슨하게 하면 온도조절기, 컴퓨터, 심지어 단순한 자연현상도 목표를 가진 존재처럼 묘사할 수 있다.

따라서 어떤 경우에 Intentional Stance가 실제로 필요한 설명인지 구분해야 한다.

내부 메커니즘을 너무 무시하는 것은 아닐까?

같은 행동을 하는 두 시스템이 완전히 다른 내부구조를 가질 수 있다.

행동 예측만을 기준으로 하면 이 차이를 놓칠 가능성이 있다.

인지과학이나 신경과학에서는 실제 내부 메커니즘이 무엇인지도 중요한 연구대상이다.

여러 해석이 동시에 가능하면?

하나의 행동패턴에 대해 서로 다른 믿음과 욕구 조합이 비슷한 예측을 만들 수도 있다.

이 경우 행동만으로는 어느 해석이 더 정확한지 결정하기 어려울 수 있다.

이론 해석 점검

“Dennett는 믿음과 욕구가 모두 가짜라고 말했다.”
너무 단순한 해석이다. 그의 입장은 도구주의적으로 읽혀왔지만, 이후에는 실제로 발견되는 행동 패턴의 실재성을 강조하는 방향도 분명히 나타난다.

“행동을 예측할 수 있으면 인간과 같은 마음이 있다는 뜻이다.”
아니다. 예측 가능한 intentional system이라는 것과 인간과 동일한 의식이나 정신구조를 갖는 것은 별도의 문제다.

“Intentional Stance는 행동주의와 같다.”
행동에서 출발한다는 공통점은 있지만, 믿음과 욕구라는 정신상태 언어를 적극적으로 사용한다는 점에서 단순 행동주의와 동일하지 않다.

“모든 존재를 의인화하자는 이론이다.”
아니다. 핵심은 의인화 자체가 아니라 그 해석이 실제로 안정적이고 유용한 예측을 제공하는가에 있다.

“예측에 성공하면 내부상태도 확인된 것이다.”
아니다. 동일한 행동을 만드는 내부구조가 여러 개일 수 있기 때문에 예측과 내부상태 측정은 구분해야 한다.

이 관점의 설명 범위

강한 부분	남는 문제
복잡한 시스템의 행동을 간단한 수준에서 설명하고 예측	예측적 설명이 실제 내부상태를 얼마나 반영하는가
사람·동물·기계에 같은 해석 틀을 적용해 비교 가능	어디까지를 intentional system으로 인정할 것인가
내부를 모두 알지 못해도 행동을 해석할 수 있음	여러 정신상태 해석이 같은 행동을 설명할 가능성
AI와 NPC의 행동을 설명하는 언어를 분석하는 데 유용	설명 가능성과 실제 이해·의식의 존재를 구별해야 함

이번 이론에서 남는 것

Dennett의 질문은 “마음이 정말 존재하는가?”에 간단한 답을 주려는 것이 아니다.

오히려 우리가 이미 매일 사용하고 있는 믿음과 욕구의 언어가 어떤 조건에서 유효한 설명이 되는지를 묻는다.

어떤 존재가 마음을 가진 것처럼 행동한다면
우리는 어디까지 그 설명을 믿어도 될까?

행동을 예측하는 데 성공했다고 해서 내부 심리상태를 직접 확인한 것은 아니다.

하지만 반대로 내부를 직접 볼 수 없다는 이유만으로 믿음과 욕구를 이용한 설명이 무의미한 것도 아니다.

이 둘 사이의 경계가 Intentional Stance가 남기는 핵심 문제다.

다음 질문

NEXT · 철학

말을 완벽하게 이해하는 것처럼 행동해도 실제로는 아무것도 이해하지 못할 수 있을까?

다음에는 John Searle의 Chinese Room을 살펴본다.

Dennett가 행동을 해석하는 관점의 유용성을 보여줬다면, Searle은 행동과 기호처리가 충분하더라도 그것만으로 ‘이해’가 생긴다고 말할 수 있는지를 문제 삼았다.

이 충돌은 이후 NPC와 언어모델을 다룰 때 직접적인 문제가 된다.

참고문헌 및 자료

Dennett, D. C. (1971). Intentional Systems. The Journal of Philosophy, 68(4), 87–106.
Dennett, D. C. (1981). True Believers: The Intentional Strategy and Why It Works. In A. F. Heath (Ed.), Scientific Explanation. Oxford University Press.
Dennett, D. C. (1987). The Intentional Stance. MIT Press.
Dennett, D. C. (1991). Real Patterns. The Journal of Philosophy, 88(1), 27–51.
Fodor, J. A. (1987). Psychosemantics: The Problem of Meaning in the Philosophy of Mind. MIT Press.
Stanford Encyclopedia of Philosophy. Entries on Intentionality, Mental Representation, and Belief.

생각의 충돌
이 글은 Intentional Stance를 인간이나 인공지능에게 실제 의식이 존재한다는 증명으로 사용하지 않습니다. 믿음과 욕구라는 언어가 행동의 설명과 예측에 언제 유용한지, 그리고 그 설명으로부터 실제 내부상태를 어디까지 추론할 수 있는지를 구분하여 다룹니다.

마음은 정말 두개골 안에서 끝날까? — Clark와 Chalmers의 확장된 마음

충돌자 — Mon, 19 Oct 2026 00:00:31 +0900

생각의 충돌 · 기초이론 021

기억해야 할 것을 모두 휴대전화에 적어두고, 필요할 때마다 거의 자동적으로 찾아본다면 그 정보는 단순히 ‘밖에 저장된 정보’일까?

한 가지 상황을 생각해보자.

당신은 중요한 약속 장소를 기억하고 있다.

친구는 같은 장소를 기억하지 못하지만 항상 사용하는 메모 앱에 정확히 기록해두었다.

당신은 머릿속 기억을 꺼낸다.
친구는 휴대전화를 열어 메모를 확인한다.

두 사람 모두 같은 장소로 향한다.

그렇다면 둘의 차이는 단순히 ‘기억이 뇌 안에 있느냐 밖에 있느냐’뿐일까?

논쟁은 어디에서 시작됐을까?

Andy Clark와 David Chalmers는 1998년 논문 The Extended Mind에서 매우 도발적인 질문을 던졌다.

인지과정의 일부가 두개골과 피부 바깥까지 확장될 수 있다면, 왜 마음의 경계를 반드시 몸 안에 그어야 하는가?

이들은 자신들의 입장을 active externalism, 즉 환경이 단순한 배경이 아니라 실제 인지과정에 능동적으로 참여할 수 있다는 관점으로 제시했다.

환경이 단지 생각을 돕는 것이 아니라
특정 조건에서는 생각을 구성하는 일부가 될 수 있을까?

도구가 있다고 마음이 확장되는 것은 아니다

먼저 가장 흔한 오해를 피해야 한다.

“계산기를 쓰면 계산기가 내 마음의 일부다.”

확장된 마음을 이렇게 이해하면 너무 강하다.

단순히 어떤 물건이 나에게 도움을 준다는 이유만으로 그 물건이 바로 인지과정의 일부가 되는 것은 아니다.

Clark와 Chalmers의 핵심 문제는 외부 요소가 내부 인지과정과 얼마나 깊고 지속적으로 결합되어 있는가다.

동등한 기능을 한다면?

확장된 마음 논의에서 자주 등장하는 생각을 매우 단순하게 표현하면 이렇다.

어떤 외부 과정이 뇌 안에서 일어났다면 자연스럽게 인지과정이라고 불렀을 정도로 같은 기능을 수행한다면, 단지 위치가 밖이라는 이유만으로 인지과정에서 제외해야 할까?

이것이 흔히 동등성 원리(parity principle)와 연결되는 문제다.

중요한 것은 내부와 외부가 물리적으로 똑같아야 한다는 뜻이 아니다.

비슷한 인지적 기능을 수행하는데 위치만을 이유로 하나는 마음이고 다른 하나는 단순 도구라고 구분하는 것이 정당한지를 묻는다.

Otto와 Inga

Clark와 Chalmers의 가장 유명한 사고실험이 Otto와 Inga다.

Inga는 미술관에 가려고 한다.

그녀는 미술관의 위치를 생물학적 기억에서 떠올린다.

Otto는 기억에 심각한 문제가 있어 중요한 정보를 항상 노트에 기록한다.

미술관에 가려고 할 때 Otto는 평소처럼 노트를 확인하고 그 정보에 따라 이동한다.

Inga

내부 기억
↓
위치정보 회상
↓
미술관으로 이동

Otto

외부 노트
↓
위치정보 확인
↓
미술관으로 이동

논점은 단순히 둘 다 목적지에 도착했다는 것이 아니다.

Otto에게 노트가 매우 안정적이고 익숙하며 거의 자동적으로 사용되는 기억수단이라면, 그 노트 속 정보가 Inga의 장기기억과 비슷한 기능을 수행한다고 볼 수 있느냐는 것이다.

노트는 단순한 검색엔진과 다른가?

여기에서 곧바로 문제가 생긴다.

Otto의 노트를 기억이라고 부른다면 인터넷 검색도 모두 기억이라고 해야 할까?

도서관의 책도?

친구에게 전화해서 물어볼 수 있는 정보도?

접근할 수 있다는 것과
자신의 인지체계에 통합되어 있다는 것은 같은 것이 아니다.

그래서 확장된 마음 논의에서는 외부 정보가 얼마나 안정적으로 이용되는지, 접근이 얼마나 직접적인지, 사용자가 그 정보를 평소 얼마나 신뢰하고 의존하는지 같은 조건이 중요하게 논의된다.

스마트폰 시대에는 더 현실적인 질문이 됐다

1998년에는 대표적인 예가 종이 노트였다.

지금은 상황이 훨씬 복잡하다.

일정은 캘린더가 기억한다.

길은 내비게이션이 기억한다.

전화번호는 연락처 앱이 기억한다.

해야 할 일은 할 일 앱이 유지한다.

과거 대화와 문서는 검색을 통해 다시 불러온다.

우리는 이미 상당한 인지작업을 외부 시스템에 맡기고 있다.

하지만 맡겼다는 것과 마음이 확장됐다는 것은 여전히 구분해야 한다.

Hutchins와 무엇이 다를까?

바로 앞에서 살펴본 Hutchins의 분산인지와 확장된 마음은 상당히 가까워 보인다.

둘 다 인지과정을 한 사람의 뇌 안에만 가둘 필요가 없다는 문제를 다룬다.

하지만 강조점에는 차이가 있다.

분산인지

사람·사람·도구에 걸친
정보처리 시스템을
어떻게 분석할 것인가?

확장된 마음

외부 요소가 단지 도움을 주는 것을 넘어
인지 또는 마음의
구성요소가 될 수 있는가?

Hutchins의 설명을 받아들인다고 해서 반드시 Clark와 Chalmers의 더 강한 철학적 주장까지 받아들여야 하는 것은 아니다.

‘내장된 인지’와도 구분해야 한다

여기서 또 하나 중요한 구분이 있다.

환경을 잘 이용하면 뇌가 해야 할 일을 줄일 수 있다는 생각과,

환경의 일부가 실제 인지체계의 구성요소라는 생각은 다르다.

Embedded Cognition
환경은 인지를 매우 강하게 돕는다.

Extended Cognition
특정 외부 요소가 인지시스템 자체의 일부가 될 수 있다.

논쟁의 핵심은 바로 이 두 번째 단계가 정당한가에 있다.

ACT-R와 충돌하면?

ACT-R에서는 기억과 목표, 생산규칙 같은 인지구조를 비교적 명확하게 개인 내부에 모델링한다.

확장된 마음은 인지시스템의 경계부터 다시 묻게 만든다.

예를 들어 외부 메모가 내부 기억과 안정적으로 결합되어 있다면,

그 메모를 단순히 ‘모델에 들어오는 외부 입력’으로 처리해야 할까?

아니면 더 큰 인지시스템 내부의 하나의 기억구조로 취급해야 할까?

어떤 경계를 선택하느냐에 따라 같은 행동을 모델링하는 방식 자체가 달라질 수 있다.

Gibson과도 접점이 있다

Gibson 역시 뇌 안의 표상만으로 지각을 설명하는 접근에 비판적이었다.

행위자와 환경 사이의 관계가 중요하다는 점에서는 확장된 마음과 접점이 있다.

하지만 Gibson의 어포던스가 곧바로 외부환경이 마음의 일부라는 주장을 뜻하지는 않는다.

환경이 인지에 필수적이라는 주장과
환경이 마음을 구성한다는 주장은 구분해야 한다.

가장 강한 반론

확장된 마음에 대한 가장 유명한 비판 중 하나는 결합과 구성의 혼동이다.

어떤 외부 물건이 인지과정과 긴밀하게 상호작용한다고 해서 그 물건이 바로 인지과정의 일부라는 결론이 따라오지는 않는다는 주장이다.

예를 들어 뇌활동과 혈류는 매우 밀접하게 연결되어 있다.

그렇다고 혈류를 곧바로 사고의 구성요소라고 부르는 것은 별도 논증이 필요하다.

함께 작동한다
≠
같은 시스템을 구성한다

Adams와 Aizawa는 확장인지가 이 구분을 충분히 증명하지 못한다고 비판했다.

연결되어 있다는 것만으로 충분한가?

스마트폰이 나와 늘 연결되어 있다고 하자.

스마트폰 배터리도 내 인지과정과 매우 중요한 인과관계를 가진다.

배터리가 꺼지면 외부 기억도 사용할 수 없다.

그렇다면 배터리도 마음의 일부일까?

인터넷 서버는?

GPS 위성은?

무엇이 인지과정에 영향을 주는가와 무엇이 인지과정을 구성하는가 사이에 경계를 만들어야 한다.

인지적 팽창

Robert Rupert 등이 제기한 대표적 문제는 흔히 cognitive bloat와 연결된다.

외부 저장정보를 너무 쉽게 개인의 기억이나 믿음으로 인정하기 시작하면 마음의 경계가 지나치게 커질 수 있다.

Otto의 노트가 기억이라면, 필요할 때 쉽게 열 수 있는 백과사전은?

인터넷 검색은?

클라우드에 저장된 수천 개의 문서는?

접근 가능한 정보 전체가
내 마음이 되어버리는 것은 아닐까?

확장된 마음의 옹호자에게는 어떤 외부 요소는 포함하고 어떤 요소는 제외할 것인지 더 정교한 기준이 필요해진다.

내부 기억과 외부 기록은 정말 같은가?

또 다른 문제도 있다.

생물학적 기억은 항상 우리가 의식적으로 검색 버튼을 누른 뒤 작동하는 것은 아니다.

감정, 연상, 자동적인 판단, 다른 기억과의 연결 등 복잡한 방식으로 인지 전체에 영향을 준다.

반면 노트나 스마트폰의 정보는 명시적으로 찾아봐야 하는 경우가 많다.

그렇다면 둘이 같은 기능을 한다고 말해도 될까?

외부 도구가 일부 기억기능을 수행한다는 것과
내부 기억과 동일한 종류의 인지상태라는 것은 별개의 주장이다.

확장된 마음이 의식도 확장시킬까?

여기에서도 범위를 구분해야 한다.

외부 메모가 기억이나 문제해결 과정의 일부가 될 수 있다는 주장을 받아들인다고 해서 곧바로

“내 스마트폰도 나와 함께 의식을 느낀다.”

는 결론이 나오는 것은 아니다.

실제 확장된 마음 논의에서도 인지의 확장과 의식 경험의 확장은 별개의 문제로 다뤄진다.

후자는 훨씬 더 강하고 논쟁적인 주장이다.

그럼 이 이론은 무엇을 실제로 바꾸나?

확장된 마음을 진지하게 받아들이면 사람의 능력을 측정하는 방법도 달라질 수 있다.

예를 들어 어떤 사람이 외부 메모를 이용해 복잡한 작업을 정확하게 수행한다고 하자.

전통적인 측정에서는 메모를 제거한 뒤 개인이 얼마나 기억하는지를 볼 수 있다.

하지만 실제 생활에서는 그 사람이 늘 메모를 사용한다면 메모를 제거한 상태가 오히려 평소의 인지체계를 깨뜨린 비현실적인 조건일 수도 있다.

능력을 평가할 때
개인만 측정해야 하는가,
평소 사용하는 인지환경까지 포함해야 하는가?

게임에서는 어떻게 보일까?

게임은 이 문제를 매우 쉽게 보여준다.

한 플레이어가 게임 내 수첩을 적극적으로 사용한다고 하자.

NPC의 이름, 관계, 사건, 의심스러운 행동을 수첩에 계속 정리한다.

그리고 중요한 판단을 할 때마다 그 기록을 확인한다.

플레이어 A

대부분을 머릿속으로 기억

플레이어 B

수첩과 기록 시스템을 적극 사용

둘의 최종 판단 정확도가 같다고 해도 인지작업의 분배는 다르다.

여기서 외부 기록을 전부 제거하고 B의 기억력만 평가하면 실제 플레이 방식과 상당히 다른 능력을 측정할 수도 있다.

하지만 행동분석에서는 더 조심해야 한다

확장된 마음을 행동데이터에 바로 적용하면 위험할 수도 있다.

누군가 기록을 자주 봤다는 사실만으로

“이 사람의 마음은 기록장까지 확장되어 있다.”

고 판정할 수는 없다.

기록을 단순 참고했을 수도 있고, 거의 의존하지 않았을 수도 있으며, 특정 상황에서만 사용했을 수도 있다.

실제 통합 정도를 보려면

얼마나 반복적으로 사용했는가?

필요한 순간 자동적으로 찾았는가?

정보가 항상 안정적으로 이용 가능했는가?

도구를 제거했을 때 수행이 어떻게 변했는가?

다른 인지과정과 얼마나 긴밀하게 연결되어 있었는가?

NPC에서는 더 직접적인 문제가 된다

이 문제는 이후 NPC 구조를 설계할 때 꽤 직접적으로 나타난다.

NPC의 기억을 LLM의 컨텍스트 안에 모두 넣을 수도 있다.

또는

관계 데이터베이스
사건 로그
외부 벡터 메모리
세계의 문서와 기록
다른 NPC의 증언

같은 외부 구조에 분산할 수도 있다.

그러면 질문이 생긴다.

NPC의 ‘기억’은 모델 안에 있는 것만 의미할까?
아니면 안정적으로 결합된 외부 메모리까지 포함할까?

확장된 마음은 이 문제에 매우 유용한 철학적 질문을 제공한다.

다만 외부 데이터베이스가 있다는 이유만으로 NPC에게 실제 인간과 같은 마음이 있다고 결론내릴 수는 없다.

이론 해석 점검

“스마트폰을 쓰면 스마트폰이 내 뇌다.”
지나친 단순화다. 단순한 사용과 깊은 인지적 통합은 구분해야 한다.

“환경이 인지에 영향을 주면 곧 마음의 일부다.”
바로 이 추론이 coupling–constitution 비판의 핵심 대상이다.

“분산인지를 인정하면 확장된 마음도 인정해야 한다.”
아니다. 시스템 수준 분석과 마음의 구성요소에 관한 철학적 주장은 구분된다.

“확장된 마음은 외부 의식까지 증명한다.”
인지 확장과 의식 확장은 서로 다른 주장이다.

“Otto 사고실험이 실제 뇌과학으로 확장된 마음을 증명했다.”
아니다. Otto 사례는 주로 기능적·철학적 직관을 시험하는 사고실험이다.

이 관점의 설명 범위

강한 부분	논쟁적인 부분
외부 도구가 실제 인지수행에서 중요한 기능을 한다는 점	그 도구를 인지의 원인이 아니라 구성요소라고 불러야 하는가
인간이 환경에 인지작업을 적극적으로 외부화한다는 사실	마음의 경계를 어디에 둘 것인가
실제 생활의 도구 사용을 개인 인지와 함께 연구할 필요성	외부 저장정보와 내부 기억을 같은 종류로 볼 수 있는가
인지시스템의 경계 자체를 연구문제로 만든 점	과도하게 확장될 경우 cognitive bloat가 발생할 가능성

이 이론이 남긴 질문

Hutchins는 인지작업이 사람과 도구 사이에 분산될 수 있음을 보여줬다.

Clark와 Chalmers는 여기서 더 강한 질문을 던진다.

외부 도구가 단순히 생각을 도와주는 것이 아니라
생각 그 자체를 구성할 수도 있는가?

하지만 질문을 강하게 만들수록 새로운 문제가 생긴다.

마음의 경계는 어디까지인가?

연결된 것과 구성하는 것을 어떻게 구분하는가?

무엇을 마음이라고 부르는 기준은 무엇인가?

그리고 우리가 다른 사람이나 인공지능의 행동을 볼 때 실제 내부구조를 알아야만 ‘믿는다’, ‘원한다’, ‘기억한다’ 같은 말을 사용할 수 있을까?

다음 질문

NEXT · 철학

행동을 잘 예측할 수 있다면 정말 그 존재의 ‘마음’을 이해한 걸까?

다음에는 Daniel Dennett의 Intentional Stance를 살펴본다.

우리는 사람뿐 아니라 동물, 체스 프로그램, NPC에게도 “저건 이렇게 믿고 있기 때문에 저 행동을 한다”고 말한다.

그런 믿음과 욕구가 실제 내부에 우리가 상상하는 형태로 존재해야만 이런 설명이 정당한 것인지 살펴본다.

참고문헌 및 자료

Clark, A., & Chalmers, D. (1998). The Extended Mind. Analysis, 58(1), 7–19.
Adams, F., & Aizawa, K. (2001). The Bounds of Cognition. Philosophical Psychology, 14(1), 43–64.
Rupert, R. D. (2004). Challenges to the Hypothesis of Extended Cognition. The Journal of Philosophy, 101(8), 389–428.
Clark, A. (2008). Supersizing the Mind: Embodiment, Action, and Cognitive Extension. Oxford University Press.
Adams, F., & Aizawa, K. (2008/2010). The Bounds of Cognition. Wiley-Blackwell.
Menary, R. (Ed.). (2010). The Extended Mind. MIT Press.
Clark, A. (2010). Coupling, Constitution, and the Cognitive Kind: A Reply to Adams and Aizawa. In R. Menary (Ed.), The Extended Mind. MIT Press.

생각의 충돌
이 글은 외부 도구가 인간의 수행을 돕는다는 사실과 그 도구가 실제 마음의 구성요소라는 철학적 주장을 구분합니다. 확장된 마음은 영향력이 큰 관점이지만, 마음의 경계와 결합·구성의 구분은 여전히 논쟁 중인 문제입니다.

감도 숫자 대신 예시문을 읽게 했다 — 토키 개발기 #08

충돌자 — Sun, 18 Oct 2026 20:30:28 +0900

캐릭터가 준비되어도 마이크 반응을 맞추지 못하면 사용하기 어렵다. 말하지 않을 때 입이 열리거나, 작게 말하면 반응하지 않거나, 조금만 소리를 높여도 큰 입으로 바뀌는 식이다. 감도와 임계값을 조절할 수 있다는 것만으로는 처음 쓰는 사람에게 충분한 안내가 되지 않았다.

작게, 평소처럼, 조금 크게

자동 설정을 주변 소음, 작은 목소리, 평소 목소리, 큰 목소리 순서로 구성했다. 주변 소음은 3초, 목소리는 단계마다 5초씩 측정한다. 화면에 예시문을 보여 주고 지금 어떤 크기로 읽어야 하는지도 안내한다.

평소 목소리 측정 안내 화면. 각 단계에서 측정을 시작한 뒤 마지막에 추천 반응을 확인한다.

작은 목소리를 측정한다고 입 모양이 한 단계 더 생기는 것은 아니다. 작은 목소리는 말을 시작했다고 판단하는 기준을 맞추는 데 사용하고, 큰 목소리는 큰 입 전환 기준에 반영한다. 기존 무음·말하기 두 단계, 또는 큰 입을 더한 세 단계 구조는 유지했다.

추천값은 바로 저장하지 않는다. 마지막 화면에서 반응을 확인하고 적용해야 기존 설정에 반영된다. 입력이 충분하지 않거나 단계 사이의 차이가 작으면 다시 측정하도록 안내한다. 측정한 음성을 파일로 저장하거나 외부로 보내지는 않는다.

말소리 판단과 음량 판단을 구분하기

토키의 음성 처리는 말의 내용을 받아 적는 음성 인식이 아니다. 말소리인지 판단하고, 음량에 맞춰 캐릭터의 입 모양을 고르는 기능이다. 말소리 판별과 선택형 잡음 억제도 캐릭터 반응을 위한 것이므로, 이를 켠다고 방송으로 나가는 마이크 소리가 직접 바뀌지는 않는다.

자동 설정도 마이크 거리와 주변 환경의 영향을 받는다. 그래서 모든 환경에서 조정이 끝난다고 설명하기보다, 방송 때와 같은 위치에서 측정하고 필요하면 다시 맞추도록 했다. 세부 조절이 필요한 사람을 위해 고급 설정은 남겨 두었다.

자동 설정은 먼저 보이게, 세부 수치는 음성 고급 설정 안에 모았다.

기능이 늘수록 화면은 더 정리해야 했다

설정 메뉴의 위치와 정렬을 고정하고 음성·방송 출력·앱·움직임·캐릭터·입력 소품을 구분했다. PNG 상태 카드는 무엇을 편집하는지 보여 주고, 큰 미리보기는 실제 마이크 반응을 보여 준다. 기능을 끄면 관련 세부 조절도 비활성화해 현재 적용되는 설정을 알아보기 쉽게 했다.

화면 뒤쪽의 처리도 정리했다. 숨긴 설정 창의 미리보기를 불필요하게 갱신하지 않도록 하고, 상태 표시는 필요한 간격으로 갱신하며, 화면 공유를 끄면 관련 자원을 해제하도록 했다. 이 변경을 모든 PC에서의 성능 향상 수치로 일반화할 수는 없지만, 사용하지 않는 화면과 기능이 일을 계속하는 부분은 줄일 수 있었다.

다음 글은 이 정리의 마지막 단계다. Discord 화면 공유를 확인하고, 사용법과 캐릭터 제작법을 설명서로 묶어 1.5.2 배포를 마무리한다.