생성형 AI의 ‘계층형 심리 구조’ 설계

Protofelix LayerAI 모델의 기술적 이점, 위험, 구현·평가 프레임워크
E(on). Jun · CAIPEX · 2026.9.

계층형 심리 구조는 AI에 인간의 마음을 부여한다는 주장이 아니다. 기억, 정서 신호, 가설, 성찰, 창작 기능을 서로 다른 상태와 권한으로 나누어 설계하고 검증하려는 접근이다.

LayerAI의 여섯 계층

계층 기능적 의미
L0 · 현재 맥락 현재 요청, 사실, 제약과 도구 상태를 관리
L1 · 정서 신호 대화의 정서적 단서를 살펴 응답 톤을 조정
L2 · 기억 동의받은 정보를 저장·검색하고 수정·삭제를 관리
L3 · 가설 생성 가능한 해석을 만들되 검증 전에는 사실로 취급하지 않음
L4 · 반복 개선 피드백을 바탕으로 개선안을 제안하고 평가
L5 · 창작 탐색 다양한 아이디어 후보를 생성하고 검증 대상으로 전달

이 계층은 매번 L0부터 L5까지 순서대로 실행되는 단계가 아니다. 필요한 기능을 조건에 따라 선택적으로 활성화하며, 기억 저장·외부 행동·시스템 변경에는 별도의 권한과 승인 절차를 둔다.

기대할 수 있는 이점과 함께 살펴야 할 위험

기능을 분리하면 장기 대화의 일관성을 높이고, 일시적인 정서 추정과 장기 기억을 구별하며, 오류가 어느 계층에서 발생했는지 추적하기 쉬워질 수 있다. 계층별 기능을 끄고 비교하는 실험도 가능해진다.

반면 정서 신호와 기억을 결합하면 과도한 심리 추론, 개인정보 축적, 맞춤형 설득, 정서적 의존의 위험이 커질 수 있다. 잘못된 기억의 재사용, 외부 문서에 숨겨진 악성 지시, 승인 없는 자기수정 역시 검토해야 한다.

논문은 이에 대한 설계 원칙으로 최소한의 정보 저장, 명시적 동의와 삭제 통제, 추정과 사실의 분리, 데이터와 명령의 격리, 외부 행동 전 승인, 변경 이력과 되돌리기 기능을 제안한다.

어떻게 검증할 것인가?

같은 기반 모델을 사용하면서 계층 구조와 장기 기억의 유무를 비교하고, 각 계층을 하나씩 제거하는 실험으로 효과와 위험을 구분한다. 평가 대상은 과업 정확도뿐 아니라 기억의 정확성·삭제 준수·대화 일관성·사용자 자율성·안전성·운영 비용이다.

현재 공개 자료에는 LayerAI 전체 구조의 효과를 입증한 실측 결과가 없다. 이 논문은 공개된 개념 모델과 관련 연구를 분석하고, 앞으로 무엇을 구현하고 측정해야 하는지 제시한 연구다. ‘감정’, ‘무의식’, ‘진화’, ‘초월’도 AI의 실제 내면 상태가 아닌 검증 가능한 기능을 설명하는 용어로 다룬다.

CAIPEX 공식 사이트 · Protofelix LayerAI Center