API 호출 없이 로컬에서 도는 AI 기억 라이브러리 '멤팰리스' 깃허브 주목

대화 기록을 원문 그대로 저장하고 의미 검색으로 찾아주는 로컬 우선 AI 기억 도구 '멤팰리스(MemPalace)'가 깃허브 트렌딩에 올랐다. 내용을 요약하거나 추출하거나 바꿔 쓰지 않고 그대로 보관하는 것이 특징이며, 핵심 벤치마크 경로에서는 외부 API 호출이 전혀 필요 없다.

멤팰리스는 저장한 기록을 구조화해 색인한다. 사람과 프로젝트는 '윙(wing)', 주제는 '룸(room)', 원본 내용은 '드로어(drawer)'로 나뉘어, 전체 말뭉치를 통째로 뒤지는 대신 범위를 좁혀 검색할 수 있다.

검색 성능 수치도 공개됐다. 500개 질문으로 구성된 LongMemEval에서 휴리스틱과 LLM 없이 의미 검색만 쓴 '로(raw)' 모드가 상위 5개 회상률(R@5) 96.6%를 기록했다. 이 수치는 API 키도, 클라우드도, 어떤 단계의 LLM도 필요하지 않다.

키워드 가중치와 시간 근접도 가중치, 선호 패턴 추출을 더한 '하이브리드 v4'는 학습에 쓰지 않은 450개 질문에서 98.4%를 냈고, 멤팰리스는 이를 일반화 가능한 정직한 수치로 제시했다. 여기에 LLM 리더로 상위 20개 후보 중 최선을 고르는 리랭크를 더하면 전체 500개에서 99% 이상으로 올라간다.

리랭크 단계는 충분히 성능 좋은 모델이면 무엇이든 쓸 수 있다. 멤팰리스는 클로드 하이쿠와 클로드 소네트, 올라마 클라우드의 minimax-m2.7로 재현했다고 밝혔으며 특정 업체 의존성은 없다고 강조했다. '100%'를 내세우지 않는 이유로는 마지막 0.6%가 틀린 답을 들여다보며 맞춘, 이른바 시험 답안 외우기에 해당하기 때문이라고 설명했다.

다른 벤치마크 결과도 함께 내놨다. LoCoMo에서는 리랭크 없이 R@10 60.3%(1,986개 질문), 하이브리드 v5로는 88.9%를 기록했고, ConvoMem 250개 항목에서 평균 회상률 92.9%, ACL 2025의 MemBench 8,500개 항목에서 R@5 80.3%를 냈다. 다만 Mem0·매스트라·힌드사이트·슈퍼메모리·Zep 등과의 직접 비교표는 서로 다른 지표와 분할을 나란히 두는 것이 정직하지 않다며 싣지 않았다.

검색 계층은 교체할 수 있게 설계됐다. 기본값은 ChromaDB이고, 인터페이스만 맞추면 다른 백엔드를 시스템의 나머지를 건드리지 않고 끼워 넣을 수 있다. 사용자가 명시적으로 동의하지 않는 한 어떤 데이터도 기기를 떠나지 않는다.

도구는 CLI로 제공돼 uv, pipx, 가상환경 내 pip로 설치할 수 있다. 프로젝트 파일이나 클로드 코드 세션을 색인하는 mine, 의미 검색을 하는 search, 새 세션에 맥락을 불러오는 wake-up 등의 명령을 갖췄다. 유효 기간을 가진 시간 기반 개체-관계 그래프를 로컬 SQLite로 함께 제공하며, 팰리스 읽기·쓰기와 지식 그래프 조작 등을 다루는 29개의 MCP 도구를 포함한다.

실행에는 파이썬 3.9 이상과 벡터 저장소 백엔드(기본 ChromaDB), 임베딩 모델용 약 300MB 디스크가 필요하다. 온보딩 단계에서 100개 이상 언어를 지원하는 다국어 모델 embeddinggemma-300m이나 영어 전용의 약 30MB짜리 all-MiniLM-L6-v2 중에서 고를 수 있다. 핵심 벤치마크 경로에는 API 키가 필요 없으며, 라이선스는 MIT다.