이 글은 LightMem: Lightweight and Efficient Memory-Augmented Generation을 정리한 글입니다. LLM 에이전트에게 대화 이력을 기억시키는 가장 손쉬운 방법은 과거 대화를 통째로 프롬프트에 다시 넣는 것입니다. 문제는 대화가 길어질수록 이 방식이 그대로 무너진다는 점입니다. 컨텍스트가 길어지면 중간에 있는 정보를 놓치는 “Lost in the Middle” 현상이 나타나고, 매번 쌓인 이력을 다시 읽어들이는 기존 메모리 시스템들은 연산량이 커지면서 응답 속도까지 떨어집니다. LightMem은 이 두 문제를 동시에 겨냥한 경량 메모리 생성 시스템으로, 토큰 사용량을 기존 시스템 대비 수십 분의 일 수준으로 줄이면서도 더 나은 성능을 냅니다. ...
이 글은 마이크로소프트 리서치의 논문 From Local to Global: A GraphRAG Approach to Query-Focused Summarization과, 서울대학교 산업공학과 DSBA 연구실의 [Paper Review] GraphRAG 영상을 참고해 정리한 글입니다. RAG는 신뢰할 수 있는 문서 집합을 구축해두고, 질문이 들어오면 관련 문서를 찾아 LLM에게 근거로 제공해 답을 생성하게 하는 방식입니다. 인덱싱(문서를 chunking해서 검색 가능한 형태로 저장), Retrieval(질문과 관련된 문서를 탐색), Generation(탐색된 문서와 질문을 바탕으로 답변을 생성)이 기본 구성 요소입니다. 기존 RAG의 한계 RAG의 발전은 대체로 “질문의 의도를 어떻게 더 정확히 파악할 것인가"와 “질문과 연관된 문서를 어떻게 더 잘 찾을 것인가"에 초점을 맞춰 이뤄져 왔습니다. 문서 하나하나를 더 잘 찾는 데는 강했지만, 정작 문서들 사이의 관계나 연결성에는 상대적으로 관심이 적었습니다. ...
이 글은 SimpleMem: Efficient Lifelong Memory for LLM Agents을 읽고 리뷰한 글입니다. 현재는 논문의 일부 내용이 수정되어 작성 시점(2026.01.24)과 상이할 수 있습니다. 배경 LLM은 기본적으로 상태를 유지하지 않는(stateless) 특성을 갖고 있습니다. 따라서 이전 추론 결과가 다음 추론 결과에 영향을 주지 않습니다. 이러한 특성으로 인해, LLM을 그냥 사용하면 대화가 연속적으로 이어지지 못하는 문제가 발생할 수 있습니다. 즉, 나와 방금 나눈 대화를 기억하지 못하는 초단기 기억상실증과 같은 모습을 보이는 것입니다. 연구자들은 간단한 방법으로 이 문제를 해결하였습니다. 바로 사용자와 LLM 에이전트 사이의 대화 이력을 별도의 공간(e.g. 메모리)에 저장하고, 매 추론마다 입력 프롬프트에 과거 대화 이력을 주입함으로써 LLM으로 하여금 연속적인 대화가 가능하도록 만든 것입니다. ...
딥마인드가 2024년 발표한 SIMA(Scalable Instructable Multiworld Agent)는 3D 가상 환경 전용 범용 에이전트입니다. 화면 입력과 간단한 자연어 지시만 주어지면, 사람과 거의 같은 방식으로 3D 게임을 플레이합니다. 하나의 게임이 아니라 여러 게임을 SIMA가 흥미로운 지점은 특정 게임 하나에 특화된 봇이 아니라는 것입니다. 8개의 게임 스튜디오와 협업해 외계 행성을 탐사하는 No Man’s Sky, 자동화 공장을 짓는 Satisfactory, 북유럽 신화 기반 생존 크래프팅 게임 Valheim 등 9개 게임을 대상으로 학습했고, 처음 보는 게임에서도 사람의 지시를 이해하고 플레이할 수 있습니다. ...