Mini Long-Term Memory RAG System 프로젝트 개요최근 LLM기반 서비스를 사용해, 내 프로젝트 계획 및 진로 계획을 짜고 있다.대화가 짧을 때는 모델이 이전 맥락을 잘 기억하는 것처럼 보인다. 하지만 대화가 길어질수록 초반에 했던 말이나 중요한 정보가 점점 사라지는 것처럼 느껴질 때가 있다. 예를 들어 사용자가 처음에 자신의 목표, 선호, 프로젝트 방향을 말했더라도, 대화가 길어지면 모델은 그 정보를 직접 참조하지 못할 수 있다.이 문제는 LLM의 context window 제한과 관련이 있다. LLM은 현재 prompt 안에 포함된 정보만 직접 사용할 수 있기 때문에, 대화가 길어져 중요한 정보가 prompt 밖으로 밀려나면 해당 정보를 기억하지 못하는 것처럼 동작할 수 있다.그..