AI는 왜 대화를 잊을까? 문맥·메모리·RAG의 차이

분명 어제 말했는데 AI가 오늘은 처음 듣는 것처럼 답할 때가 있습니다. AI가 정말 기억력이 나쁜 걸까요? 이 영상에서는 ‘여행 예산 100만 원’이라는 하나의 사례로 문맥, 메모리, RAG를 구분합니다. 문맥: 지금 답변을 만들 때 직접 전달된 대화와 지시 메모리: 다음 대화에서도 쓰려고 별도로 저장한 사용자 정보 RAG: 질문과 관련된 외부 문서를 검색해 현재 문맥에 넣는 과정 오래된 대화가 문맥에서 빠진 경우, 정보가 메모리에 저장되거나 회상되지 않은 경우, RAG 검색이 원문을 놓친 경우는 모두 사용자에게 ‘잊었다’고 느껴질 수 있습니다. 원인을 구분하면 해결 방법도 달라집니다. 중요한 금액·날짜·금지 조건은 질문에 다시 적고, 장기 취향은 기억해 달라고 명시하고, 문서 답변에는 출처를 요구하세요. 챕터 00:00 오늘의 질문 00:15 먼저 상황 보기 00:30 핵심 구분 00:45 비유 하나 01:02 문맥 02:19 메모리 03:37 RAG 04:42 한눈에 비교 04:57 같이 쓰는 구조 05:11 진단 방법 05:27 사용 팁 05:44 주의할 점 06:01 정리 참고 자료 Attention Is All You Need: https://arxiv.org/abs/1706.03762 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks: https://arxiv.org/abs/2005.11401 OpenAI Memory FAQ: https://help.openai.com/en/articles/8... OpenAI Retrieval guide: https://developers.openai.com/api/doc...