비전공자를 위한 AI Agent 6편

비전공자를 위한 AI Agent 6편

“에이전트에게 기억을 주는 법: RAG Agent의 시작”

여기까지 따라왔다면
이제 에이전트가 혼자서 판단하고, 반복하고, 일을 끝내는 구조라는 건 감이 왔을 거예요.

근데 딱 이 지점에서 다들 같은 질문을 합니다.

“근데 이 에이전트…
왜 이렇게 기억력이 나쁜 것 같지?”

맞아요.
지금까지 만든 에이전트는 사실 기억상실 상태에 가깝습니다.

• 파일 하나 읽고
• 판단하고
• 끝

조금만 복잡해지면 바로 한계가 와요.

그래서 오늘은
AI Agent에게 ‘기억’을 붙이는 방법,
바로 RAG Agent 이야기를 시작합니다.

---

1️⃣ RAG는 뭔데 이렇게 자주 나오냐

RAG는 줄임말이에요.

RAG = Retrieval Augmented Generation
(검색 기반 생성)

말을 풀면 이겁니다.

“AI가 답변하기 전에
👉 관련 자료를 먼저 찾아보고
👉 그걸 근거로 판단한다”

중요한 건 이거예요.

❌ AI가 기억하는 척 하는 게 아님
✅ AI가 실제로 찾아보고 말함

---

2️⃣ RAG가 없을 때 생기는 문제 (너무 현실적)

에이전트가 문서 여러 개를 다뤄야 하는 순간,
이런 일 겪어봤을 거예요.

• 전에 봤던 문서 내용이랑 말이 바뀜
• 같은 질문인데 답이 매번 다름
• “그런 내용 없는데요?” 같은 소리 함

이유는 단순합니다.

👉 AI는 기본적으로 장기 기억이 없다

그래서 “내가 전에 준 문서 기억해?”
이 질문 자체가 사실 말이 안 되는 거예요.

---

3️⃣ RAG는 ‘기억’이 아니라 ‘검색 구조’다

이거 진짜 중요합니다.

RAG는 AI의 뇌를 키우는 게 아니에요.
책장을 만들어주는 것에 가깝습니다.

구조는 딱 이렇습니다.

[문서들]
   ↓ (쪼개기)
[벡터로 변환]
   ↓ (저장)
[벡터 DB]

질문 발생
   ↓
관련 문서 검색
   ↓
AI가 그 문서를 보고 답변

👉 항상 근거가 있다
👉 항상 다시 찾아본다

그래서 안정적이에요.

---

4️⃣ 에이전트 + RAG가 만나면 뭐가 달라질까?

이제 이전 글에서 만든 에이전트를 떠올려봅시다.

반응형

기존 에이전트

• notes.txt 하나
• 맥락 제한
• 한 번 판단

RAG Agent

• 폴더 전체 문서
• 필요한 부분만 검색
• 판단 → 재검색 → 판단 가능

즉,

에이전트가
**“기억을 꺼내 쓰는 존재”**가 됩니다.

---

5️⃣ 비전공자 관점에서 가장 쉬운 RAG 예시

이걸 너무 어렵게 생각하지 말고
회사에서 일하는 신입으로 생각해보세요.

• 질문 받음
• 바로 대답 ❌
• 먼저 사내 문서 검색 ✅
• 관련 부분 읽고 답변 ✅

이게 RAG Agent입니다.

---

6️⃣ RAG Agent의 핵심 구성 4가지

여기부터는 개념을 딱 잡아야 합니다.

① 문서 소스

• PDF
• TXT
• MD
• 노션 덤프
• 구글 문서

👉 사람이 실제로 보는 자료

---

② 문서 쪼개기 (Chunking)

• 문서를 작은 조각으로 나눔
• 너무 크면 검색 부정확
• 너무 작으면 맥락 붕괴

👉 보통 300~800자 단위

---

③ 벡터 저장소 (Vector DB)

• 문서 조각을 숫자로 변환
• 의미 기반 검색 가능

👉 “단어 일치”가 아니라
👉 “의미 유사도”로 찾음

---

④ 검색 + 생성

• 질문 → 관련 조각 검색
• 그 조각만 AI에게 전달
• AI는 본 것만 가지고 말함

---

7️⃣ 여기서 Agent가 왜 필요한가?

여기서 중요한 포인트 하나.

❗ RAG 단독 ≠ RAG Agent

RAG만 쓰면 보통 이런 구조입니다.

질문 → 검색 → 답변 → 끝

근데 에이전트가 붙으면 이렇게 됩니다.

질문
 → 검색
 → 답변 시도
 → 근거 부족 판단
 → 다시 검색
 → 다른 문서 참고
 → 답변 개선

👉 검색도 판단의 일부가 됩니다.

이게 진짜 강력해요.

---

8️⃣ 비전공자가 여기서 가장 많이 오해하는 것

❌ “RAG면 환각이 사라진다”

→ 아님
→ 줄어들 뿐

❌ “문서 많이 넣으면 똑똑해진다”

→ 아님
→ 오히려 노이즈 증가

✅ “좋은 문서 + 좋은 검색 기준”

→ 이게 전부

RAG의 품질은
AI 모델보다 문서 구조가 좌우합니다.

---

9️⃣ 그래서 다음 글에서는 뭘 하냐면

이제 이론은 충분해요.
다음 글에서는 진짜 이걸 합니다.

---

다음 글 예고

7편 – 폴더 하나로 RAG Agent 만들기 (실습)

• 로컬 폴더 문서 읽기
• 자동으로 쪼개기
• 벡터로 저장
• 에이전트가 검색해서 판단

👉 여기서부터는
“이거 서비스에 써도 되겠다”
라는 말이 나옵니다.

---

오늘 요약 (이 문장 하나면 충분)

RAG는 기억이 아니라
‘항상 다시 찾아보는 구조’다

AI Agent에게
무작정 기억을 기대하지 말고,
찾아보게 만들어야 합니다.

---

 

RAG Agent,Retrieval Augmented Generation,AI 에이전트 기억,비전공자 RAG,AI 문서 검색,Vector DB 개념,AI Agent 확장,LLM RAG 구조,AI 지식베이스,AI Agent 실무