본문 바로가기

llm2

[ Azure OpenAI #12 ] RAG 동작 원리 완전 정리: Chunking, Embedding, Vector Store, Retrieval, Generation 지난 글에서는 RAG가 왜 필요한지 살펴봤습니다.핵심은 간단했습니다.LLM은 말을 잘 생성하지만, 최신 정보나 회사 내부 문서를 자동으로 알고 있는 것은 아닙니다.그래서 답변하기 전에 관련 자료를 먼저 찾아보고, 그 자료를 근거로 답하게 만드는 구조가 필요합니다. 이번 글에서는 그 구조가 실제로 어떻게 동작하는지 살펴보겠습니다.문서를 어떻게 준비하고,왜 잘게 나누고,임베딩은 어디에 쓰이며,Vector Store는 무엇을 저장하고,사용자의 질문이 들어왔을 때 어떤 방식으로 답변이 만들어지는지 순서대로 정리하겠습니다.이번 글의 핵심 질문RAG는 단순히 “문서를 검색해서 GPT에게 넣는 것”이 아닙니다. 긴 문서를 검색하기 좋은 형태로 나누고, 의미 기반으로 찾을 수 있게 변환한 뒤, 질문과 관련 있는 조각만.. 2026. 6. 18.
[ Azure OpenAI #11 ] RAG란 무엇인가? LLM의 한계와 검색 증강 생성의 필요성 ChatGPT 같은 LLM을 처음 써보면 꽤 놀랍습니다. 질문을 자연어로 던지면 사람처럼 답하고, 글도 요약하고, 코드도 작성하고, 복잡한 개념도 설명해 줍니다.그런데 실무에서 LLM을 바로 서비스에 붙이려고 하면 금방 한계가 보입니다.예를 들어 회사 직원이 챗봇에게 “올해 우리 회사 재택근무 규정 알려줘”라고 물었다고 해보겠습니다.LLM은 일반적인 재택근무 제도는 설명할 수 있습니다.하지만 우리 회사의 최신 내부 규정 문서를 직접 본 적이 없다면, 정확한 답을 보장하기 어렵습니다.이때 필요한 방식이 바로 RAG입니다. RAG는 LLM이 자기 머릿속 기억만으로 답하게 두는 것이 아니라, 답변하기 전에 관련 문서나 데이터를 먼저 찾아보고 그 근거를 바탕으로 답하게 만드는 구조입니다. 이번 글에서는 실제 R.. 2026. 6. 18.