TwentyTwentyOne

LLM을 판사로 활용한 RAG 평가 및 합성 데이터셋 생성대규모 언어 모델(LLM)의 성능을 향상시키기 위해 검색 증강 생성(RAG) 시스템이 주목받고 있습니다. 그러나 RAG 시스템의 효과적인 평가를 위해서는 맞춤형 평가 데이터셋과 평가 방법론이 필요합니다. 이 글에서는 LLM을 판사로 활용하여 RAG 시스템을 평가하고, 합성 데이터셋을 생성하는 방법을 소개합니다.RAG 시스템이란?검색 증강 생성(Retrieval-Augmented Generation, RAG) 시스템은 LLM이 외부 데이터 소스로부터 정보를 검색하여 응답을 생성하는 방식입니다. 이를 통해 모델은 최신 정보나 특정 도메인 지식을 활용하여 보다 정확하고 관련성 높은 응답을 제공할 수 있습니다. LLM을 판사로 활용한 평가 방법전통적인 L..

FastAPI 기반 로컬 LLM + RAG 챗봇 만들기 – 주요 기술 스택 소개1.2 주요 기술 스택 소개이 프로젝트에서는 FastAPI, Ollama, LangChain, PostgreSQL + pgvector, React를 활용하여 보안성과 성능이 뛰어난 로컬 LLM + RAG 챗봇을 개발합니다. 각 기술 스택의 개념과 장점을 상세히 살펴보겠습니다.1.2.1 FastAPI 개요 및 장점🔹 FastAPI란?FastAPI는 Python 기반의 비동기(Asynchronous) 웹 프레임워크로, 빠른 API 개발과 자동 문서화 기능을 제공하는 최신 프레임워크입니다. RESTful API 개발에 최적화되어 있으며, 동기(Synchronous) 방식과 비동기(Asynchronous) 방식을 모두 지원합니다.기..