LLM 운영 지표 설계 - 모델을 바꾸기 전에 봐야 할 것들
AI 제품이 데모에서 끝나지 않으려면 모델 성능 비교보다 운영 지표 설계가 먼저입니다. 어떤 지표를 기준선으로 삼을지, 실패 케이스를 어떻게 분류할지, 품질 저하를 언제 감지할지 실무 기준으로 정리합니다.
LLM 평가 데이터셋 설계 플레이북 - 정답셋보다 중요한 운영 기준선 만들기
LLM 서비스 품질을 안정적으로 관리하려면 평가 데이터셋을 어떻게 구성해야 하는지, 단순 Q&A 정답셋을 넘어서 실제 실패 패턴과 운영 기준선을 어떻게 정의해야 하는지 정리합니다.
AI Agent 서비스 설계 패턴 - 도구 호출, 상태관리, 안전장치까지
AI Agent를 실제 서비스로 만들 때 필요한 설계 기준을 정리합니다. Tool Calling, Planner/Executor 분리, 세션 상태관리, Human-in-the-loop, 장애 대응과 비용 통제까지 제품 개발 관점으로 설명합니다.
RAG 아키텍처 설계 가이드 - 검색 품질부터 답변 생성까지
RAG 시스템을 만들 때 많이 놓치는 설계 포인트를 정리합니다. 문서 수집, 청킹, 임베딩, 벡터 검색, 리랭킹, 프롬프트 구성, 평가 방법까지 실제 서비스 개발 관점에서 설명합니다.
RAG 개발 1편 - 문서 수집과 데이터 정제 파이프라인 설계
RAG 품질의 출발점은 모델이 아니라 데이터입니다. 어떤 문서를 수집해야 하는지, HTML/PDF/위키 데이터를 어떻게 정제하고 메타데이터를 붙여야 하는지, 실무용 수집 파이프라인 관점에서 설명합니다.
RAG 개발 2편 - Chunking과 Embedding 전략, 검색 품질의 기초
RAG에서 청킹과 임베딩은 검색 품질의 핵심입니다. chunk 크기, overlap, 제목 보존, 코드 블록 처리, 임베딩 모델 선택과 인덱싱 전략까지 실무 기준으로 깊게 설명합니다.
RAG 개발 3편 - Retrieval, Hybrid Search, Reranking으로 검색 품질 높이기
RAG에서 검색 품질은 답변 품질을 거의 결정합니다. dense retrieval, BM25, hybrid search, query rewrite, metadata filtering, reranking을 어떻게 조합해야 하는지 단계별로 설명합니다.
RAG 개발 4편 - 답변 생성, 프롬프트 설계, 출처 표시를 어떻게 만들까
검색이 끝났다고 RAG가 끝난 것은 아닙니다. 어떤 문서를 어떤 형식으로 LLM에 넣을지, 출처를 어떻게 표시할지, 모를 때는 어떻게 답하게 할지, 답변 생성 단계의 핵심 설계 포인트를 설명합니다.
RAG 개발 5편 - 평가, 관측성, 운영 안정화까지 프로덕션 관점으로 보기
RAG를 운영 단계로 올리려면 답변 품질을 어떻게 평가하고 어떤 로그를 남기며 어디서 병목이 나는지 봐야 합니다. retrieval 평가, groundedness, latency, feedback loop, 운영 체크리스트까지 정리합니다.
FastAPI로 AI 추론 서버 구축하기 — LLM API 서빙 실전 가이드
FastAPI + uvicorn으로 AI 모델 추론 서버를 구축하고 비동기 처리, 배치 추론, GPU 활용까지 프로덕션 수준으로 올리는 방법.
AI Agent 아키텍처 설계 — ReAct부터 Multi-Agent까지
프로덕션 AI Agent 시스템 설계 방법. ReAct 패턴, Tool Use, Memory 관리, Multi-Agent 오케스트레이션, 안전성 설계까지 실전 가이드.
LLM 서비스 운영 방법 — 프로덕션 AI 서비스 안정화 가이드
LLM 기반 서비스를 프로덕션에서 안정적으로 운영하는 방법. 비용 관리, 레이턴시 최적화, 장애 대응, 모니터링까지 실전 경험 정리.