AI Extension Map

AI 빌더 개요

모든 사람이 영원히 초보는 아닙니다. 첫 배포 이후에는 “AI를 붙였다”가 아니라 검색 근거, 평가 기준, 반복 절차, 모델 선택권까지 갖춘 기능으로 확장해야 합니다.

핵심 축

golden set, 채점 기준, 실패 리포트로 LLM 기능을 반복 검증합니다.

문서 수집, 청킹, 임베딩, 검색, 출처 답변 흐름을 만듭니다.

반복 업무를 재사용 가능한 절차와 도구 경계로 고정합니다.

Ollama와 vLLM을 OpenAI 호환 API 관점에서 비교합니다.

문서 QA고객지원 봇티켓 분류코드 리뷰 보조콘텐츠 QA사내 검색

임베딩청킹메타데이터 필터하이브리드 검색rerankingvector store지식 갱신

tool callingMCPhuman-in-the-loopmemorybackground jobs승인 단계sandbox

golden setprompt regressionsynthetic testsjudge modeltraceerror taxonomyrelease gate

OllamavLLMllama.cppGGUFquantizationGPU/VRAMmodel routingprompt cache

PII redactionaudit logaccess controldata retentionprompt injectionfallback modelcost guardrail

RAG와 출처 표시부터 시작합니다. 단, 검색 품질을 볼 하네스도 같이 둡니다.

Skill과 tool calling으로 입력/출력/검증을 고정합니다. MCP는 외부 시스템 연결이 많아질 때 봅니다.

Ollama로 로컬 실험을 시작하고, GPU 서버 운영이 필요해지면 vLLM 경로를 비교합니다.

마지막 업데이트: 2026년 6월 22일 · 버전: v0.0.1

입력한 내용으로 새 이슈 페이지를 엽니다.