
한국어 RAG 파이프라인 청크 사이즈 512 vs 1024 검색 정확도 비교
RAG 파이프라인 만들다가 한 번쯤 멈추는 순간이 있어요. 임베딩 모델도 골랐고, 벡터 DB도 붙였는데… “청크 사이즈 얼마로 하지?” 이 질문 …
커뮤니티 인사이트로 읽는 테크 분석

100만 개 한국어 문서를 벡터로 올리기 전에, 팀장이 물어봐요. “서버 얼마짜리 쓸 거야?” “그냥 넉넉하게요"라고 답했다가는, 월 수백만 원짜리 인프라를 돌리게 될 수 있어요. 반대로 너무 빡빡하게 잡으면 프로덕션 올리고 나서 OOM으로 서버가 죽죠. 실제로 계산해봤어요. 모델 차원 수별 메모리 실측치, 서버 스 …

RAG 파이프라인 만들다가 한 번쯤 멈추는 순간이 있어요. 임베딩 모델도 골랐고, 벡터 DB도 붙였는데… “청크 사이즈 얼마로 하지?” 이 질문 …

로컬 LLM을 써보려는 사람들이 가장 먼저 묻는 게 있어요. “내 맥북으로 돼요?” 그다음 질문은 항상 이거죠. “한국어는요?” 맥북 …



