로컬 LLM과 클라우드 AI를 결합한 하이브리드 개인 비서 개발기
핵심 요약 민감한 정보는 로컬 LLM으로, 일반 정보는 클라우드 AI로 보내는 하이브리드 비서를 설계했습니다. 분류기와 라우팅 엔진이 요청마다 처리 경로를 결정합니다. 기술 스택을 정한 배경과 개발 중 겪은 트러블슈팅을 함께 담았습니다. 목차 서론: 로컬 LLM과…
핵심 요약 민감한 정보는 로컬 LLM으로, 일반 정보는 클라우드 AI로 보내는 하이브리드 비서를 설계했습니다. 분류기와 라우팅 엔진이 요청마다 처리 경로를 결정합니다. 기술 스택을 정한 배경과 개발 중 겪은 트러블슈팅을 함께 담았습니다. 목차 서론: 로컬 LLM과…