콘텐츠로 건너뛰기

로컬LLM

로컬 LLM과 클라우드 AI 하이브리드 비서 - 컴퓨터와 구름 일러스트

로컬 LLM과 클라우드 AI를 결합한 하이브리드 개인 비서 개발기

  • 기준

핵심 요약 민감한 정보는 로컬 LLM으로, 일반 정보는 클라우드 AI로 보내는 하이브리드 비서를 설계했습니다. 분류기와 라우팅 엔진이 요청마다 처리 경로를 결정합니다. 기술 스택을 정한 배경과 개발 중 겪은 트러블슈팅을 함께 담았습니다. 목차 서론: 로컬 LLM과…