#LLM
총 3편
업무용 AI 비 서의 탄생 (1편) 도구 네 개를 MCP로 연결하기
이슈 트래커, 사내 위키, 모니터링, 운영 DB를 MCP로 한 AI 비서에 연결해 자료 수집을 맡긴 과정과 남은 한계를 적었습니다.
LLM 답변이 중간에 잘릴 때 확인할 max_tokens
프롬프트로 "N자 이내"를 요청해도 답변이 길거나 문장 중간에서 끊기던 원인을 토큰과 max_tokens 기준으로 찾아간 기록입니다.
LLM 비용 절감을 위한 질문 난이도별 모델 라우팅
모든 응답에 최상위 모델을 쓰던 AI 집사를 질문 난이도로 나눠 모델 티어에 배정한 과정과, 감정 대화에서 품질이 깨졌던 경험을 적었습니다.