루키(Hermes) 로컬 모델 3개 설정 완료
루키(Hermes) 로컬 모델 3개 설정 완료
섹션 제목: “루키(Hermes) 로컬 모델 3개 설정 완료”📋 설정 내용
섹션 제목: “📋 설정 내용”기본 (Cloud)
섹션 제목: “기본 (Cloud)”| 항목 | 값 |
|---|---|
| 모델 | kimi-k2.6:cloud |
| 프로바이더 | ollama-cloud |
| 계정 | 구글 Max |
로컬 모델 3개 (20B 전후)
섹션 제목: “로컬 모델 3개 (20B 전후)”| # | 모델 | 크기 | VRAM | 특성 |
|---|---|---|---|---|
| 1 | gemma4:31b | 19GB | 20GB+ | Google 멀티모달 |
| 2 | qwen3.6:27b | 17GB | 18GB+ | 코딩/분석 |
| 3 | qwen3.6:35b-a3b-coding-nvfp4 | 21GB | 22GB+ | 코딩 특화 |
Fallback
섹션 제목: “Fallback”| 순서 | 모델 | 타입 |
|---|---|---|
| 1 | qwen3.6:27b | 로컬 |
| 2 | gemma4:31b | 로컬 |
🔧 변경 파일
섹션 제목: “🔧 변경 파일”| 파일 | 변경 내용 |
|---|---|
~/.hermes/config.yaml | model → ollama-cloud, custom_providers 3개 추가 |
~/.hermes/auth.json | ollama-cloud + custom:local 추가 |
✅ 테스트 방법
섹션 제목: “✅ 테스트 방법”Telegram에서 루키에게:
/new→ ◆ Model: kimi-k2.6:cloud 정상 응답 확인
/model→ Local (localhost:11434) + 3개 모델 표시 확인
미미아빠, 지금 루키 /new 테스트해봐!