Hermes Agent 설치 메뉴얼 (qwen3.5:cloud)

이 메뉴얼은 통합본의 원본입니다

📺 영상 정보

제목: Hermes Agent Full Setup Tutorial: How to Setup Your First AI Agent (Gemma 4)
채널: Lushbinary

🔑 핵심 내용 요약

1. Hermes Agent + 로컬 AI 모델의 장점

API 비용 제로: Gemma 4, Qwen 3.5 같은 오픈소스 모델을 로컬에서 실행하면 토큰당 비용 없음
완전한 프라이버시: 데이터가 외부로 나가지 않음
속도 제한 없음: 클라우드 API의 429 에러 없이 무제한 사용 가능

2. 추천 모델 조합

Gemma 4 26B MoE: 일반적인 에이전트 작업에 최적 (약 20GB VRAM, 빠른 추론)
Qwen 3.5 27B: 코딩 및 긴 컨텍스트 작업에 강점 (약 20GB VRAM, 262K 토큰 컨텍스트)
둘 다 Apache 2.0 라이선스로 상업적 사용 가능

3. 설치 핵심 단계

# 1. Ollama 설치 및 모델 다운로드
brew install ollama
ollama pull gemma4:26b
ollama pull qwen3.5:27b

# 2. Hermes Agent 설치
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

# 3. Ollama를 프로바이더로 설정
hermes model
# Custom endpoint: http://127.0.0.1:11434/v1

4. 멀티 모델 라우팅

일반 작업용: hermes profile create general --model gemma4:26b
코딩 작업용: hermes profile create coder --model qwen3.5:27b
프로필별로 모델 전환 가능

5. 자기계발 루프

작업 완료 후 스킬을 Markdown 파일로 자동 생성 (~/.hermes/skills/)
유사 작업 시 해당 스킬을 컨텍스트에 로드
15 작업마다 자기 평가 및 스킬 개선

🛠️ 실행 가능한 명령어 정리

# 기본 설치
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4:26b
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash
source ~/.bashrc

# 설정 확인
hermes doctor
hermes status

# 모델 전환
hermes model
# 또는 채팅 내에서 /model

# 게이트웨이 설정 (텔레그램 등 연결)
hermes gateway setup
hermes gateway start

# 스킬 관리
hermes skills search kubernetes
hermes skills install <skill-name>

# 프로필 생성
hermes profile create <name> --model <model-name>

💡 하드웨어 요구사항

최소: 16GB 통일 메모리 (M 시리즈 Mac) 또는 24GB VRAM (RTX 4090)
권장: 24GB+ 통일 메모리 또는 VRAM
컨텍스트: 최소 64K 토큰 필요 (--ctx-size 65536)

⚠️ 주의: 이 메뉴얼은 참고용이며, 실제 설치는 아직 진행하지 않았습니다.

💡 2026-04-20 업데이트: MiniCITY 환경에서 Ollama는 맥미니에서 구동됨. WSL2에서 사용 시 model.base_url을 http://100.96.177.124:11434/v1로 설정.

[!note] 수정이력 | 2026-04-20 11:01, 미미