Antigravity Agent
42 lines
1.6 KiB
Markdown
42 lines
1.6 KiB
Markdown
---
|
|
id: P-REINFORCE-WIKI-AI-INFRA-MINIPC
|
|
title: "미니 PC 기반 로컬 LLM 인프라 구축"
|
|
category: Dev
|
|
status: draft
|
|
canonical_id: ""
|
|
aliases: ["로컬 AI 서버", "미니 PC LLM"]
|
|
duplicate_of: ""
|
|
source_trust_level: A
|
|
confidence_score: 0.90
|
|
tags: ["Local_LLM", "Gemma4", "Mini_PC", "Infrastructure", "LM_Studio"]
|
|
raw_sources: ["Ryuri_IT_Tech_Room_Blog_Posts"]
|
|
last_reinforced: 2026-05-02
|
|
github_commit: ""
|
|
---
|
|
|
|
# [[미니 PC 기반 로컬 LLM 인프라 구축]]
|
|
|
|
## 1. 하드웨어 요구 사항 (Gemma4 E4B 기준)
|
|
- **기기**: 미니 PC (예: Ryzen 5 6600U 이상)
|
|
- **메모리**: 최소 16GB RAM (VRAM 할당 4GB 이상 권장)
|
|
- **양자화 선택**: 성능 하락 대비 구동 안정성을 고려하여 `Q4_K_M` 모델 추천.
|
|
|
|
## 2. 소프트웨어 스택 및 설정
|
|
- **구동 엔진**: LM Studio (CORS 활성화 필수)
|
|
- **에이전트 연동**: OpenClaw 등 외부 에이전트와 로컬 서버(Developer 모드) 연동.
|
|
- **세부 설정**: Context 길이를 충분히(예: 64K) 확보하되, 속도 저하를 감안하여 CPU Thread Pool 조정.
|
|
|
|
## 3. 실전 구동 데이터
|
|
- **성능**: 초당 약 11토큰 (Thinking On 시 응답까지 2-4분 소요).
|
|
- **활용도**: 실시간 대화보다는 백그라운드 지식 분석 및 간단한 질문 답변 용도로 적합.
|
|
|
|
## 🧪 검증 상태 (Validation)
|
|
- **정보 상태:** 초기 통합
|
|
- **출처 신뢰도:** A
|
|
- **검토 이유:** 로컬 AI 환경 구축의 실무적 사례 데이터 확보.
|
|
|
|
## 🧬 중복 검사 (Duplicate Check)
|
|
- **기존 유사 문서:** None
|
|
- **처리 방식:** CREATE
|
|
- **처리 이유:** 온디바이스 AI 인프라 지식 체계화
|