1.6 KiB
1.6 KiB
id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit
| id | title | category | status | canonical_id | aliases | duplicate_of | source_trust_level | confidence_score | tags | raw_sources | last_reinforced | github_commit | ||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-WIKI-AI-INFRA-MINIPC | 미니 PC 기반 로컬 LLM 인프라 구축 | Unified | draft |
|
A | 0.90 |
|
|
2026-05-02 |
미니 PC 기반 로컬 LLM 인프라 구축
1. 하드웨어 요구 사항 (Gemma4 E4B 기준)
- 기기: 미니 PC (예: Ryzen 5 6600U 이상)
- 메모리: 최소 16GB RAM (VRAM 할당 4GB 이상 권장)
- 양자화 선택: 성능 하락 대비 구동 안정성을 고려하여
Q4_K_M모델 추천.
2. 소프트웨어 스택 및 설정
- 구동 엔진: LM Studio (CORS 활성화 필수)
- 에이전트 연동: OpenClaw 등 외부 에이전트와 로컬 서버(Developer 모드) 연동.
- 세부 설정: Context 길이를 충분히(예: 64K) 확보하되, 속도 저하를 감안하여 CPU Thread Pool 조정.
3. 실전 구동 데이터
- 성능: 초당 약 11토큰 (Thinking On 시 응답까지 2-4분 소요).
- 활용도: 실시간 대화보다는 백그라운드 지식 분석 및 간단한 질문 답변 용도로 적합.
🧪 검증 상태 (Validation)
- 정보 상태: 초기 통합
- 출처 신뢰도: A
- 검토 이유: 로컬 AI 환경 구축의 실무적 사례 데이터 확보.
🧬 중복 검사 (Duplicate Check)
- 기존 유사 문서: None
- 처리 방식: CREATE
- 처리 이유: 온디바이스 AI 인프라 지식 체계화