2nd/10_Wiki/Topics_Dev/Local_LLM_Infrastructure_MiniPC.md

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit

id	title	category	status	canonical_id	aliases	duplicate_of	source_trust_level	confidence_score	tags	raw_sources	last_reinforced	github_commit
P-REINFORCE-WIKI-AI-INFRA-MINIPC	미니 PC 기반 로컬 LLM 인프라 구축	Dev	draft		로컬 AI 서버 미니 PC LLM		A	0.90	Local_LLM Gemma4 Mini_PC Infrastructure LM_Studio	Ryuri_IT_Tech_Room_Blog_Posts	2026-05-02

미니 PC 기반 로컬 LLM 인프라 구축

1. 하드웨어 요구 사항 (Gemma4 E4B 기준)

• 기기: 미니 PC (예: Ryzen 5 6600U 이상)
• 메모리: 최소 16GB RAM (VRAM 할당 4GB 이상 권장)
• 양자화 선택: 성능 하락 대비 구동 안정성을 고려하여 Q4_K_M 모델 추천.

2. 소프트웨어 스택 및 설정

• 구동 엔진: LM Studio (CORS 활성화 필수)
• 에이전트 연동: OpenClaw 등 외부 에이전트와 로컬 서버(Developer 모드) 연동.
• 세부 설정: Context 길이를 충분히(예: 64K) 확보하되, 속도 저하를 감안하여 CPU Thread Pool 조정.

3. 실전 구동 데이터

• 성능: 초당 약 11토큰 (Thinking On 시 응답까지 2-4분 소요).
• 활용도: 실시간 대화보다는 백그라운드 지식 분석 및 간단한 질문 답변 용도로 적합.

🧪 검증 상태 (Validation)

• 정보 상태: 초기 통합
• 출처 신뢰도: A
• 검토 이유: 로컬 AI 환경 구축의 실무적 사례 데이터 확보.

🧬 중복 검사 (Duplicate Check)

• 기존 유사 문서: None
• 처리 방식: CREATE
• 처리 이유: 온디바이스 AI 인프라 지식 체계화