Fix: Restore unified Topics folder and reorganize specialized category folders
This commit is contained in:
@@ -0,0 +1,50 @@
|
||||
---
|
||||
id: P-REINFORCE-WIKI-AI-OLLAMA-GUIDE
|
||||
title: "Ollama 로컬 LLM 설정 및 커스터마이징"
|
||||
category: Dev
|
||||
status: draft
|
||||
canonical_id: ""
|
||||
aliases: ["Ollama 사용법", "로컬 AI 모델 실행", "올라마 설정"]
|
||||
duplicate_of: ""
|
||||
source_trust_level: A
|
||||
confidence_score: 0.95
|
||||
tags: ["Ollama", "Local_LLM", "Modelfile", "Windows_AI", "Privacy"]
|
||||
raw_sources: ["Ryuri_IT_Tech_Room_Blog_Posts"]
|
||||
last_reinforced: 2026-05-02
|
||||
github_commit: ""
|
||||
---
|
||||
|
||||
# [[Ollama 로컬 LLM 설정 및 커스터마이징]]
|
||||
|
||||
## 1. 개요
|
||||
Ollama는 Llama, Gemma, Qwen 등 오픈소스 대형 언어 모델(LLM)을 로컬 환경에서 가장 간편하게 실행할 수 있게 해주는 도구이다. 데이터 외부 전송 없이 개인정보를 보호하며 무료로 AI를 구동할 수 있다.
|
||||
|
||||
## 2. 설치 및 기본 실행
|
||||
- **Windows 설치**: 공식 홈페이지에서 인스톨러 다운로드 후 GUI 환경에서 설치. (AMD 내장 그래픽 미지원 시 LM Studio 대안 권장)
|
||||
- **모델 다운로드**: GUI 내 'Select a model' 메뉴를 통해 원하는 모델 검색 및 자동 설치 가능.
|
||||
- **주요 설정**: `Settings` 메뉴에서 모델 저장 경로 및 컨텍스트 길이(Context Length) 조정 가능.
|
||||
|
||||
## 3. 고급 활용: Modelfile을 통한 모델 커스터마이징
|
||||
기본 설정을 넘어 특정 파라미터(온도 등)를 조정한 커스텀 모델 생성이 가능하다.
|
||||
1. **Modelfile 작성**:
|
||||
```text
|
||||
FROM [설치한 모델 명칭]
|
||||
PARAMETER temperature [값]
|
||||
SYSTEM [시스템 프롬프트]
|
||||
```
|
||||
2. **확장자 제거**: 파일명을 `Modelfile`로 변경 (확장자 없음).
|
||||
3. **모델 생성 명령어**: `ollama create [커스텀모델명] -f "Modelfile 경로"`
|
||||
|
||||
## 4. 확장성
|
||||
- **서드파티 연동**: 보다 풍부한 UI를 위해 `Open WebUI` 등 외부 프로그램과 연결하여 사용 권장.
|
||||
- **Web Search**: API 설정을 통해 로컬 모델이 최신 정보를 검색하도록 확장 가능.
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
- **정보 상태:** 초기 통합
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** 로컬 AI 에이전트의 기반이 되는 Ollama의 실전 구축 및 튜닝 가이드.
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
- **기존 유사 문서:** None
|
||||
- **처리 방식:** CREATE
|
||||
- **처리 이유:** 로컬 LLM 구동 도구의 상세 운영 지식 확보
|
||||
Reference in New Issue
Block a user