[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-FITU-001
|
||||
id: [[P-Reinforce]]-AUTO-FITU-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, fine-tuning, llm, transfer-learning, domain-adaptation, lora]
|
||||
@@ -16,7 +16,7 @@ last_reinforced: 2026-04-20
|
||||
|
||||
1. **방식**:
|
||||
* **Full Fine-tuning**: 전체 파라미터를 업데이트 (비용 높음).
|
||||
* **PEFT (Parameter-Efficient Fine-Tuning)**: LoRA(Low-Rank Adaptation) 등 일부 핵심 파라미터만 학습하여 적은 자원으로 고성능 달성.
|
||||
* **PEFT ([[Parameter]]-Efficient Fine-Tuning)**: LoRA(Low-Rank Adaptation) 등 일부 핵심 파라미터만 학습하여 적은 자원으로 고성능 달성.
|
||||
* **Instruction Tuning**: "요약해줘", "번역해줘" 등의 지시어(Instruction)를 따르도록 학습.
|
||||
2. **왜 중요한가?**:
|
||||
* 범용 모델의 한계(일반적 답변)를 넘어, 의료, 법률, 기업 내부 매뉴얼 등에 특화된 '살아있는 지능'을 만드는 가장 강력한 방법임. (Transfer-Learning의 연장)
|
||||
@@ -26,6 +26,6 @@ last_reinforced: 2026-04-20
|
||||
- **정책 변화(RL Update)**: 단순히 데이터를 넣는 수준을 넘어, 모델의 가치관과 윤리를 정렬하는 RLHF/DPO 정책과 결합되어 '지능의 방향성 정책'을 설정하는 과정으로 고도화됨. (DPO와 연결)
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Transfer-Learning, [[DPO (Direct Preference Optimization)]], [[Optimization]], [[Efficiency]], [[Constitutional AI (헌법 AI)]]
|
||||
- Transfer-Learning, [[DPO (Direct P[[Reference]] [[Optimization]])]], [[Optimization]], [[Efficiency]], [[Constitutional AI (헌법 AI)]]
|
||||
- **Modern Tech/Tools**: LoRA, QLoRA, Hugging Face `peft` library, Unsloth.
|
||||
---
|
||||
|
||||
Reference in New Issue
Block a user