Files
2nd/10_Wiki/Topics/AI_and_ML/One-Hot-Encoding.md
T

28 lines
2.4 KiB
Markdown

---
id: DATA-ONEHOT-001
category: Unified
confidence_score: 1.0
tags: [machine-learning, data-pre[[Processing|Processing]], one-hot-encoding, categorical-data, [[Feature-Engineering|Feature-Engineering]]]
last_reinforced: 2026-04-26
---
# One-Hot Encoding (원-핫 인코딩)
## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터에 존재하지 않는 인위적인 서열(순서)을 배제하고, 각 범주에 오직 단 하나의 빛나는 '1'을 부여하여 평등한 구분을 완성하라" — 범주형 데이터를 컴퓨터가 연산 가능한 이진 벡터(0과 1) 형식으로 변환하여, 데이터 간의 의도치 않은 우선순위 왜곡을 방지하는 전처리 기술.
## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Binary Categorical Representation" — '빨강=1, 파랑=2, 초록=3' 식으로 숫자를 매길 때 발생하는 '초록이 빨강보다 크다'는 수학적 오류를 막기 위해, 각 범주를 독립적인 차원으로 분리하고 해당되는 칸에만 1을 채우는 평등 변환 패턴.
- **주요 특징:**
- **Equidistance:** 모든 범주 사이의 거리가 동일하게 유지되어 모델의 편향 방지.
- **Dimensionality Increase:** 범주의 수만큼 차원이 늘어나므로, 데이터가 희소(Sparse)해지는 '차원의 저주' 위험 존재.
- **의의:** 선형 회귀, 로지스틱 회귀 등 거리 기반 모델에서 범주형 데이터를 안전하게 처리하기 위한 가장 표준적이고 기초적인 데이터 변환 기법.
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 모든 범주형 데이터를 원-핫 인코딩으로 처리하던 방식에서, 이제는 범주가 수만 개 이상인 경우(단어 등) 차원 폭발을 막기 위해 저차원의 밀집 벡터로 압축하는 '임베딩(Embedding)' 기술로 대체되는 경향이 강함.
- **정책 변화:** Antigravity 프로젝트는 에이전트의 액션 타입([[Search|Search]], Code, Ask 등) 분류 시, 명확한 상호 배타성을 보장하기 위해 원-핫 인코딩을 기본 벡터 표현식으로 사용함.
## 🔗 지식 연결 (Graph)
- [[Pre-processing-Data-for-AI|Pre-processing-Data-for-AI]], [[Dimensionality-Reduction|Dimensionality-Reduction]], Word-Embeddings-Foundations, Feature-Engineering-Best-Practices
- **Raw Source:** 10_Wiki/Topics/AI/One-Hot-Encoding.md