2nd/10_Wiki/Topics_Art/One-Hot-Encoding.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
DATA-ONEHOT-001	10_Wiki/💡 Topics/AI	1.0	machine-learning data-preprocessing one-hot-encoding categorical-data feature-engineering	2026-04-26

One-Hot Encoding (원-핫 인코딩)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터에 존재하지 않는 인위적인 서열(순서)을 배제하고, 각 범주에 오직 단 하나의 빛나는 '1'을 부여하여 평등한 구분을 완성하라" — 범주형 데이터를 컴퓨터가 연산 가능한 이진 벡터(0과 1) 형식으로 변환하여, 데이터 간의 의도치 않은 우선순위 왜곡을 방지하는 전처리 기술.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Binary Categorical Representation" — '빨강=1, 파랑=2, 초록=3' 식으로 숫자를 매길 때 발생하는 '초록이 빨강보다 크다'는 수학적 오류를 막기 위해, 각 범주를 독립적인 차원으로 분리하고 해당되는 칸에만 1을 채우는 평등 변환 패턴.
• 주요 특징:
  • Equidistance: 모든 범주 사이의 거리가 동일하게 유지되어 모델의 편향 방지.
  • Dimensionality Increase: 범주의 수만큼 차원이 늘어나므로, 데이터가 희소(Sparse)해지는 '차원의 저주' 위험 존재.
• 의의: 선형 회귀, 로지스틱 회귀 등 거리 기반 모델에서 범주형 데이터를 안전하게 처리하기 위한 가장 표준적이고 기초적인 데이터 변환 기법.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 모든 범주형 데이터를 원-핫 인코딩으로 처리하던 방식에서, 이제는 범주가 수만 개 이상인 경우(단어 등) 차원 폭발을 막기 위해 저차원의 밀집 벡터로 압축하는 '임베딩(Embedding)' 기술로 대체되는 경향이 강함.
• 정책 변화: Antigravity 프로젝트는 에이전트의 액션 타입(Search, Code, Ask 등) 분류 시, 명확한 상호 배타성을 보장하기 위해 원-핫 인코딩을 기본 벡터 표현식으로 사용함.

🔗 지식 연결 (Graph)

• Pre-processing-Data-for-AI, Dimensionality-Reduction, Word-Embeddings-Foundations, Feature-Engineering-Best-Practices
• Raw Source: 10_Wiki/Topics/AI/One-Hot-Encoding.md