2.3 KiB
2.3 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||
|---|---|---|---|---|---|---|---|---|---|
| DATA-ONEHOT-001 | 10_Wiki/💡 Topics/AI | 1.0 |
|
2026-04-26 |
One-Hot Encoding (원-핫 인코딩)
📌 한 줄 통찰 (The Karpathy Summary)
"데이터에 존재하지 않는 인위적인 서열(순서)을 배제하고, 각 범주에 오직 단 하나의 빛나는 '1'을 부여하여 평등한 구분을 완성하라" — 범주형 데이터를 컴퓨터가 연산 가능한 이진 벡터(0과 1) 형식으로 변환하여, 데이터 간의 의도치 않은 우선순위 왜곡을 방지하는 전처리 기술.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Binary Categorical Representation" — '빨강=1, 파랑=2, 초록=3' 식으로 숫자를 매길 때 발생하는 '초록이 빨강보다 크다'는 수학적 오류를 막기 위해, 각 범주를 독립적인 차원으로 분리하고 해당되는 칸에만 1을 채우는 평등 변환 패턴.
- 주요 특징:
- Equidistance: 모든 범주 사이의 거리가 동일하게 유지되어 모델의 편향 방지.
- Dimensionality Increase: 범주의 수만큼 차원이 늘어나므로, 데이터가 희소(Sparse)해지는 '차원의 저주' 위험 존재.
- 의의: 선형 회귀, 로지스틱 회귀 등 거리 기반 모델에서 범주형 데이터를 안전하게 처리하기 위한 가장 표준적이고 기초적인 데이터 변환 기법.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 모든 범주형 데이터를 원-핫 인코딩으로 처리하던 방식에서, 이제는 범주가 수만 개 이상인 경우(단어 등) 차원 폭발을 막기 위해 저차원의 밀집 벡터로 압축하는 '임베딩(Embedding)' 기술로 대체되는 경향이 강함.
- 정책 변화: Antigravity 프로젝트는 에이전트의 액션 타입(Search, Code, Ask 등) 분류 시, 명확한 상호 배타성을 보장하기 위해 원-핫 인코딩을 기본 벡터 표현식으로 사용함.