Antigravity Agent
2.5 KiB
2.5 KiB
id: P-Reinforce-AUTO-NORM-001 category: "10_Wiki/💡 Topics/AI" confidence_score: 0.96 tags: [auto-reinforced, normalization, data-Processing, database, machine-learning, Statistics] last_reinforced: 2026-04-20
Normalization
📌 한 줄 통찰 (The Karpathy Summary)
"데이터의 체급 맞추기: 서로 다른 척도를 가진 데이터들을 동일한 범위(예: 0~1)로 정렬하여 수치가 큰 하나가 전체 결과를 좌우하는 왜곡을 막고, 학습이나 연산이 가장 안정적이고 빠르게 일어날 수 있는 최적의 평원을 만드는 일."
📖 구조화된 지식 (Synthesized Content)
정규화(Normalization)는 데이터를 일정한 규칙에 따라 변형하는 과정입니다.
- 데이터베이스 정규화: 중복을 제거하고 데이터 무결성을 보장하기 위해 테이블을 쪼개는 과정. (Efficiency와 연결)
- 머신러닝 정규화 (Min-Max Scaling): 특성(Feature)들의 범위를 맞춤.
- Layer Normalization / Batch Normalization: 인공 신경망 내부에서 층을 통과할 때마다 요동치는 값들을 진정시켜 학습 속도를 비약적으로 높임. (Deep Learning (DL)와 연결)
- 왜 중요한가?:
- 정규화가 안 된 상태의 데이터는 모델에게 특정 변수(예: 가격 10억)가 다른 변수(예: 평점 5점)보다 무조건 중요하다고 오해하게 하여 판단력을 흐리기 때문임.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 연산 효율 정책 때문에 정규화를 생략하기도 했으나, 현대 정책은 신경망이 깊어짐에 따라 '배치 정규화(Batch Norm) 정책' 없이는 학습 자체가 불가능할 정도로 필수 정책이 됨(RL Update).
- 정책 변화(RL Update): 단순히 0~1 사이로 맞추는 정책을 넘어, 평균 0, 표준편차 1로 만드는 '표준화(Standardization)' 정책과 구분하여 사용하며, 모델의 아키텍처 정책에 따라 적절한 기법을 선택하는 것이 엔지니어의 핵심 역량 정책이 됨.
🔗 지식 연결 (Graph)
- Deep Learning (DL), Efficiency, Optimization, Machine Learning (ML), Linear-Algebra
- Modern Tech/Tools: Batch Normalization, Layer Norm (Transformer), RMSProp, SQL Normal forms (1NF-3NF).