2nd/10_Wiki/Topics_GD/Naive-Bayes-Classifiers.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
ML-NB-001	10_Wiki/💡 Topics/AI	1.0	machine-learning naive-bayes classification bayesian probability nlp	2026-04-26

Naive Bayes Classifiers (나이브 베이즈 분류기)

📌 한 줄 통찰 (The Karpathy Summary)

"특징들 사이의 복잡한 관계를 '독립'이라는 단순함으로 치환하고, 베이즈 확률의 힘을 빌려 정답의 가능성을 계산하라" — 모든 특징(Feature)이 서로 독립적이라는 강한 가정 하에 베이즈 정리를 적용하여 데이터를 분류하는 확률론적 알고리즘.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Probabilistic Generative Modeling" — 정답(Class)이 주어졌을 때 각 특징이 나타날 확률(Likelihood)을 곱하여 최종적인 사후 확률(Posterior)을 구하고, 가장 높은 확률을 가진 클래스를 정답으로 선택하는 패턴.
• 주요 변종:
  • Gaussian NB: 특징이 연속적이고 정규 분포를 따를 때 사용.
  • Multinomial NB: 특징이 단어 빈도와 같은 이산적인 카운트 데이터일 때 사용.
  • Bernoulli NB: 특징이 이진(0 또는 1) 값으로 표현될 때 사용.
• 의의: 학습 속도가 매우 빠르고 적은 데이터로도 준수한 성능을 내어, 딥러닝 이전의 텍스트 분류와 실시간 필터링 시스템의 중추 역할을 수행함.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 독립성 가정이 현실과 맞지 않아 성능이 낮을 것이라는 우려와 달리, 실제로는 특징 간의 상관관계가 존재하더라도 최종 분류 결정에는 큰 영향을 주지 않는 경우가 많아(나이브 베이즈의 역설) 여전히 강력한 베이스라인으로 생존함.
• 정책 변화: Antigravity 프로젝트는 에이전트의 입력 쿼리를 '정보 검색', '코드 생성', '시스템 제어' 등 대분류로 빠르게 라우팅할 때, 최저 비용으로 최대 효율을 내는 가우시안 및 다항 나이브 베이즈 분류기를 병행 운용함.

🔗 지식 연결 (Graph)

• Multinomial-Naive-Bayes, Probability-Theory, Supervised-Learning-Foundations, NLP-Foundations
• Raw Source: 10_Wiki/Topics/AI/Naive-Bayes-Classifiers.md