Files
2nd/10_Wiki/Topics/Logistic-Regression-Foundations.md
T
2026-04-30 22:42:02 +09:00

2.3 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
ML-LOG-REG-001 10_Wiki/💡 Topics/AI 1.0
machine-learning
Logistic-Regression
classification
Supervised-Learning
sigmoid
2026-04-26

Logistic Regression Foundations (로지스틱 회귀 기초)

📌 한 줄 통찰 (The Karpathy Summary)

"세상의 모든 질문을 '예(1)' 혹은 '아니오(0)'의 확률로 변환하여, 모호함의 경계에 명확한 선을 그어라" — 선형 회귀의 출력값을 시그모이드(Sigmoid) 함수를 통해 0과 1 사이의 확률로 변환하여 이진 분류 문제를 해결하는 가장 기본적이고 강력한 알고리즘.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: "Probabilistic Binary Classification" — 선형 결합(z = wx + b)의 결과를 확률 공간(0 \le p \le 1)으로 매핑하고, 임계값(Threshold)을 기준으로 데이터를 두 집단으로 나누는 확률 기반 분류 패턴.
  • 핵심 요소:
    • Sigmoid Function: 어떤 실수값이든 0과 1 사이로 압축하는 비선형 함수.
    • Decision Boundary: 확률 0.5를 기준으로 클래스를 가르는 경계선.
    • Binary Cross-Entropy Loss: 예측 확률과 실제 레이블 사이의 오차를 측정하는 손실 함수.
  • 의의: 스팸 메일 분류, 질병 유무 판별 등 수많은 이진 분류 문제의 표준 모델이며, 딥러닝 뉴런의 동작 원리를 이해하는 핵심 가교 역할.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 이름은 '회귀(Regression)'이지만 실제로는 '분류(Classification)'에 사용된다는 점이 초심자에게 혼란을 주나, 출력값이 확률이라는 연속적인 수치라는 점에서 통계학적 회귀의 범주에 포함됨을 이해하는 것이 중요.
  • 정책 변화: Antigravity 프로젝트는 에이전트의 특정 행동 수행 여부(Success/Fail)를 예측하는 가벼운 판단 모듈 설계 시, 연산 효율이 극대화된 로지스틱 회귀를 우선적으로 고려함.

🔗 지식 연결 (Graph)