29 lines
2.4 KiB
Markdown
29 lines
2.4 KiB
Markdown
---
|
|
id: ML-LOG-REG-001
|
|
category: Dev
|
|
confidence_score: 1.0
|
|
tags: [machine-learning, [[Logistic-Regression|Logistic-Regression]], classification, [[Supervised-Learning|Supervised-Learning]], sigmoid]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Logistic Regression Foundations (로지스틱 회귀 기초)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "세상의 모든 질문을 '예(1)' 혹은 '아니오(0)'의 확률로 변환하여, 모호함의 경계에 명확한 선을 그어라" — 선형 회귀의 출력값을 시그모이드(Sigmoid) 함수를 통해 0과 1 사이의 확률로 변환하여 이진 분류 문제를 해결하는 가장 기본적이고 강력한 알고리즘.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Probabilistic Binary Classification" — 선형 결합($z = wx + b$)의 결과를 확률 공간($0 \le p \le 1$)으로 매핑하고, 임계값(Threshold)을 기준으로 데이터를 두 집단으로 나누는 확률 기반 분류 패턴.
|
|
- **핵심 요소:**
|
|
- **Sigmoid Function:** 어떤 실수값이든 0과 1 사이로 압축하는 비선형 함수.
|
|
- **Decision Boundary:** 확률 0.5를 기준으로 클래스를 가르는 경계선.
|
|
- **Binary [[Cross-Entropy Loss|Cross-Entropy Loss]]:** 예측 확률과 실제 레이블 사이의 오차를 측정하는 손실 함수.
|
|
- **의의:** 스팸 메일 분류, 질병 유무 판별 등 수많은 이진 분류 문제의 표준 모델이며, 딥러닝 뉴런의 동작 원리를 이해하는 핵심 가교 역할.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 이름은 '회귀(Regression)'이지만 실제로는 '분류(Classification)'에 사용된다는 점이 초심자에게 혼란을 주나, 출력값이 확률이라는 연속적인 수치라는 점에서 통계학적 회귀의 범주에 포함됨을 이해하는 것이 중요.
|
|
- **정책 변화:** Antigravity 프로젝트는 에이전트의 특정 행동 수행 여부(Success/Fail)를 예측하는 가벼운 판단 모듈 설계 시, 연산 효율이 극대화된 로지스틱 회귀를 우선적으로 고려함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Linear-Regression-Mastery|Linear-Regression-Mastery]], [[Deep-Learning|Deep-Learning]]-Foundations, [[Loss-Functions-Foundations|Loss-Functions-Foundations]], [[Supervised-Learning-Foundations|Supervised-Learning-Foundations]]
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Logistic-Regression-Foundations.md
|