--- id: AI-ML-SVM-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [ai, machine-learning, svm, support-vector-machines, kernel-trick, classification, margin-maximization] last_reinforced: 2026-04-26 --- # Support Vector Machines (SVM, μ„œν¬νŠΈ 벑터 λ¨Έμ‹ ) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "두 집단 μ‚¬μ΄μ˜ κ°€μž₯ 넓은 λ„λ‘œ(Margin)λ₯Ό κ±΄μ„€ν•˜μ—¬ λ―Έμ§€μ˜ 데이터가 듀어와도 흔듀림 없이 λΆ„λ₯˜ν•˜κ³ , μ°¨μ›μ˜ λ§ˆλ²•(Kernel Trick)으둜 λ³΅μž‘ν•˜κ²Œ μ–½νžŒ 세상을 λͺ…μΎŒν•˜κ²Œ κ°ˆλΌμΉ˜κΈ°ν•˜λΌ" β€” 데이터λ₯Ό λΆ„λ₯˜ν•˜κΈ° μœ„ν•œ 졜적의 κ²°μ • 경계(Hyperplane)λ₯Ό μ°ΎλŠ” μ „ν†΅μ μ΄λ©΄μ„œλ„ κ°•λ ₯ν•œ 지도 ν•™μŠ΅ λͺ¨λΈ. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** "Max-margin Classification and High-dimensional Projection" β€” κ²°μ • 경계와 κ°€μž₯ κ°€κΉŒμš΄ 데이터 포인트(Support Vectors) μ‚¬μ΄μ˜ 거리(Margin)λ₯Ό μ΅œλŒ€ν™”ν•˜μ—¬ μΌλ°˜ν™” μ„±λŠ₯을 높이고, μ„ ν˜•μœΌλ‘œ λΆ„λ¦¬λ˜μ§€ μ•ŠλŠ” 데이터λ₯Ό κ³ μ°¨μ›μœΌλ‘œ 보내 ν•΄κ²°ν•˜λŠ” νŒ¨ν„΄. - **핡심 ꡬ성 μš”μ†Œ:** - **Hyperplane:** 데이터λ₯Ό λ‚˜λˆ„λŠ” 닀차원 경계면. - **Support Vectors:** 경계면을 κ²°μ •ν•˜λŠ” 데 결정적인 역할을 ν•˜λŠ” κ°€μž₯자리 데이터듀. - **Kernel Trick:** 데이터λ₯Ό 직접 κ³ μ°¨μ›μœΌλ‘œ λ³€ν™˜ν•˜μ§€ μ•Šκ³ λ„ 고차원 κ³΅κ°„μ—μ„œμ˜ 내적을 κ³„μ‚°ν•˜μ—¬ μ—°μ‚° νš¨μœ¨μ„ κ·ΉλŒ€ν™”ν•˜λŠ” μˆ˜ν•™μ  기ꡐ (RBF, Polynomial λ“±). - **의의:** λ”₯λŸ¬λ‹ 이전 μ‹œλŒ€μ˜ μ™•μžλ‘œ κ΅°λ¦Όν–ˆμœΌλ©°, 데이터 양이 μ κ±°λ‚˜ νŠΉμ„±μ΄ λͺ…ν™•ν•œ 경우 μ—¬μ „νžˆ 맀우 κ²¬κ³ ν•˜κ³  μ•ˆμ •μ μΈ μ„±λŠ₯을 λ°œνœ˜ν•˜λŠ” μ‹ λ’°ν•  수 μžˆλŠ” λͺ¨λΈ. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** λŒ€κ·œλͺ¨ λ°μ΄ν„°μ…‹μ—μ„œ μ—°μ‚° 속도가 λŠλ¦¬λ‹€λŠ” 단점 λ•Œλ¬Έμ— λͺ¨λ“  λΆ„μ•Όμ—μ„œ λ”₯λŸ¬λ‹μ— λ°€λ¦¬λŠ” λ“―ν–ˆμœΌλ‚˜, μ΅œκ·Όμ—λŠ” λ”₯λŸ¬λ‹ λͺ¨λΈμ˜ λ§ˆμ§€λ§‰ μΈ΅(Feature)에 SVM을 κ²°ν•©ν•˜μ—¬ λΆ„λ₯˜ μ„±λŠ₯을 κ·ΉλŒ€ν™”ν•˜κ±°λ‚˜ μ΄μƒμΉ˜ 탐지(One-class SVM) λΆ„μ•Όμ—μ„œ μ—¬μ „νžˆ 독보적인 μœ„μΉ˜λ₯Ό 차지함. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” μ—μ΄μ „νŠΈμ˜ 지식 λΆ„λ₯˜ 둜직 쀑, λ ˆμ΄λΈ” 데이터가 적고 λͺ…ν™•ν•œ 경계가 ν•„μš”ν•œ νŠΉμ • 도메인 뢄석 μ‹œ SVM의 κ²¬κ³ ν•œ λ§ˆμ§„ λΆ„λ₯˜ 방식을 병행 ν™œμš©ν•¨. ## πŸ”— 지식 μ—°κ²° (Graph) - [[Supervised-Learning-Foundations]], [[Representation-Learning]], [[Optimization-Algorithms]], [[Outlier-Detection-Techniques]] - **Raw Source:** 10_Wiki/Topics/AI/Support-Vector-Machines.md