--- id: AI-MAML-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [ai, deep-learning, meta-learning, maml, few-shot-learning, optimization] last_reinforced: 2026-04-26 --- # Model Agnostic Meta-Learning (MAML, λͺ¨λΈ λΆˆκ°€μ§€λ‘ μ  메타 ν•™μŠ΅) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "νŠΉμ •ν•œ 지식을 κ°€λ₯΄μΉ˜λ € ν•˜μ§€ 말고, μ–΄λ–€ 지식이든 λ‹¨μˆ¨μ— ν‘μˆ˜ν•  수 μžˆλŠ” '졜고의 μ‹œμž‘μ '을 찾아라" β€” λͺ¨λΈ ꡬ쑰에 ꡬ애받지 μ•Šκ³ , μƒˆλ‘œμš΄ νƒœμŠ€ν¬μ— λŒ€ν•΄ 단 λͺ‡ 번의 경사 ν•˜κ°•λ²•(Gradient Descent) μ—…λ°μ΄νŠΈλ§ŒμœΌλ‘œλ„ 졜적의 μ„±λŠ₯을 λ‚Ό 수 μžˆλŠ” κ°€μ€‘μΉ˜ μ΄ˆκΈ°κ°’μ„ ν•™μŠ΅ν•˜λŠ” λ²”μš© 메타 ν•™μŠ΅ μ•Œκ³ λ¦¬μ¦˜. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** "Initialization for Rapid Adaptation" β€” μˆ˜λ§Žμ€ λ‹€μ–‘ν•œ νƒœμŠ€ν¬λ“€μ„ κ²½ν—˜ν•˜λ©°, μ–΄λ–€ νƒœμŠ€ν¬κ°€ 주어져도 μ•½κ°„μ˜ μ‘°μ •λ§ŒμœΌλ‘œ μ¦‰μ‹œ ν•΄κ²° κ°€λŠ₯ν•œ 'κ°€μž₯ λ―Όκ°ν•˜κ³  μœ μ—°ν•œ' 초기 νŒŒλΌλ―Έν„° 지점을 νƒμƒ‰ν•˜λŠ” μ΅œμ ν™” νŒ¨ν„΄. - **μž‘λ™ 원리 (Bi-level Optimization):** - **Inner Loop:** νŠΉμ • νƒœμŠ€ν¬μ— λŒ€ν•΄ λͺ¨λΈμ„ μ•„μ£Ό 잠깐 ν•™μŠ΅ (νƒœμŠ€ν¬λ³„ 적응). - **Outer Loop:** λͺ¨λ“  νƒœμŠ€ν¬μ˜ Inner Loop κ²°κ³Όκ°€ μ „μ²΄μ μœΌλ‘œ 쒋아지도둝 초기 λͺ¨λΈμ˜ νŒŒλΌλ―Έν„°λ₯Ό μ—…λ°μ΄νŠΈ (메타 μ—…λ°μ΄νŠΈ). - **의의:** λͺ¨λΈ μ•„ν‚€ν…μ²˜(CNN, RNN λ“±)와 손싀 ν•¨μˆ˜μ˜ ν˜•νƒœμ— 상관없이 적용 κ°€λŠ₯ν•œ λ²”μš©μ„±μ„ κ°€μ§€λ©°, μ§„μ •ν•œ 의미의 'λ°°μš°λŠ” 법을 λ°°μš°λŠ”' AIλ₯Ό κ΅¬ν˜„ν•¨. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** ν•™μŠ΅ κ³Όμ •μ—μ„œ 2μ°¨ λ―ΈλΆ„(Hessian) 연산이 ν•„μš”ν•˜μ—¬ μ—°μ‚° λΉ„μš©μ΄ 맀우 λ†’λ‹€λŠ” 단점이 μžˆμ—ˆμœΌλ‚˜, 이λ₯Ό 1μ°¨ λ―ΈλΆ„λ§ŒμœΌλ‘œ κ·Όμ‚¬ν•˜λŠ” First-order MAML λ“±μ˜ 변쒅이 λ“±μž₯ν•˜λ©° μ‹€μš©μ„±μ„ 확보함. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” μ—μ΄μ „νŠΈμ˜ μŠ€ν‚¬ 라이브러리 μ—…λ°μ΄νŠΈ μ‹œ, μƒˆλ‘œμš΄ ν”„λ‘œν† μ½œμ— λΉ λ₯΄κ²Œ 적응해야 ν•˜λŠ” κ°œλ³„ λͺ¨λ“ˆμ˜ μ΄ˆκΈ°ν™” μ „λž΅μœΌλ‘œ MAML의 κ°œλ…μ  ν”„λ ˆμž„μ›Œν¬λ₯Ό μ‘μš©ν•¨. ## πŸ”— 지식 μ—°κ²° (Graph) - [[Meta-Learning-in-AI]], [[Few-Shot-Learning]], Gradient-Descent-Foundations, Transfer-Learning-Foundations - **Raw Source:** 10_Wiki/Topics/AI/Model-Agnostic-Meta-Learning.md