--- id: NAS-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [ai, automl, neural-networks, optimization, research] last_reinforced: 2026-04-26 --- # Neural Architecture Search (NAS, 신경망 ꡬ쑰 탐색) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "AI λͺ¨λΈμ„ λ§Œλ“œλŠ” AIλ₯Ό μ„€κ³„ν•˜λΌ" β€” μ‚¬λžŒμ΄ μˆ˜λ™μœΌλ‘œ μ‹ κ²½λ§μ˜ λ ˆμ΄μ–΄μ™€ μ—°κ²° ꡬ쑰λ₯Ό μ„€κ³„ν•˜λŠ” λŒ€μ‹ , μ•Œκ³ λ¦¬μ¦˜μ΄ μ£Όμ–΄μ§„ νƒœμŠ€ν¬μ— μ΅œμ ν™”λœ μ•„ν‚€ν…μ²˜λ₯Ό μžλ™μœΌλ‘œ μ°Ύμ•„λ‚΄λŠ” 기술. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** κ°€λŠ₯ν•œ 신경망 ꡬ쑰의 탐색 곡간(Search Space)μ—μ„œ 졜적의 μ„±λŠ₯을 λ‚΄λŠ” 쑰합을 κ°•ν™”ν•™μŠ΅μ΄λ‚˜ μ§„ν™” μ—°μ‚° 등을 톡해 효율적으둜 κ²€μƒ‰ν•˜λŠ” AutoML νŒ¨ν„΄. - **μ„ΈλΆ€ λ‚΄μš©:** - **Search Space:** λ ˆμ΄μ–΄ νƒ€μž…, 컀널 크기, μ—°κ²° 방식 λ“± 탐색 κ°€λŠ₯ν•œ λͺ¨λ“  μ•„ν‚€ν…μ²˜ μš”μ†Œλ“€μ˜ μ§‘ν•©. - **Search Strategy:** κ°•ν™”ν•™μŠ΅(RL), μ§„ν™” μ•Œκ³ λ¦¬μ¦˜(EA), 경사 기반 μ΅œμ ν™” 등을 μ‚¬μš©ν•˜μ—¬ μœ λ§ν•œ ꡬ쑰 탐색. - **Performance Estimation:** 찾은 ꡬ쑰의 μ„±λŠ₯을 λΉ λ₯΄κ²Œ ν‰κ°€ν•˜μ—¬ λ‹€μŒ 탐색에 반영 (μ‹€μ œ ν•™μŠ΅ 없이 κ°€μ€‘μΉ˜ 곡유 등을 ν™œμš©). - **Hardware-aware NAS:** νŠΉμ • ν•˜λ“œμ›¨μ–΄(λͺ¨λ°”일, μ—£μ§€ κΈ°κΈ°)의 μ œμ•½ 쑰건 λ‚΄μ—μ„œ 졜적의 μ„±λŠ₯을 λ‚΄λŠ” ꡬ쑰 탐색. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** μ—°κ΅¬μžμ˜ 직관과 λ…Έκ°€λ‹€(?)에 μ˜μ‘΄ν•˜λ˜ λͺ¨λΈ 섀계가 μ‹œμŠ€ν…œν™”λ˜κ³  μžλ™ν™”λ¨μœΌλ‘œμ¨ 인간보닀 λ›°μ–΄λ‚œ 효율의 λͺ¨λΈ(예: EfficientNet) λ“±μž₯. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” ν–₯ν›„ κ²½λŸ‰ν™” λͺ¨λΈ 배포 μ‹œ NAS 기법을 μ μš©ν•˜μ—¬ μ„±λŠ₯ 손싀을 μ΅œμ†Œν™”ν•˜λ©΄μ„œ μ—°μ‚° λΉ„μš©μ„ μ ˆκ°ν•  κ³„νšμž„. ## πŸ”— 지식 μ—°κ²° (Graph) - AutoML, [[Reinforcement-Learning]], [[Evolutionary-Computation]], [[Hyperparameter-Optimization]] - **Raw Source:** 10_Wiki/Topics/AI/Neural-Architecture-Search.md