2.5 KiB
2.5 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| AI-NAS-001 | Unified | 1.0 |
|
2026-04-26 |
Neural Architecture Search (NAS, 신경망 구조 탐색)
📌 한 줄 통찰 (The Karpathy Summary)
"인간의 직관에 의존하던 모델 설계를 알고리즘적 탐색으로 전환하여, 데이터에 가장 완벽하게 부합하는 '지능의 형상'을 스스로 창조하라" — 수많은 가능한 신경망 구조 중 성능과 효율성이 가장 뛰어난 아키텍처를 자동으로 찾아내는 AutoML의 핵심 분야.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Automated Structural Optimization" — 탐색 공간(Search Space)을 정의하고, 강화학습이나 유전 알고리즘과 같은 탐색 전략을 통해 후보 아키텍처를 생성한 뒤, 그 성능을 예측하여 최적의 구조를 반복적으로 찾아가는 패턴.
- 3대 핵심 요소:
- Search Space: 어떤 층을 쌓을지, 어떻게 연결할지에 대한 후보 범위 정의.
- Search Strategy: 무작위 탐색, 강화학습, 베이지안 최적화 등 최적 구조를 찾아가는 전략.
- Performance Estimation: 생성된 구조를 실제로 다 학습시키지 않고도 성능을 빠르게 예측하는 기술.
- 의의: 인간이 설계한 모델(Inception, ResNet 등)을 뛰어넘는 고성능 모델(EfficientNet, MnasNet 등)을 탄생시켰으며, 특정 하드웨어에 최적화된 맞춤형 AI 모델 구축을 가능케 함.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 엄청난 컴퓨팅 자원이 소모된다는 초기 비판을 넘어, 이제는 미분 가능한 탐색 공간(DArts)이나 한 번의 학습으로 여러 구조를 평가하는 One-shot NAS 등을 통해 연산 비용을 획기적으로 낮춘 실용적 단계에 도달함.
- 정책 변화: Antigravity 프로젝트는 특정 엣지 기기용 소형 브레인을 설계할 때, 해당 하드웨어의 지연 시간과 메모리 제약을 준수하면서 정확도를 극대화하는 NAS 기반의 모델 커스터마이징을 수행함.
🔗 지식 연결 (Graph)
- HyperParameter-Optimization, Deep-Learning-Foundations, Reinforcement-Learning, Mobile-AI-Optimization
- Raw Source: 10_Wiki/Topics/AI/Neural-Architecture-Search-NAS.md