Antigravity Agent
29 lines
2.5 KiB
Markdown
29 lines
2.5 KiB
Markdown
---
|
|
id: AI-NAS-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [ai, deep-learning, nas, automl, neural-architecture-search, optimization]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Neural Architecture Search (NAS, 신경망 구조 탐색)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "인간의 직관에 의존하던 모델 설계를 알고리즘적 탐색으로 전환하여, 데이터에 가장 완벽하게 부합하는 '지능의 형상'을 스스로 창조하라" — 수많은 가능한 신경망 구조 중 성능과 효율성이 가장 뛰어난 아키텍처를 자동으로 찾아내는 AutoML의 핵심 분야.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Automated Structural Optimization" — 탐색 공간(Search Space)을 정의하고, 강화학습이나 유전 알고리즘과 같은 탐색 전략을 통해 후보 아키텍처를 생성한 뒤, 그 성능을 예측하여 최적의 구조를 반복적으로 찾아가는 패턴.
|
|
- **3대 핵심 요소:**
|
|
- **Search Space:** 어떤 층을 쌓을지, 어떻게 연결할지에 대한 후보 범위 정의.
|
|
- **Search Strategy:** 무작위 탐색, 강화학습, 베이지안 최적화 등 최적 구조를 찾아가는 전략.
|
|
- **Performance Estimation:** 생성된 구조를 실제로 다 학습시키지 않고도 성능을 빠르게 예측하는 기술.
|
|
- **의의:** 인간이 설계한 모델(Inception, ResNet 등)을 뛰어넘는 고성능 모델(EfficientNet, MnasNet 등)을 탄생시켰으며, 특정 하드웨어에 최적화된 맞춤형 AI 모델 구축을 가능케 함.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 엄청난 컴퓨팅 자원이 소모된다는 초기 비판을 넘어, 이제는 미분 가능한 탐색 공간(DARTS)이나 한 번의 학습으로 여러 구조를 평가하는 One-shot NAS 등을 통해 연산 비용을 획기적으로 낮춘 실용적 단계에 도달함.
|
|
- **정책 변화:** Antigravity 프로젝트는 특정 엣지 기기용 소형 브레인을 설계할 때, 해당 하드웨어의 지연 시간과 메모리 제약을 준수하면서 정확도를 극대화하는 NAS 기반의 모델 커스터마이징을 수행함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Hyperparameter-Optimization|Hyperparameter-Optimization]], Deep-Learning-Foundations, [[Reinforcement-Learning|Reinforcement-Learning]], [[Mobile-AI-Optimization|Mobile-AI-Optimization]]
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Neural-Architecture-Search-NAS.md
|