Files
2nd/10_Wiki/Topics/AI_and_ML/Neural-Architecture-Search-NAS.md
T

4.0 KiB

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by, tech_stack
id title category status canonical_id aliases duplicate_of source_trust_level confidence_score tags raw_sources last_reinforced github_commit inferred_by tech_stack
wiki-2026-0508-neural-architecture-search-nas Neural Architecture Search NAS 10_Wiki/Topics needs_review self
AI-NAS-001
none A 1.0
ai
Deep-Learning
nas
automl
Neural-Architecture-Search
Optimization
2026-04-26 pending Claude Opus 4.7 (auto-normalize 2026-05-08)
language framework
unspecified unspecified

Neural Architecture Search (NAS, 신경망 구조 탐색)

📌 한 줄 통찰 (The Karpathy Summary)

"인간의 직관에 의존하던 모델 설계를 알고리즘적 탐색으로 전환하여, 데이터에 가장 완벽하게 부합하는 '지능의 형상'을 스스로 창조하라" — 수많은 가능한 신경망 구조 중 성능과 효율성이 가장 뛰어난 아키텍처를 자동으로 찾아내는 AutoML의 핵심 분야.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: "Automated Structural Optimization" — 탐색 공간(Search Space)을 정의하고, 강화학습이나 유전 알고리즘과 같은 탐색 전략을 통해 후보 아키텍처를 생성한 뒤, 그 성능을 예측하여 최적의 구조를 반복적으로 찾아가는 패턴.
  • 3대 핵심 요소:
    • Search Space: 어떤 층을 쌓을지, 어떻게 연결할지에 대한 후보 범위 정의.
    • Search Strategy: 무작위 탐색, 강화학습, 베이지안 최적화 등 최적 구조를 찾아가는 전략.
    • Performance Estimation: 생성된 구조를 실제로 다 학습시키지 않고도 성능을 빠르게 예측하는 기술.
  • 의의: 인간이 설계한 모델(Inception, ResNet 등)을 뛰어넘는 고성능 모델(EfficientNet, MnasNet 등)을 탄생시켰으며, 특정 하드웨어에 최적화된 맞춤형 AI 모델 구축을 가능케 함.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

  • 과거 데이터와의 충돌: 엄청난 컴퓨팅 자원이 소모된다는 초기 비판을 넘어, 이제는 미분 가능한 탐색 공간(DArts)이나 한 번의 학습으로 여러 구조를 평가하는 One-shot NAS 등을 통해 연산 비용을 획기적으로 낮춘 실용적 단계에 도달함.
  • 정책 변화: Antigravity 프로젝트는 특정 엣지 기기용 소형 브레인을 설계할 때, 해당 하드웨어의 지연 시간과 메모리 제약을 준수하면서 정확도를 극대화하는 NAS 기반의 모델 커스터마이징을 수행함.

🔗 지식 연결 (Graph)

🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

  • (TODO)

언제 쓰면 안 되는가:

  • (TODO)

🧪 검증 상태 (Validation)

  • 정보 상태: needs_review
  • 출처 신뢰도: A
  • 검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

  • 기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
  • 처리 방식: UPDATE (자동 정규화)
  • 처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜 변경 내용 처리 방식 신뢰도
2026-05-08 P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) UPDATE A

💻 코드 패턴 (Code Patterns)

패턴 1: (TODO: 이 프로젝트 컨벤션 반영한 구조 스켈레톤)

# TODO

🤔 의사결정 기준 (Decision Criteria)

선택 A를 써야 할 때:

  • (TODO)

선택 B를 써야 할 때:

  • (TODO)

기본값:

(TODO)

안티패턴 (Anti-Patterns)

  • [안티패턴]: (TODO: 무엇을 하면 안 되는가 + 이유 + 대신 무엇을)