Antigravity Agent
61 lines
5.2 KiB
Markdown
61 lines
5.2 KiB
Markdown
---
|
|
id: automl
|
|
title: "AutoML"
|
|
category: "10_Wiki/Topics"
|
|
status: "draft"
|
|
verification_status: "conceptual"
|
|
canonical_id: ""
|
|
aliases: []
|
|
duplicate_of: ""
|
|
source_trust_level: "B"
|
|
confidence_score: 0.85
|
|
created_at: 2026-06-12
|
|
updated_at: 2026-06-12
|
|
review_reason: ""
|
|
merge_history: []
|
|
tags: ["research", "self envolving"]
|
|
raw_sources: ["NotebookLM Synthesis"]
|
|
applied_in: []
|
|
github_commit: ""
|
|
---
|
|
|
|
# [[AutoML]]
|
|
|
|
## 🎯 한 줄 통찰 (One-line insight)
|
|
인간이 정의한 고정된 설계 공간 내에서 모델 선택, 아키텍처 및 하이퍼파라미터를 최적화하여 기계 학습 시스템의 개발 단계를 자동화하는 기술적 기반 [1-3].
|
|
|
|
## 🧠 핵심 개념 (Core concepts)
|
|
- **설계 단계의 자동화 (Automation of Design Steps):** 모델 선택, 신경망 아키텍처 설계, 적응 절차 등을 인간의 개입 없이 최적화하는 프로세스 [1, 3].
|
|
- **경계 내부 최적화 (Boundary-Internal Optimization):** 인간이 미리 정의한 탐색 공간($D_t$) 내에서 파라미터($x_t$)를 조정하며, 설계 공간 자체는 고정($D_{t+1} = D_t$)된 상태로 유지됨 [2, 4].
|
|
- **신경 아키텍처 탐색 (Neural Architecture Search, NAS):** 레이어 수, 연결 유형, 활성화 함수와 같은 최적의 네트워크 토폴로지를 자동으로 발견하는 알고리즘 [5, 6].
|
|
- **AutoML-Zero:** 진화 알고리즘을 사용하여 아무것도 없는 상태에서 완전한 학습 알고리즘을 스스로 구축하는 기계 주도적 과학적 발견의 초기 형태 [7].
|
|
|
|
## 🧩 추출된 패턴 (Extracted patterns)
|
|
- **고정된 설계 공간 패턴:** 하이퍼파라미터 튜닝이나 아키텍처 탐색 시 시스템이 변화를 줄 수 있는 범위를 인간이 사전에 규정하고 그 안에서만 최적의 해를 찾는 구조 [8, 9].
|
|
- **피드백 기반 제어 루프:** 컨트롤러 모델이 후보 아키텍처를 생성하고 검증 작업을 통해 평가한 뒤, 성능 피드백을 바탕으로 스스로를 업데이트하여 더 나은 구성을 예측하는 패턴 [5].
|
|
- **상속 및 변이 패턴 (AutoML-Zero):** 기본 수학 연산에서 시작하여 성공적인 알고리즘 구성 요소를 선택하고 변이시켜 복잡성을 높여가는 진화적 설계 패턴 [7, 10].
|
|
|
|
## 📖 세부 내용 (Details)
|
|
- **전통적 최적화와의 관계:** AutoML은 메타 학습(Meta-learning) 및 NAS와 함께 현대 AI 연구에서 설계 단계를 자동화하는 주요 수단으로 자리 잡았으나, 대개 인간이 지정한 공간 내에서의 최적화에 머무름 [1, 3].
|
|
- **신경 아키텍처 탐색(NAS)의 진화:** 강화 학습, 진화 알고리즘, 경사 하강법 기반 최적화 등을 사용하여 방대한 탐색 공간을 조사하며, 시간이 지남에 따라 컨트롤러 모델 자체가 어떤 구성이 우수한 결과를 낼지 예측하는 능력이 향상됨 [5].
|
|
- **메타-AutoML (Meta-NAS):** 컨트롤러가 네트워크를 설계할 뿐만 아니라 탐색 깊이 조정, 탐색 전략 정제, 적합도 지표 재정의 등 탐색 프로세스 자체를 최적화하는 재귀적 루프로 확장 가능함 [6].
|
|
- **자기 진화 에이전트(Self-Evolving Agents)와의 차별점:** AutoML은 주로 정적인 데이터셋과 고정된 아키텍처 매개변수에 의존하는 반면, 자기 진화 시스템은 실행 시간 컨텍스트, 도구 세트, 아키텍처 토폴로지 자체를 경험에 기반하여 재작성함 [4, 11, 12].
|
|
|
|
## ⚖️ 모순 및 업데이트 (Contradictions & updates)
|
|
- **최적화 vs 재귀적 자기 설계:** 전통적인 AutoML은 고정된 설계 공간($D_t$)을 유지하는 '경계 내부 최적화'로 정의되지만, 최근의 재귀적 자기 설계(Recursive Self-Design)는 시스템의 구조적 구성($S_t$, 프롬프트 정책, 워크플로우 등) 자체를 가변적인 객체로 취급하여 변경한다는 점에서 차이가 있음 [2, 4].
|
|
- **성능 한계:** 인간의 감독이나 외부 모델의 감독 하에 학습하는 현재의 AutoML 방식은 작업의 복잡성과 다양성이 증가함에 따라 성능 정체(Performance Ceilings)와 높은 비용 문제에 직면할 수 있음 [13].
|
|
|
|
## 🛠️ 적용 사례 (Applied in summary)
|
|
- **AutoML-Zero (Google):** 기본 연산으로부터 머신러닝 알고리즘 전체를 진화적으로 생성하는 시스템 구현 [7].
|
|
- **DARTS (Differentiable Architecture Search):** NAS 기반의 재귀적 자기 개선 잠재력을 보여주는 아키텍처 탐색 프레임워크 [7].
|
|
- **NAS 알고리즘:** 로봇 제어 진화, 신경망 토폴로지 최적화, 진화적 설계 자동화 등에서 널리 사용됨 [14].
|
|
- **Borg 작업 오케스트레이터 최적화 (Google):** AlphaEvolve를 통해 전 세계 컴퓨팅 리소스의 0.7%를 회수하는 등 실제 인프라 최적화에 적용됨 (AutoML 기술의 연장선상) [15].
|
|
|
|
## ✅ 검증 상태 및 신뢰도
|
|
- **상태:** draft
|
|
- **검증 단계:** conceptual (실제 적용 사례 발견 시 applied/validated로 승격 가능)
|
|
- **출처 신뢰도:** B (Official Documentation / Primary Source via NotebookLM)
|
|
- **중복 검사 결과:** 신규 생성 (New discovery)
|
|
|
|
## 📝 변경 이력 (Change history)
|
|
- 2026-06-12: Initial draft generated via Datacollector_MAC P-Reinforce engine. |