2.5 KiB
2.5 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| AI-META-001 | 10_Wiki/💡 Topics/AI | 1.0 |
|
2026-04-26 |
Meta-Learning in AI (AI에서의 메타 학습)
📌 한 줄 통찰 (The Karpathy Summary)
"데이터를 배우는 단계를 넘어, '어떻게 배워야 가장 효율적인가'라는 학습의 본질을 스스로 터득하라" — 새로운 태스크에 직면했을 때 아주 적은 양의 데이터만으로도 빠르게 적응할 수 있도록 모델의 초기 상태나 학습 규칙을 최적화하는 '배우는 법을 배우는(Learning to Learn)' 기술.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Knowledge Transfer and Rapid Adaptation" — 수많은 유사한 작업들을 경험하며 얻은 공통된 지식을 바탕으로, 낯선 작업이 주어졌을 때 수천 번의 반복 학습 없이 단 몇 번의 업데이트(Few-shot)만으로 정답에 도달하는 지능형 적응 패턴.
- 주요 접근법:
- Optimization-based: 모델이 새로운 작업에 대해 최적화되기 가장 좋은 초기 가중치 지점을 찾음 (예: MAML).
- Model-based: 외부 메모리나 특수한 구조를 통해 빠르게 정보를 저장하고 인출.
- Metric-based: 데이터 간의 거리를 측정하는 법을 배워, 새로운 클래스도 거리 기반으로 즉시 분류.
- 의의: 데이터가 부족한 도메인에서 AI의 활용도를 극대화하며, 인간처럼 소량의 경험만으로도 새로운 지능을 획득하는 범용 인공지능(AGI)으로 가는 핵심 징검다리.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 거대한 데이터셋에서 고정된 모델을 만드는 방식에서 벗어나, 이제는 변화하는 환경에 실시간으로 대응하는 '적응력' 자체가 모델의 핵심 지능 지표로 간주됨.
- 정책 변화: Antigravity 프로젝트는 에이전트가 새로운 유형의 프로그래밍 언어나 프레임워크를 접했을 때, 기존 지식을 바탕으로 빠르게 문법을 파악하고 적용할 수 있도록 메타 학습 아키텍처를 도입함.
🔗 지식 연결 (Graph)
- Few-Shot-Learning, Model-Agnostic-Meta-Learning, Transfer-Learning-Foundations, HyperParameter-Optimization
- Raw Source: 10_Wiki/Topics/AI/Meta-Learning-in-AI.md