Synthetic Data Generation (합성 데이터 생성)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터 기근의 시대에 실제 세계의 분포를 완벽하게 모사한 가상의 데이터를 무한히 복제하고, 현실이 주지 못하는 극한의 시나리오로 지능을 단련하라" — 인공지능 모델을 활용하여 실제 데이터의 통계적 특성을 유지하면서 새로운 데이터를 생성하는 기술.

추출된 패턴: "Distribution Learning and Artificial Sampling" — 실제 데이터의 잠재적인 분포를 학습(GAN, VAE, Diffusion)하여 현실에는 존재하지 않지만 현실적인 데이터를 생성하거나, 개인 정보 노출 위험이 없는 비식별 데이터를 대량 생산하는 패턴.
주요 생성 기법:
- Generative Models: GAN, VAE 등을 활용한 이미지/음성/정형 데이터 생성.
- LLM-based: 거대 언어 모델을 활용하여 학습용 텍스트나 코드 생성.
- Simulation-based: 가상 환경(Unity, MuJoCo)에서 물리 법칙이 적용된 로봇/자율주행 데이터 수집.
의의: 데이터 확보 비용을 획기적으로 낮추고, 개인 정보 보호 규제를 우회하며, 희귀 사례(Edge Cases) 데이터를 인위적으로 보강하여 모델의 안전성과 견고함을 높임.

과거 데이터와의 충돌: 합성 데이터는 품질이 낮아 학습에 부적합하다는 인식이 있었으나, 최근에는 'Self-Instruct' 기법처럼 AI가 만든 데이터로 더 뛰어난 AI를 만드는 '지능의 수직 계열화'가 가능해지며 데이터 전략의 핵심으로 부상함.
정책 변화: Antigravity 프로젝트는 특정 도메인의 지식 데이터가 부족할 때, 기존 지식의 논리 구조를 바탕으로 한 합성 지식 생성 파이프라인을 가동하여 에이전트의 추론 범위를 확장함.

Generative-Adversarial-Networks-GAN, Self-Supervised-Learning, Privacy-Preserving-AI, Simulation-Environments
Raw Source: 10_Wiki/Topics/AI/Synthetic-Data-Generation.md