---
id: CLIP-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, computer-vision, nlp, multimodal, clip, openai]
last_reinforced: 2026-04-26
---

# CLIP (Contrastive Language-Image Pre-training)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "이미지와 텍스트를 하나의 언어로 묶어 AI에게 시각적 문해력을 부여하라" — OpenAI가 제안한 모델로, 인터넷상의 방대한 이미지와 설명 텍스트 쌍을 대조 학습(Contrastive Learning)하여 시각적 개념을 언어적으로 이해하게 만든 혁신적인 멀티모달 모델.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** 이미지 임베딩과 텍스트 임베딩을 동일한 공유 잠재 공간(Shared Latent Space)에 매핑하여, 특정 텍스트 설명에 가장 잘 어울리는 이미지를 찾아내는 시각-언어 정렬 패턴.
- **핵심 특징:**
    - **Contrastive Learning:** 관련 있는 이미지-텍스트 쌍은 가깝게, 관련 없는 쌍은 멀게 배치하도록 학습.
    - **Zero-shot Visual Recognition:** 학습 데이터에 없던 새로운 물체라도 텍스트 설명을 통해 인식 가능.
    - **Robustness:** 특정 데이터셋(ImageNet 등)에 과적합되지 않고 실제 환경의 다양한 이미지에 대해 뛰어난 일반화 성능을 보임.
    - **Foundation for GenAI:** DALL-E, Stable Diffusion 등 텍스트-투-이미지 생성 모델의 핵심 눈(Eye) 역할을 수행.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 숫자로 된 클래스 라벨(예: 0=개, 1=고양이)로만 이미지를 배우던 방식에서, 자연어 설명을 통해 이미지의 풍부한 맥락을 배우는 방식으로 패러다임 전환.
- **정책 변화:** Antigravity 프로젝트의 '멀티모달 지식 인덱싱'은 CLIP 아키텍처를 활용하여 위키 내의 이미지와 도표를 텍스트 검색 결과에 자연스럽게 노출시킴.

## 🔗 지식 연결 (Graph)
- [[Transformer-Architecture]], [[Zero-Shot-Learning]], [[Representation-Learning]], [[LLM]]
- **Raw Source:** 10_Wiki/Topics/AI/CLIP.md
