2nd/10_Wiki/Topics/CLIP.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
CLIP-001	10_Wiki/💡 Topics/AI	1.0	ai Computer-Vision nlp multimodal clip openai	2026-04-26

CLIP (Contrastive Language-Image Pre-training)

📌 한 줄 통찰 (The Karpathy Summary)

"이미지와 텍스트를 하나의 언어로 묶어 AI에게 시각적 문해력을 부여하라" — OpenAI가 제안한 모델로, 인터넷상의 방대한 이미지와 설명 텍스트 쌍을 대조 학습(Contrastive Learning)하여 시각적 개념을 언어적으로 이해하게 만든 혁신적인 멀티모달 모델.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 이미지 임베딩과 텍스트 임베딩을 동일한 공유 잠재 공간(Shared Latent Space)에 매핑하여, 특정 텍스트 설명에 가장 잘 어울리는 이미지를 찾아내는 시각-언어 정렬 패턴.
• 핵심 특징:
  • Contrastive Learning: 관련 있는 이미지-텍스트 쌍은 가깝게, 관련 없는 쌍은 멀게 배치하도록 학습.
  • Zero-shot Visual Recognition: 학습 데이터에 없던 새로운 물체라도 텍스트 설명을 통해 인식 가능.
  • Robustness: 특정 데이터셋(ImageNet 등)에 과적합되지 않고 실제 환경의 다양한 이미지에 대해 뛰어난 일반화 성능을 보임.
  • Foundation for GenAI: DALL-E, Stable Diffusion 등 텍스트-투-이미지 생성 모델의 핵심 눈(Eye) 역할을 수행.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 숫자로 된 클래스 라벨(예: 0=개, 1=고양이)로만 이미지를 배우던 방식에서, 자연어 설명을 통해 이미지의 풍부한 맥락을 배우는 방식으로 패러다임 전환.
• 정책 변화: Antigravity 프로젝트의 '멀티모달 지식 인덱싱'은 CLIP 아키텍처를 활용하여 위키 내의 이미지와 도표를 텍스트 검색 결과에 자연스럽게 노출시킴.

🔗 지식 연결 (Graph)

• Transformer-Architecture, Zero-Shot-Learning, Representation-Learning, LLM
• Raw Source: 10_Wiki/Topics/AI/CLIP.md