Files
2nd/10_Wiki/Topics/In-Context-Learning.md
T

1.8 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
ICL-001 Dev 1.0
ai
llm
prompting
zero-shot
few-shot
2026-04-26

In-Context Learning (인컨텍스트 러닝)

📌 한 줄 통찰 (The Karpathy Summary)

"모델의 가중치를 바꾸지 않고도 새로운 지식을 가르쳐라" — 별도의 파인튜닝 없이 프롬프트에 포함된 예시나 지침만으로 모델이 즉석에서 태스크를 학습하고 수행하는 LLM의 창발적 능력.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: 입력 컨텍스트에 포함된 패턴과 논리 구조를 실시간으로 파악하여, 유사한 형식의 출력을 생성해내는 추론 패턴.
  • 세부 내용:
    • Zero-shot: 예시 없이 지시사항만으로 태스크 수행.
    • Few-shot: 몇 가지 입-출력 예시를 프롬프트에 포함하여 성능 극대화.
    • Emergent Ability: 특정 파라미터 규모 이상의 모델에서 갑자기 나타나는 지능적 특성.
    • Analogy Reasoning: 예시 사이의 유추 관계를 파악하여 새로운 입력에 적용.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 학습 데이터에 고정된 지식만 답변하던 방식에서, 주어진 컨텍스트를 바탕으로 '생각하는' 방식으로 패러다임 전환.
  • 정책 변화: Antigravity 에이전트는 복잡한 작업 지시 시 In-Context Learning을 적극 활용하여, 모델의 기본 성능 이상의 정교한 결과물을 도출함.

🔗 지식 연결 (Graph)