---
id: chain-of-thought-(cot)
title: "Chain-of-Thought (CoT)"
category: "AI_and_ML"
status: "draft"
verification_status: "conceptual"
canonical_id: ""
aliases: ["CoT", "Chain of Thought", "생각의 사슬", "연쇄 추론", "단계별 추론 프롬프팅"]
duplicate_of: ""
source_trust_level: "A"
confidence_score: 0.95
created_at: 2026-07-11
updated_at: 2026-07-11
review_reason: ""
merge_history: []
tags: ["research", "context 이해 규칙", "Prompt Engineering", "LLM", "In-Context Learning"]
raw_sources: ["Prompt Engineering Guide: Chain-of-Thought, ReAct & Few-Shot Techniques ", "What is In-context Learning, and how does it work: The Beginner's Guide - Lakera AI", "Prompting best practices - Claude Platform Docs"]
applied_in: []
github_commit: ""
---

# [[Chain-of-Thought (CoT)]]

## 🎯 한 줄 통찰 (One-line insight)
대형 언어 모델(LLM)이 정답으로 직행하는 대신 중간 논리 단계를 생성하도록 유도하여, 모델의 잠재된 추론 능력을 해제하고 복잡한 문제 해결의 정확도를 비약적으로 높이는 프롬프트 엔지니어링 핵심 기법.

## 🧠 핵심 개념 (Core concepts)
- **추론 과정의 명시화 (Explicit Reasoning Steps):** 모델에게 '무엇을 할지'뿐만 아니라 '어떻게 생각할지'를 가르치기 위해, 입력에서 최종 답에 이르는 중간 논리 전개 과정을 프롬프트에 포함하는 원리 [S1].
- **Zero-shot CoT:** 예시 데이터를 제공하지 않고 프롬프트 끝에 "Let's think step by step"과 같은 트리거 문구를 추가하여 모델의 단계적 추론 행동을 자동 활성화하는 최소주의적(minimalist) 기법 [S1, S2].
- **Few-shot CoT:** 복잡한 추론 태스크를 위해 프롬프트 내에 중간 추론 단계가 포함된 몇 가지 문제 해결 예시(다중 샷)를 결합하여 모델을 가이드하는 방식 [S2].
- **Self-Consistency (자가 일관성):** CoT를 통해 여러 개의 서로 다른 추론 경로를 생성한 뒤, 도출된 최종 답안들에 대해 다수결 투표(majority voting)를 수행하여 추론의 '불확실성'을 '견고성'으로 변환하는 다중 경로 추론 메커니즘 [S1].

## 🧩 추출된 패턴 (Extracted patterns)
- **추론-응답 분리 패턴 (Reasoning-Answer Separation):** XML 태그(예: `<thinking>`, `<answer>`)를 사용하여 모델의 내부 추론 과정과 최종 도출 결과를 구조적으로 깔끔하게 분리하는 패턴 [S3].
- **다중 경로 투표 패턴 (Multi-Path Voting Pattern):** 단일 선형 추론의 오류율을 줄이기 위해, Temperature 샘플링을 통해 다수의 CoT 추론을 실행하고 가장 빈번하게 등장하는 결과를 채택하여 정확도를 보정하는 패턴 [S1].
- **비선형 추론 확장 패턴 (Non-linear Extension):** 선형적 사고 구조인 CoT의 한계를 극복하기 위해 트리를 기반으로 다중 경로를 탐색/백트래킹하는 [[Tree-of-Thought (ToT)]] 및 이를 임의의 방향성 그래프로 확장한 [[Graph-of-Thought (GoT)]]로 진화하는 패턴 [S1].

## ⚖️ 비교 및 선택 기준 (Comparison & decision criteria)

| 항목 (Option) | 장점 | 단점 | 언제 선택 |
|---|---|---|---|
| **Standard Few-shot** | 포맷 제어와 도메인 톤 조정에 탁월하며 빠름 [S1] | 복잡한 논리 및 다단계 수학 문제에서 낮은 성능 [S1] | 단순 텍스트 분류, 감성 분석, 직접적인 질의응답 시 |
| **Linear CoT (Chain-of-Thought)** | 수학 및 논리 문제의 정확도 대폭 향상(예: 17.7% -> 78.7%), 추론 과정을 투명하게 제공 [S1] | 단방향 사고로 인해 중간에 논리적 오류 발생 시 회복(백트래킹) 불가 [S1] | 복잡한 산술, 추론, 논리 퍼즐, 단계별 분석 필요 시 |
| **Tree-of-Thought (ToT)** | 다수 경로의 동시 탐색 및 백트래킹 지원을 통해 인간 수준의 깊은 추론 가능 [S1] | 컴퓨팅 비용(Token 및 연산 시간)이 크게 증가함 [S1] | 전략 기획, 창의적 글쓰기, 게임(Game of 24 등) 시 |
| **Graph-of-Thought (GoT)** | 여러 하위 문제의 추론 결과를 병합하고 교차 참조할 수 있는 풍부한 네트워크 형성 [S1] | ToT보다 구현이 복잡하고 연산 비용이 가장 높음 [S1] | 복합적 요소를 동시에 고려해야 하는 기업 전략/의사결정 시 |

## 📖 세부 내용 (Details)
- **CoT의 원리와 성능:** 대형 언어 모델(LLM)은 단순히 학습된 패턴을 뱉어내는 것을 넘어 잠재적인 추론 능력을 가지고 있으나, 이는 프롬프트를 통해 "이끌어내야(guided out)" 합니다. CoT는 "이유를 먼저 찾고 답을 구하는" 패턴을 모방하게 함으로써 이를 달성합니다 [S1]. 예를 들어, PaLM 540B 모델의 경우 GSM8K 수학적 추론 벤치마크에서 일반 Few-shot을 사용했을 때 17.7%였던 정확도가 CoT 적용 시 58.1%(또는 78.7%)까지 급상승하는 결과를 보였습니다 [S1].
- **Zero-shot CoT의 간결성:** "단계별로 차근차근 생각해 보자(Let's think step by step)"라는 문구를 덧붙이는 것만으로도 모델의 추론 메커니즘을 트리거할 수 있습니다. 이는 Few-shot 예시를 정교하게 작성할 필요가 없어 사용 장벽이 가장 낮은 보편적인 기법입니다 [S1, S2].
- **In-Context Learning (ICL)과의 관계:** CoT 프롬프팅은 파라미터를 업데이트하지 않고 모델의 사전 학습 데이터를 활용하여 특정 태스크를 학습하는 ICL의 원리와 밀접하게 맞닿아 있습니다. 다만 ICL이 주로 예시를 통한 프롬프트 엔지니어링에 초점을 맞춘다면, CoT는 추론의 연쇄(chain of thought) 자체를 강조합니다 [S2]. 
- **신뢰성 보완 및 구조화:** CoT의 단일 추론 경로가 가지는 우연한 오류 가능성은 Self-Consistency(자가 일관성) 기법을 통해 보정될 수 있으며, 이로 인해 정확도가 추가로 12-18% 향상될 수 있습니다 [S1]. 또한 구조적인 관점에서 Claude와 같은 모델들은 수동 CoT 구현 시 `<thinking>` 태그를 사용하여 추론 블록과 실제 출력 블록을 격리시키는 것을 권장합니다 [S3].

## ⚖️ 모순 및 업데이트 (Contradictions & updates)
- 최신 언어 모델의 발전과 함께 모델 내부적으로 추론을 수행하는 기능(예: Claude 4.6 이상의 Adaptive thinking)이 기본 탑재되면서, 지나치게 세세한 지침을 주는 수동 프롬프팅 방식이 오히려 불필요한 과도한 트리거(over-triggering)를 유발할 수 있습니다. 따라서 모델 자체의 '생각(Thinking)' 기능이 비활성화되었을 때의 대안(Fallback)으로 수동 CoT를 활용하는 방식으로 진화하고 있습니다 [S3].

## 🛠️ 적용 사례 (Applied in summary)
- 소스 데이터 내에서 특정 Git 커밋 해시나 파일 경로 수준의 코드 적용 사례는 발견되지 않았습니다.
- 단, Claude 플랫폼의 프롬프트 엔지니어링 가이드라인을 통해, 모델의 생각(thinking) 기능이 꺼져 있을 때의 대체재로서 `<thinking>`과 `<answer>` 태그를 이용한 수동 CoT(Manual Chain-of-Thought) 아키텍처 적용 규칙이 지침으로 제공되고 있습니다 [S3]. 

## 💻 코드 패턴 (Code patterns)
```text
// Pattern 1: Zero-shot CoT Prompting [S1, S2]
Q: I went to the market and bought 10 apples. I gave 2 apples to the neighbor and 2 to the repairman. I then went and bought 5 more apples and ate 1. How many apples did I remain with? 
A: Let's think step by step.

// Pattern 2: Manual CoT with XML Tags (Claude Best Practice) [S3]
Please solve the following problem. 
Use structured tags to cleanly separate your reasoning from the final output.

<thinking>
[여기에 단계별 추론 과정(Step-by-step reasoning)을 작성하시오]
</thinking>
<answer>
[여기에 최종 결과만 간결하게 작성하시오]
</answer>
```

## ✅ 검증 상태 및 신뢰도
- **상태:** draft
- **검증 단계:** conceptual
- **출처 신뢰도:** A
- **신뢰 점수:** 0.95
- **중복 검사 결과:** 신규 생성 (New discovery)

## 🔗 관련 문서 링크 (Related document links)

### 상위/유사 개념
- [[Prompt Engineering]] — CoT를 포괄하는 상위의 자연어 기반 인스트럭션 설계 방법론.
- [[In-Context Learning (ICL)]] — 모델의 가중치 업데이트 없이 프롬프트 내 문맥만으로 새로운 태스크를 수행하게 하는 기반 학습 원리.
- [[Self-Consistency]] — CoT의 추론 정확성을 보완하기 위해 도입된 다중 경로 투표 검증 전략.
- [[Tree-of-Thought (ToT)]] — CoT의 선형적 사고를 트리 구조의 다중 탐색 및 백트래킹으로 확장한 추론 프레임워크.

### 심층 후속 질문 (Deeper Research Questions)
- Zero-shot CoT의 트리거 문구가 모델 내부의 잠재적 개념(Latent Concepts)을 매핑하는 베이지안 추론 과정과 어떻게 물리적으로 연결되는가?
- Tree-of-Thought(ToT) 구조를 구현할 때 최적의 토큰 할당 및 탐색 알고리즘(BFS/DFS) 선택 기준은 무엇인가?
- 최신 LLM의 Adaptive Thinking(내장형 동적 추론)과 수동 CoT 프롬프팅 간의 간섭을 어떻게 최소화하고 최적의 비율로 설정할 수 있는가?
- CoT 수행 시 생성되는 중간 단계 논리에 대해 환각(Hallucination) 현상을 차단할 수 있는 프롬프트 차원의 제어 방법은 무엇인가?

### 실무 적용 맥락 (Practical Application Contexts)
- **Implementation:** 수학 연산, 데이터 논리 분석, 복합 조건 코딩 작업 시 프롬프트에 Zero-shot 트리거 또는 XML 분리 태그 적용.
- **System Design:** 멀티 에이전트 시스템에서 에이전트 간 추론 과정 교환 및 Self-Consistency 투표 앙상블 시스템 아키텍처 구축.
- **Operation / Maintenance:** 모델의 성능(A/B 테스트) 측정 시 일반 프롬프트와 CoT 프롬프트를 분리 배포하여 추론 단계의 품질 모니터링 수행.
- **Learning Path:** Prompt Engineering 기초(Zero-shot/Few-shot) -> Linear CoT -> Self-Consistency -> ToT/GoT 고급 추론 프레임워크 학습.

### 인접 주변 주제 (Adjacent Topics)
- [[LLM Hallucination Mitigation]] — 논리적 오류를 줄이기 위한 방어적 프롬프트 설계(Grounding).
- [[Model Context Protocol (MCP)]] — 외부 툴 연동 시 CoT 추론 단계 중 툴을 언제/어떻게 호출할지 결정하는 규범.


## 🔗 지식 그래프 (Knowledge Graph)
- **상위/루트:** [[context 이해 규칙]]
- **관련 개념:** [[Prompt Engineering]], [[In-Context Learning (ICL)]]
- **참조 맥락:** LLM의 복잡한 추론 문제 해결 성능을 극대화하기 위해 프롬프트를 설계하고 구조화할 때 참조.

## 📚 출처 (Sources)
- [S1] Prompt Engineering Guide: Chain-of-Thought, ReAct & Few-Shot Techniques 
- [S2] What is In-context Learning, and how does it work: The Beginner's Guide - Lakera AI
- [S3] Prompting best practices - Claude Platform Docs