Cognitive-Bias

📌 한 줄 통찰 (The Karpathy Summary)

"복잡한 세상을 빠르게 처리하기 위해 뇌가 사용하는 '인지적 지름길'이 만들어내는 체계적인 판단의 왜곡."

인지적 편향은 인간이 정보를 처리하고 결정을 내릴 때 발생하는 비논리적인 추론 패턴을 의미합니다.

발생 원인 (Heuristics):
- 뇌는 제한된 자원(시간, 에너지)으로 최선의 결과를 내기 위해 '휴리스틱(Heuristics, 발견법)'을 사용함. 이 과정에서 논리적 엄밀함보다 속도를 중시하여 편향이 발생.
주요 편향 유형:
- 확증 편향(Confirmation Bias): 자신의 기존 신념을 뒷받침하는 정보만 선택적으로 수용하고 반대되는 정보는 무시함.
- 가용성 휴리스틱(Availability Heuristic): 최근에 보았거나 강렬한 기억 등 떠올리기 쉬운 정보에 의존하여 빈도나 확률을 판단함.
- 고정점 편향(Anchoring Bias): 처음에 제시된 정보(숫자 등)에 과도하게 영향을 받아 이후의 판단을 내림.
AI 설계와 인지적 편향:
- 데이터 오염: 인간의 편향이 담긴 데이터를 학습한 AI는 동일한 편향을 재생산하거나 증폭시킬 수 있음.
- 사용자 경험(UX): 사용자가 AI의 답변을 맹신하는 '자동화 편향(Automation Bias)'을 방지하기 위한 인터페이스 설계가 필수적임.

편향의 양면성 (RL Update): 과거에는 편향을 단순한 '오류'로 보았으나, 현대 진화 심리학에서는 생존을 위해 필수적이었던 '효율적 전략'으로 재해석함. 따라서 AI는 모든 편향을 제거하기보다, 어떤 맥락에서 어떤 편향이 작용하는지 '이해'하고 보정해야 함.
Antigravity 전략: P-Reinforce 표준은 작성자의 주관적 편향을 배제하기 위해 '모순 및 업데이트' 섹션을 강제하여, 스스로 자신의 과거 판단을 의심하고 검증하도록 설계됨.