# [[알고리즘 편향 (Algorithmic Bias)]]

## 📌 Brief Summary
알고리즘 편향(Algorithmic Bias)이란 AI 시스템이 성별, 인종, 사회경제적 편견과 같은 인간의 선입견이 반영된 데이터로 훈련될 때, 이러한 문제를 영구화하거나 오히려 증폭시키는 현상을 의미합니다 [1]. 알고리즘 자체에는 스스로 인간과 같은 추론이나 비판적 사고를 할 수 있는 능력이 없기 때문에, 시스템 스스로 편향을 인식하거나 수정하지 못합니다 [1]. 이는 결과적으로 공정해 보이는 시스템에서도 차별적인 결과를 초래하거나 사용자의 확증 편향을 심화시키는 부작용을 낳습니다 [1, 2].

## 📖 Core Content
* **데이터에 내재된 인간의 편견 학습 및 증폭**
  알고리즘은 주어진 데이터를 기반으로 훈련되므로, 훈련 데이터에 인종, 성별, 사회경제적 편견 등이 포함되어 있을 경우 AI는 이를 그대로 반영하고 증폭시키게 됩니다 [1]. 예를 들어, AI 기반의 채용 도구는 겉보기에는 공정해 보일 수 있으나 알고리즘 편향으로 인해 차별적인 채용 관행을 초래할 수 있습니다 [1].
* **스스로 편향을 수정할 수 없는 한계**
  AI 시스템 자체에는 비판적 사고 능력이 부족하기 때문에, 자신의 편향을 스스로 인식하거나 그 단점을 바로잡으려는 시도를 할 수 없습니다 [1]. 
* **확증 편향과 반향실(Echo Chamber) 효과 심화**
  디지털 시대에 알고리즘은 사용자의 기존 신념이나 의견에 부합하는 정보만을 뉴스 및 소셜 미디어 피드에 제한적으로 제공하는 경향이 있습니다 [2]. 이는 인간이 원래 가지고 있는 '확증 편향(Confirmation bias)'을 더욱 악화시키며, 자신과 동일한 생각만 맴도는 반향실이나 허위 합의 효과(False consensus effect)에 갇히게 만듭니다 [2].

## ⚖️ Trade-offs & Caveats
* **블랙박스(Black box) 문제와 책임 소재의 모호성**
  AI 알고리즘이 신용도를 결정하거나 범죄 행동을 예측하는 등의 중요한 의사결정을 내릴 때 알고리즘의 투명성이 부족한 '블랙박스' 문제가 중대한 제약 사항으로 작용합니다 [3]. 만약 알고리즘이 편향되거나 잘못된 결정을 내렸을 때, 그 책임이 AI 개발자에게 있는지, 데이터를 입력한 사람에게 있는지, 아니면 사용자에게 있는지 명확히 규명하기 어렵다는 윤리적 문제가 발생합니다 [3].
* **인지적 오프로딩(Cognitive Offloading)으로 인한 비판적 사고 저하**
  알고리즘이 뉴스 기사를 추천하거나 의학적 치료법을 결정하는 등 인간을 대신해 의사결정을 내리면서, 인간은 알고리즘의 결정에 수동적으로 의존할 위험이 있습니다 [4]. 이처럼 정보를 기억하거나 아이디어를 내는 과정을 AI에 떠넘기는 인지적 오프로딩 현상은, 결과적으로 인간 스스로 질문하고 반성하며 정보를 비판적으로 평가하는 능력을 저하시킬 수 있습니다 [4].
* **맥락 이해 및 윤리적 판단의 부재**
  알고리즘과 AI는 방대한 데이터세트를 분류하고 잠재적 결과를 시뮬레이션하는 데는 매우 유용하지만, 인간이 지닌 직관, 감정, 상황적 맥락, 도덕적·사회적 요소를 온전히 파악하지 못합니다 [5]. 따라서 알고리즘은 인간의 비판적 사고와 윤리적 판단을 완전히 대체할 수 없으며, 이를 지원하는 보조 도구로만 사용되어야 한다는 점을 유의해야 합니다 [5].

---
*Last updated: 2026-05-04*