---
id: SYS-LB-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [infrastructure, load-balancing, high-availability, scalability, system-design]
last_reinforced: 2026-04-26
---

# Load Balancing Strategies (부하 분산 전략)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "단일 지점의 과부하를 방지하고 시스템 전체의 체력을 균형 있게 활용하여, 어떠한 파도(Traffic)에도 무너지지 않는 견고한 요새를 구축하라" — 클라이언트의 요청을 여러 서버로 효율적으로 분산시켜 응답 시간을 최적화하고 특정 서버의 장애가 전체 서비스 중단으로 이어지지 않게 하는 시스템 아키텍처 전략.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Distributed Traffic Mediation" — 중앙의 로드 밸런서가 각 노드의 상태를 실시간으로 확인(Health Check)하고, 가용한 자원에게 요청을 지능적으로 전달하여 시스템의 가용성과 확장성을 동시에 확보하는 중재 패턴.
- **주요 알고리즘:**
    - **Round Robin:** 서버 순서대로 차례차례 할당. 서버 성능이 동일할 때 유리.
    - **Least Connections:** 현재 연결 수가 가장 적은 서버 우선. 작업 처리 시간이 제각각일 때 효과적.
    - **IP Hash:** 클라이언트 IP를 해싱하여 특정 서버에 고정(Sticky Session). 세션 유지가 필요할 때 사용.
    - **Weighted Strategies:** 서버 사양에 따라 가중치를 부여하여 더 좋은 서버에 더 많은 부하 배정.
- **L4 vs L7:**
    - **L4 (Transport Layer):** IP/Port 기반 분산. 빠르지만 세밀한 제어 불가.
    - **L7 (Application Layer):** URL, 쿠키, 헤더 등 콘텐츠 기반 분산. 지능적인 라우팅 가능.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 고가의 하드웨어 장비 중심에서, 이제는 클라우드 기반의 탄력적 로드 밸런싱(ELB, ALB)과 서비스 메시(Service Mesh)를 통한 정교한 트래픽 제어로 패러다임 전환.
- **정책 변화:** Antigravity 프로젝트의 백엔드 아키텍처는 L7 로드 밸런싱을 통해 에이전트 요청의 유형(지식 검색 vs 모델 생성)에 따라 최적화된 연산 노드로 트래픽을 라우팅함.

## 🔗 지식 연결 (Graph)
- [[High-Availability-Systems]], System-Design-for-AI-Scale, Cloud-Computing-Foundations, [[Kubernetes-for-AI-Orchestration]]
- **Raw Source:** 10_Wiki/Topics/AI/Load-Balancing-Strategies.md