2nd/10_Wiki/Topics/Locality-Sensitive-Hashing.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
ALGO-LSH-001	Unified	1.0	algorithm Search|Search lsh hashing similarity-search Big-Data|Big-Data	2026-04-26

Locality-Sensitive Hashing (LSH, 지역 민감 해싱)

📌 한 줄 통찰 (The Karpathy Summary)

"해시 충돌을 '버그'가 아닌 '특징'으로 활용하여, 닮은꼴 데이터들을 같은 바구니에 담아라" — 비슷한 특성을 가진 고차원 데이터들이 높은 확률로 동일한 해시 값을 갖게 하여, 선형 탐색 없이도 유사한 데이터를 매우 빠르게 찾아내는 확률적 근사 검색 기법.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Probabilistic Bucketing" — 모든 데이터를 전수 조사하는 대신, 유사한 데이터끼리 같은 버킷(Bucket)에 모이도록 설계된 해시 함수를 통해 탐색 범위를 획기적으로 줄이는 고속 검색 패턴.
• 작동 원리:
  • Projection: 고차원 벡터를 임의의 축으로 투영하거나 해싱하여 차원 축소.
  • Collision as Similarity: 일반적인 해시와 반대로, 유사한 데이터일수록 해시 충돌(Collision)이 빈번하게 발생하도록 유도.
  • Candidate Selection: 동일한 해시 버킷에 담긴 데이터들만을 대상으로 정밀한 유사도 측정 수행.
• 의의: 수억 건 이상의 데이터가 쌓인 환경에서도 중복 문서 탐지, 유사 이미지 검색, 추천 시스템 등을 실시간 수준으로 처리 가능케 함.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 완전한 정답을 보장하지 못한다는 이유로 외면받기도 했으나, 데이터가 폭발적으로 증가하는 빅데이터 시대에 '완벽한 정답'보다 '충분히 빠른 근사 정답'이 더 가치 있음을 입증하며 필수 알고리즘으로 정착됨.
• 정책 변화: Antigravity 프로젝트는 1,174개의 방대한 문서 중 중복되거나 유사한 내용이 있는지 전수 검사할 때, 연산 효율을 위해 LSH 기반의 1차 필터링을 수행함.

🔗 지식 연결 (Graph)

• Indexing-Strategies, Vector-Database-Foundations, Dimensionality-Reduction, K-Nearest-Neighbors-K-NN
• Raw Source: 10_Wiki/Topics/AI/Locality-Sensitive-Hashing.md