32 lines
2.1 KiB
Markdown
32 lines
2.1 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-LSHH-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.96
|
|
tags: [auto-reinforced, lsh, hashing, vector-search, algorithms, big-data, similarity-search]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Locality-Sensitive-Hashing (LSH)]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "비슷한 놈들끼리 같은 주소로: 값이 하나만 달라도 전혀 딴판이 되는 일반 해시(Hash)와 정반대로, 비슷한 데이터들은 높은 확률로 같은 바구니(Bucket)에 담기게 설계하여 방대한 데이터 속에서 닮은꼴을 순식간에 찾아내는 마법의 필터."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
가까운 것을 민감하게 해싱(LSH)하는 기법은 고차원 데이터의 근사 유사도 검색을 위한 알고리즘입니다.
|
|
|
|
1. **동작 원리**:
|
|
* 데이터를 여러 개의 특수 해시 함수로 투영.
|
|
* 거리가 가까운 데이터들은 해시값이 같을 확률이 매우 높게 설계됨.
|
|
* 전체 데이터를 다 비교하는 대신, 같은 바구니에 담긴 데이터들만 상세히 비교함 (연산량 폭감).
|
|
2. **왜 중요한가?**:
|
|
* 유튜브의 저작권 도용 영상 찾기, 구글의 중복 문서 필터링, 대규모 벡터 DB의 핵심 엔진임. (Efficiency와 연결)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 정확도가 떨어진다는 정책적 우려가 있었으나, 현대 정책은 '근사 유사도 검색(ANN)' 정책이 빅데이터 환경에서 '정확도 100% 탐색 정책'보다 수천 배 빠르고 실용적임을 입증함(RL Update).
|
|
- **정책 변화(RL Update)**: 최근 RAG(검색 증강 생성) 시스템에서 수백만 개의 문서 중 질문과 가장 닮은 문서를 0.1초 만에 찾아내는 'Faiss' 같은 라이브러리의 밑바닥 핵심 원리 정책으로 작동함. (Large Language Models (LLM)와 연결)
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Efficiency]], [[Large Language Models (LLM)]], [[Analysis]], [[Information-Entropy]], [[Search-Optimization]]
|
|
- **Modern Tech/Tools**: Faiss (Meta), MinHash, SimHash, Pinecone, Milvus.
|
|
---
|