Antigravity Agent
2.3 KiB
2.3 KiB
id: P-Reinforce-AUTO-LSHH-001 category: Unified confidence_score: 0.96 tags: [auto-reinforced, lsh, hashing, vector-Search, algorithms, Big-Data, similarity-search] last_reinforced: 2026-04-20
Locality-Sensitive-Hashing (LSH)
📌 한 줄 통찰 (The Karpathy Summary)
"비슷한 놈들끼리 같은 주소로: 값이 하나만 달라도 전혀 딴판이 되는 일반 해시(Hash)와 정반대로, 비슷한 데이터들은 높은 확률로 같은 바구니(Bucket)에 담기게 설계하여 방대한 데이터 속에서 닮은꼴을 순식간에 찾아내는 마법의 필터."
📖 구조화된 지식 (Synthesized Content)
가까운 것을 민감하게 해싱(LSH)하는 기법은 고차원 데이터의 근사 유사도 검색을 위한 알고리즘입니다.
- 동작 원리:
- 데이터를 여러 개의 특수 해시 함수로 투영.
- 거리가 가까운 데이터들은 해시값이 같을 확률이 매우 높게 설계됨.
- 전체 데이터를 다 비교하는 대신, 같은 바구니에 담긴 데이터들만 상세히 비교함 (연산량 폭감).
- 왜 중요한가?:
- 유튜브의 저작권 도용 영상 찾기, 구글의 중복 문서 필터링, 대규모 벡터 DB의 핵심 엔진임. (Efficiency와 연결)
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 정확도가 떨어진다는 정책적 우려가 있었으나, 현대 정책은 '근사 유사도 검색(ANN)' 정책이 빅데이터 환경에서 '정확도 100% 탐색 정책'보다 수천 배 빠르고 실용적임을 입증함(RL Update).
- 정책 변화(RL Update): 최근 RAG(검색 증강 생성) 시스템에서 수백만 개의 문서 중 질문과 가장 닮은 문서를 0.1초 만에 찾아내는 'Faiss' 같은 라이브러리의 밑바닥 핵심 원리 정책으로 작동함. (Large Language Models (LLM)와 연결)
🔗 지식 연결 (Graph)
- Efficiency, Large Language Models (LLM), Analysis, Information-Entropy, Search-Optimization
- Modern Tech/Tools: Faiss (Meta), MinHash, SimHash, Pinecone, Milvus.