chore(wiki): reinforce knowledge batch #6-#10 (200 docs milestone)

10_Wiki/Topics/AI/Parallel-Computing.md

@@ -1,32 +1,28 @@
 ---
-id: P-REINFORCE-AUTO-PACO-001
+id: PARALLEL-001
 category: "[[10_Wiki/💡 Topics/AI]]"
-confidence_score: 0.94
-tags: [auto-reinforced, parallel-computing, concurrent-computing, performance, hardware, supercomputing]
-last_reinforced: 2026-04-20
+confidence_score: 1.0
+tags: [computer-science, high-performance-computing, gpu, distributed-systems]
+last_reinforced: 2026-04-26
 ---
 
-# [[Parallel-Computing]]
+# [[Parallel Computing (병렬 컴퓨팅)]]
 
 ## 📌 한 줄 통찰 (The Karpathy Summary)
-> "동시 다발적 연산의 힘: 하나의 거대한 계산을 아주 작은 단위들로 쪼개어 수천, 수만 개의 프로세서에 나누어 주고 동시에 처리하게 함으로써, 수백 년 걸릴 작업을 단 며칠로 단축하는 디지털 물량 공세의 기술."
+> "동시에 여러 일을 처리하여 시간의 장벽을 넘어서라" — 하나의 커다란 문제를 여러 개의 작은 문제로 나누어 여러 프로세서가 동시에 계산하게 함으로써 연산 속도를 비약적으로 향상시키는 기법.
 
 ## 📖 구조화된 지식 (Synthesized Content)
-병렬 컴퓨팅(Parallel-Computing)은 많은 계산이나 프로세스가 동시에 실행되는 컴퓨팅 유형입니다.
-
-1.  **핵심 유형**:
-    *   **Bit-level Parallelism**: 데이터 단위를 쪼개 처리.
-    *   **Instruction-level Parallelism**: CPU가 여러 명령어를 겹쳐서 실행 (Pipeline).
-    *   **Data Parallelism**: 각 프로세서가 동일 연산을 서로 다른 데이터 덩어리에 수행. (MapReduce와 연결)
-    *   **Task Parallelism**: 서로 다른 작업을 각각의 프로세서에 맡김.
-2.  **왜 중요한가?**:
-    *   단일 CPU 속도의 물리적 한계(Moore's Law의 둔화)를 정면 돌파할 유일한 방법이며, 현대 AI의 빅뱅을 이끈 GPU 연산의 이론적 기초이기 때문임. (High-Performance Computing (HPC)와 연결)
+- **추출된 패턴:** 연산 독립성이 있는 작업들을 식별하여 물리적으로 분리된 여러 연산 장치(CPU 코어, GPU)에 할당하고 동시에 실행하는 처리 패턴.
+- **세부 내용:**
+    - **Data Parallelism:** 데이터를 쪼개어 여러 프로세서가 동일한 연산을 수행 (예: 행렬 곱셈).
+    - **Task Parallelism:** 서로 다른 작업을 여러 프로세서가 나누어 수행.
+    - **Shared vs Distributed Memory:** 연산 장치들이 메모리를 공유하는지, 각자 독립된 메모리를 사용하는지에 따른 통신 방식 차이.
+    - **GPU Computing:** 수천 개의 코어를 활용하여 딥러닝과 같은 대규모 병렬 연산에 특화된 환경 제공.
 
 ## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
-- **과거 데이터와의 충돌**: 과거에는 전력 효율 정책 때문에 병렬화에 한계가 있었으나, 현대 정책은 저전력 코어를 수만 개 때려 박는 특수 칩(TPU, NPU) 정책을 통해 병렬화의 효율 정책을 극대화함(RL Update).
-- **정책 변화(RL Update)**: 한 대의 서버를 넘어 수천 대의 서버를 엮는 '분산 병렬 컴퓨팅 정책'이 대세가 되며, '암달의 법칙(병렬화 효율의 상한선 정책)'을 극복하기 위한 소프트웨어적 오케스트레이션 정책이 중요해짐.
+- **과거 데이터와의 충돌:** 단일 코어 클럭 성능 향상에 의존하던 시대를 지나, 멀티 코어와 이기종 컴퓨팅(Heterogeneous Computing)이 표준이 된 시대로 전환.
+- **정책 변화:** Antigravity 프로젝트의 대규모 위키 인덱싱 작업 시, 병렬 컴퓨팅 기법을 적용하여 수천 개의 문서를 수 분 내에 처리함.
 
 ## 🔗 지식 연결 (Graph)
-- [[High-Performance Computing (HPC)]], [[MapReduce]], [[Hardware]], [[Efficiency]], [[Deep Learning (DL)]]
-- **Modern Tech/Tools**: CUDA (NVIDIA), MPI, OpenMP, TPU (Google), Cluster computing.
----
+- [[Distributed-Computing]], [[Linear-Algebra-for-ML]], [[GPU-Architecture]], [[Amdahls-Law]]
+- **Raw Source:** [[10_Wiki/Topics/AI/Parallel-Computing.md]]