---
id: SEC-PRIV-TECH-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, security, privacy-preserving-ai, differential-privacy, homomorphic-encryption, federated-learning, smpc]
last_reinforced: 2026-04-26
---

# Privacy-Preserving AI (프라이버시 보존 AI)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터를 '보지 않고도' 배우고, 정보를 '공유하지 않고도' 지혜를 나누는 암호학적 지능을 구축하라" — 데이터의 기밀성을 유지하면서도 인공지능 모델의 학습과 추론이 가능하도록 설계된 암호학 및 통계학적 기술 체계.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Confidential Computation and Decoupled Learning" — 원본 데이터에 접근하는 대신 암호화된 상태에서 연산하거나(Homomorphic), 데이터의 로컬 경계를 넘지 않은 채 모델의 가중치만 교환함으로써(Federated) 정보 노출의 원천을 차단하는 패턴.
- **4대 핵심 기술:**
    - **Differential Privacy (차분 프라이버시):** 데이터에 수학적 노이즈를 추가하여 개별 샘플 추론 방지.
    - **Homomorphic Encryption (동형 암호):** 암호화된 데이터 위에서 직접 연산을 수행.
    - **Federated Learning (연합 학습):** 분산된 장치에서 학습 후 결과만 취합.
    - **SMPC (Secure Multi-party Computation):** 여러 참여자가 데이터를 비밀리에 나누어 공동 연산.
- **의의:** 의료, 금융 등 민감한 데이터를 다루는 산업에서 AI 도입의 가장 큰 장벽인 보안 문제를 해결하고, 데이터의 가치만 활용하는 '신뢰할 수 있는 AI' 구현의 핵심 기술.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 보안을 강화하면 연산 속도가 수백 배 느려진다는 초기 한계를 넘어, 최근에는 전용 가속기(TEE)와 최적화된 암호 프로토콜을 통해 실용적인 수준의 성능을 확보하는 단계에 도달함.
- **정책 변화:** Antigravity 프로젝트는 에이전트 간의 지식 공유 시, 사용자별 민감 데이터가 섞이지 않도록 차분 프라이버시 원칙이 적용된 지식 인덱싱 아키텍처를 지향함.

## 🔗 지식 연결 (Graph)
- [[Personal-Information-Security]], [[Trustworthy-AI]], [[Local-Brain-Management]], Cloud-Computing-Foundations
- **Raw Source:** 10_Wiki/Topics/AI/Privacy-Preserving-AI.md
