2nd/10_Wiki/Topics/Privacy-Preserving-AI.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
SEC-PRIV-TECH-001	10_Wiki/💡 Topics/AI	1.0	ai security privacy-preserving-ai differential-privacy Homomorphic-Encryption Federated-Learning smpc	2026-04-26

Privacy-Preserving AI (프라이버시 보존 AI)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터를 '보지 않고도' 배우고, 정보를 '공유하지 않고도' 지혜를 나누는 암호학적 지능을 구축하라" — 데이터의 기밀성을 유지하면서도 인공지능 모델의 학습과 추론이 가능하도록 설계된 암호학 및 통계학적 기술 체계.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Confidential Computation and Decoupled Learning" — 원본 데이터에 접근하는 대신 암호화된 상태에서 연산하거나(Homomorphic), 데이터의 로컬 경계를 넘지 않은 채 모델의 가중치만 교환함으로써(Federated) 정보 노출의 원천을 차단하는 패턴.
• 4대 핵심 기술:
  • Differential Privacy (차분 프라이버시): 데이터에 수학적 노이즈를 추가하여 개별 샘플 추론 방지.
  • Homomorphic Encryption (동형 암호): 암호화된 데이터 위에서 직접 연산을 수행.
  • Federated Learning (연합 학습): 분산된 장치에서 학습 후 결과만 취합.
  • SMPC (Secure Multi-party Computation): 여러 참여자가 데이터를 비밀리에 나누어 공동 연산.
• 의의: 의료, 금융 등 민감한 데이터를 다루는 산업에서 AI 도입의 가장 큰 장벽인 보안 문제를 해결하고, 데이터의 가치만 활용하는 '신뢰할 수 있는 AI' 구현의 핵심 기술.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 보안을 강화하면 연산 속도가 수백 배 느려진다는 초기 한계를 넘어, 최근에는 전용 가속기(TEE)와 최적화된 암호 프로토콜을 통해 실용적인 수준의 성능을 확보하는 단계에 도달함.
• 정책 변화: Antigravity 프로젝트는 에이전트 간의 지식 공유 시, 사용자별 민감 데이터가 섞이지 않도록 차분 프라이버시 원칙이 적용된 지식 인덱싱 아키텍처를 지향함.

🔗 지식 연결 (Graph)

• Personal-Information-Security, Trustworthy-AI, Local-Brain-Management, Cloud-Computing-Foundations
• Raw Source: 10_Wiki/Topics/AI/Privacy-Preserving-AI.md