Symmetry-and-Invariance

📌 한 줄 통찰 (The Karpathy Summary)

"변화 속의 불변성: 물체를 돌리거나 뒤집어도 그 본질(의미)이 변하지 않는 대칭의 원리를 포착하여, 최소한의 정보만으로도 세상의 법칙을 오차 없이 일반화하는 지능의 수학적 기둥."

대칭성과 불변성(Symmetry and Invariance)은 물리학과 수학의 핵심 개념이자, 현대 딥러닝이 데이터를 효율적으로 학습하기 위해 따르는 가장 중요한 기하학적 규칙입니다.

핵심 개념:
- Symmetry (대칭): 어떤 변환(회전, 평행 이동 등)을 가해도 형태나 성질이 보존되는 상태.
- Invariance (불변성): 입력이 변해도 출력(결과)이 변하지 않는 성질. (예: 고양이 사진을 90도 돌려도 고양이라는 정답은 불변)
- Equivariance (동변성): 입력이 변한 만큼 출력도 일관되게 변하는 성질. (예: 물체가 오른쪽으로 이동하면 검출된 테두리 좌표도 오른쪽으로 이동)
딥러닝에서의 적용:
- CNN (합성곱 신경망): 평행 이동 불변성(Translation Invariance)을 내장하여 이미지의 위치와 상관없이 물제 인식 가능.
- Geometric Deep Learning: 그래프나 3D 데이터 등 복잡한 구조가 가진 대칭성을 보존하며 학습하는 고도의 알고리즘 설계.
물리학적 의의 (노터의 정리):
- 모든 대칭성에는 그에 상응하는 '보존 법칙'이 존재함 (예: 시간 대칭 -> 에너지 보전). 지능 시스템 역시 이 보존 법칙을 이해할 때 비로소 물리 세계를 제대로 예측할 수 있음.

과거 데이터와의 충돌: 과거에는 단순히 데이터 증강(Data Augmentation)을 통해 억지로 불변성을 학습시켰으나, 현대 AI 정책은 '아키텍처 자체'가 수학적으로 대칭성을 내포하도록 설계하는 'By-design Invariance' 정책으로 진화함(RL Update).
정책 변화(RL Update): 보안 및 개인정보 보호 정책에서, 데이터의 실체는 가리면서 통계적 대칭성은 유지하는 '차분 프라이버시(Differential Privacy)'와 같은 대칭성 기반 보안 정책이 차세대 표준으로 채택됨.

Representation-Theory, Manifold Learning, Computer-Vision, Physics-Informed Neural Networks (PINN), Straightening
Modern Tech/Tools: Equivariant CNNs, Graph Neural Networks (GNN), Lie Group architectures.