Antigravity Agent
32 lines
2.4 KiB
Markdown
32 lines
2.4 KiB
Markdown
---
|
|
id: [[P-Reinforce|P-Reinforce]]-AUTO-FOMT-001
|
|
category: Dev
|
|
confidence_score: 0.95
|
|
tags: [auto-reinforced, formal-methods, safety-critical, verification, [[Logic|Logic]], software-engineering]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Formal Methods|Formal Methods]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "수학으로 증명하는 완벽: 단순한 테스트(Test-driven)를 넘어, 소프트웨어가 설계된 명세대로 작동함을 수학적 논증으로 100% 보증함으로써 결함이 생명을 위협하는 극한의 환경에서 최후의 방어선이 되는 검증 기술."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
정형 기법(Formal Methods)은 수학적 모델을 사용해 시스템의 속성을 명시하고 개발 및 검증하는 기법입니다.
|
|
|
|
1. **핵심 단계**:
|
|
* **Formal [[Specification|Specification]]**: 모호한 일상어가 아닌 수학적 로직으로 시스템이 해야 할 일을 기술.
|
|
* **Model Checking**: 가능한 모든 상태를 자동으로 탐색하여 에러가 발생하는 경로가 없는지 증명.
|
|
* **Theorem Proving**: 논리적 추론을 통해 코드의 정확성을 증명.
|
|
2. **왜 중요한가?**:
|
|
* 자율주행차의 제어 로직, 우주선 소프트웨어, 보안 프로토콜, 스마트 컨트랙트 등 '에러 = 치명적 재앙'인 분야에서 수학적 신뢰성을 제공함. ([[AI Safety|AI Safety]]와 연결)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 너무 복잡하고 시간이 많이 걸려 '비실용적인 정책'으로 여겨졌으나, 현대 정책은 컴퓨팅 파워의 발전과 자동화 도구 정책 덕분에 클라우드 아키텍처나 하드웨어 설계 정책의 핵심 검증 단계로 안착함(RL Update).
|
|
- **정책 변화(RL Update)**: AI 모델의 출력을 믿을 수 없는 '확률적 함정 정책'을 극복하기 위해, 모델의 생성물을 정형 기법 정책으로 실시간 검증(Verify)하여 안전한 답변만 통과시키는 '신경-기호(Neuro-Symbolic) 통합 정책'이 안전 AI의 핵심 기술로 부상함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[AI Safety|AI Safety]], [[Logic|Logic]], [[Technical-Architecture|Technical-Architecture]], [[Quality Gates|Quality Gates]], [[Fault-Tolerance|Fault-Tolerance]]
|
|
- **Modern Tech/Tools**: TLA+, Coq, Lean, Z3 Theorem Prover.
|
|
---
|