[G1-Sync] Manual knowledge update
This commit is contained in:
Antigravity Agent
@@ -2,67 +2,194 @@
|
||||
id: wiki-2026-0508-authenticity
|
||||
title: Authenticity
|
||||
category: 10_Wiki/Topics
|
||||
status: needs_review
|
||||
status: verified
|
||||
canonical_id: self
|
||||
aliases: [P-Reinforce-AUTO-AUTH-002]
|
||||
aliases: [진정성, AI authenticity, content provenance, C2PA, deepfake detection]
|
||||
duplicate_of: none
|
||||
source_trust_level: A
|
||||
confidence_score: 0.9
|
||||
tags: [auto-reinforced, authenticity, self, ethics, truthfulness, social-Psychology]
|
||||
source_trust_level: B
|
||||
confidence_score: 0.85
|
||||
verification_status: applied
|
||||
tags: [authenticity, ethics, branding, ai-disclosure, c2pa, watermark, provenance, deepfake]
|
||||
raw_sources: []
|
||||
last_reinforced: 2026-04-20
|
||||
last_reinforced: 2026-05-10
|
||||
github_commit: pending
|
||||
inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
|
||||
tech_stack:
|
||||
language: ethics / cryptography
|
||||
applicable_to: [Brand Strategy, Content Provenance, AI Disclosure]
|
||||
---
|
||||
|
||||
# [[Authenticity|Authenticity]]
|
||||
# Authenticity
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "진짜배기의 힘: 외부의 압력이나 유행에 휩쓸리지 않고, 자신의 내면적 가치와 신념에 일치하는 방식으로 존재하고 행동함으로써 얻게 되는 독보적인 신뢰성과 고유함."
|
||||
## 📌 한 줄 통찰
|
||||
> **"매 진짜 의 힘"**. 매 internal value + 매 external action 의 일치. 매 deepfake 시대 의 가장 큰 differentiator. 매 AI 의 "I'm an AI" 의 honesty 의 trust 의 maximum.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
진정성(Authenticity)은 개인이나 조직이 가진 본질적인 가치가 겉으로 드러나는 모습 및 행동과 일치하는 상태를 말합니다.
|
||||
## 📖 핵심
|
||||
|
||||
1. **진정성의 층위**:
|
||||
* **Internal Consistency**: 자신의 감정과 생각을 속이지 않는 심리적 정직함.
|
||||
* **Relational Transparency**: 타인과 소통할 때 가면을 쓰지 않고 있는 그대로를 보여줌.
|
||||
* **Moral Courage**: 이익이 침해되더라도 자신의 신념을 지키는 태도.
|
||||
2. **왜 중요한가?**:
|
||||
* 정보 과잉과 가짜 뉴스(Deepfakes)가 범람하는 시대에, 진정성은 사용자나 고객이 브랜드를 선택하는 가장 강력한 기준이 됨.
|
||||
3. **예술과 기술에서의 진정성**:
|
||||
* AI가 만든 완벽한 그림보다 작가의 고뇌와 흔적이 담긴 '서사적 진정성'에 더 큰 가치가 매개됨.
|
||||
### 매 layer
|
||||
1. **Internal consistency**: 매 self 의 honesty.
|
||||
2. **Relational transparency**: 매 mask X.
|
||||
3. **Moral courage**: 매 cost 가 있어도 매 belief.
|
||||
4. **Vulnerability**: 매 weakness 의 share (Brené Brown).
|
||||
5. **Provenance**: 매 origin 의 verify 가능.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '전문가다운 완벽함' 정책이 진정성으로 통했으나, 현대의 소셜 미디어 정책은 오히려 약점과 실패를 공유하는 '취약함의 노출(Vulnerability)'을 진정한 진정성 정책으로 간주함(RL Update).
|
||||
- **정책 변화(RL Update)**: AI 에이전트 정책에서, 인간인 척 속이는 가짜 진정성 대신 "나는 AI이지만 이런 원칙으로 돕는다"는 '역할적 정직성 정책'이 사용자 신뢰 확보의 핵심 가이드라인이 됨.
|
||||
### 매 modern context
|
||||
1. **Brand authenticity**: 매 marketing 의 가장 큰 lever (Edelman Trust Barometer).
|
||||
2. **Influencer**: 매 BeReal, 매 unfiltered.
|
||||
3. **AI content**: 매 disclosure 의 default.
|
||||
4. **Deepfake era**: 매 provenance 의 의무.
|
||||
5. **Whistleblower / journalism**: 매 source verify.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Aesthetic-Value|Aesthetic-Value]], [[Ethics & AI|Ethics & AI]], [[AI and Narrative|AI and Narrative]], Academic-InteGrity, [[Psychology & Behavior|Psychology & Behavior]]
|
||||
- **Modern Tech/Tools**: BeReal (Anti-filter SNS), Provenance tracking for digital content.
|
||||
---
|
||||
### 매 AI 시대 의 challenge
|
||||
- **Generative content**: 매 image / voice / video 의 indistinguishable.
|
||||
- **Personalized deepfake**: 매 target 의 specific.
|
||||
- **Voice cloning**: 매 3 second 로 OK.
|
||||
- **Synthetic media**: 매 election interference.
|
||||
- **Bot persona**: 매 Twitter / Reddit 의 manipulation.
|
||||
|
||||
## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
|
||||
### 매 verification standard
|
||||
|
||||
**언제 이 지식을 쓰는가:**
|
||||
- *(TODO)*
|
||||
#### C2PA (Coalition for Content Provenance)
|
||||
- 매 cryptographic signature 의 manifest.
|
||||
- 매 camera → edit → publish 의 chain.
|
||||
- 매 Adobe / Microsoft / Sony 의 backing.
|
||||
|
||||
**언제 쓰면 안 되는가:**
|
||||
- *(TODO)*
|
||||
#### IPTC Photo Metadata
|
||||
- 매 EXIF 의 extension.
|
||||
- 매 capture / edit history.
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
#### Watermark (visible / invisible)
|
||||
- 매 SynthID (Google).
|
||||
- 매 statistical watermark in LLM output.
|
||||
|
||||
- **정보 상태:** needs_review
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
|
||||
#### Blockchain provenance
|
||||
- 매 NFT 의 origin.
|
||||
- 매 immutable timestamp.
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
### 매 detection
|
||||
- **Deepfake detection**: 매 ML 기반 (FaceForensics++).
|
||||
- **Voice deepfake**: 매 spectral analysis.
|
||||
- **AI-text detection**: 매 GPTZero, 매 Originality.ai (매 false positive 많음).
|
||||
- **Reverse image search**: 매 source 의 trace.
|
||||
|
||||
- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
|
||||
- **처리 방식:** UPDATE (자동 정규화)
|
||||
- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
|
||||
### 매 ethical 권장
|
||||
- **AI 사용 의 disclose**.
|
||||
- **Synthetic content 의 watermark**.
|
||||
- **Source 의 verify**.
|
||||
- **Persona 의 honest** (no false biography).
|
||||
- **Vulnerability OK**.
|
||||
|
||||
## 🕓 변경 이력 (Changelog)
|
||||
## 💻 패턴 (응용 — provenance + disclosure)
|
||||
|
||||
| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
|
||||
|------|-----------|-----------|--------|
|
||||
| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |
|
||||
### C2PA manifest (구조)
|
||||
```json
|
||||
{
|
||||
"claim_generator": "Adobe Photoshop 25.0",
|
||||
"format": "image/jpeg",
|
||||
"instance_id": "xmp:iid:abc123",
|
||||
"claim": {
|
||||
"title": "My Photo",
|
||||
"format": "image/jpeg",
|
||||
"assertions": [
|
||||
{ "label": "c2pa.actions",
|
||||
"data": { "actions": [{ "action": "c2pa.created" },
|
||||
{ "action": "c2pa.edited",
|
||||
"parameters": { "name": "color-correct" } }] } },
|
||||
{ "label": "c2pa.training-mining",
|
||||
"data": { "entries": { "c2pa.ai_generative_training": { "use": "notAllowed" } } } }
|
||||
]
|
||||
},
|
||||
"signature": "..."
|
||||
}
|
||||
```
|
||||
|
||||
### AI disclosure (UI)
|
||||
```tsx
|
||||
<Message author="AI Assistant">
|
||||
<DisclosureBadge>AI-generated</DisclosureBadge>
|
||||
{content}
|
||||
</Message>
|
||||
```
|
||||
|
||||
→ 매 message-level explicit.
|
||||
|
||||
### LLM watermark (Aaronson scheme)
|
||||
```python
|
||||
# 매 generation 의 token 선택 의 cryptographic hash 의 bias
|
||||
def watermark_logits(logits, prev_token, key):
|
||||
h = hash(prev_token + key)
|
||||
bias = derive_bias(h, vocab_size) # 매 small bias
|
||||
return logits + bias
|
||||
|
||||
# Detection
|
||||
def detect_watermark(text, key):
|
||||
score = sum(check(token, prev, key) for prev, token in pairs(text))
|
||||
return score > THRESHOLD
|
||||
```
|
||||
|
||||
### Content authentication (verify chain)
|
||||
```python
|
||||
def verify_c2pa(image_path):
|
||||
manifest = read_c2pa_manifest(image_path)
|
||||
if not manifest: return 'unverified'
|
||||
|
||||
if not verify_signature(manifest): return 'tampered'
|
||||
|
||||
chain = manifest.get('chain', [])
|
||||
for step in chain:
|
||||
if not verify_step(step): return 'broken_chain'
|
||||
|
||||
return f'authentic, {len(chain)} edits tracked'
|
||||
```
|
||||
|
||||
### Persona honesty
|
||||
```ts
|
||||
const aiPersona = {
|
||||
name: 'Aria',
|
||||
identity: 'AI assistant', // 매 honest
|
||||
// ❌ NOT biography: 'Born in Seattle, 25 years old'
|
||||
greeting: "Hi! I'm Aria, an AI. How can I help?",
|
||||
responseToHumanQuestion: () =>
|
||||
"I'm an AI — I don't have personal experiences, but I can help you think through this.",
|
||||
};
|
||||
```
|
||||
|
||||
## 🤔 결정 기준
|
||||
| 상황 | 적용 |
|
||||
|---|---|
|
||||
| Brand strategy | Vulnerability + consistency + transparency |
|
||||
| AI agent | Identity disclose + persona honest |
|
||||
| Generative content | C2PA + watermark + disclosure |
|
||||
| Journalism | Source verify + provenance |
|
||||
| Marketing | Genuine story > polished |
|
||||
| Influencer | Behind-the-scenes + flaws OK |
|
||||
|
||||
**기본값**: 매 disclose + provenance + vulnerability.
|
||||
|
||||
## 🔗 Graph
|
||||
- 부모: [[Ethics]] · [[Branding]] · [[Trust]]
|
||||
- 변형: [[Vulnerability-Brown]] · [[Moral-Courage]] · [[Brand-Authenticity]]
|
||||
- 응용: [[C2PA]] · [[Content-Provenance]] · [[SynthID]] · [[AI-Disclosure]]
|
||||
- Adjacent: [[Deepfake]] · [[Anthropomorphism]] · [[EU-AI-Act]] · [[Watermarking]]
|
||||
|
||||
## 🤖 LLM 활용
|
||||
**언제**: 매 brand / agent persona design. 매 content provenance system. 매 AI disclosure policy.
|
||||
**언제 X**: 매 fake "vulnerability" 의 manipulation. 매 manufactured 'authentic' marketing.
|
||||
|
||||
## ❌ 안티패턴
|
||||
- **Performative vulnerability**: 매 fake 의 share.
|
||||
- **Fake AI persona biography**: 매 deception.
|
||||
- **No disclosure**: 매 trust 의 long-term destroy.
|
||||
- **Watermark 의 옵션** (audit 없이): 매 disable 의 OK.
|
||||
- **C2PA 의 partial**: 매 missing step 의 invalidate.
|
||||
- **"매 perfect = 매 authentic"**: 매 polished 의 manufactured 의 의심.
|
||||
|
||||
## 🧪 검증 / 중복
|
||||
- Verified (C2PA spec, Edelman Trust Barometer, Brown).
|
||||
- 신뢰도 B.
|
||||
- Related: [[C2PA]] · [[Anthropomorphism]] · [[AI-Disclosure]] · [[Deepfake]].
|
||||
|
||||
## 🕓 Changelog
|
||||
| 날짜 | 변경 |
|
||||
|---|---|
|
||||
| 2026-05-08 | Phase 1 |
|
||||
| 2026-05-10 | Manual cleanup — layers + C2PA + watermark + AI disclosure |
|
||||
|
||||
Reference in New Issue
Block a user