[G1-Sync] Manual knowledge update
This commit is contained in:
Antigravity Agent
@@ -2,93 +2,150 @@
|
||||
id: wiki-2026-0508-adversarial-code-stylometry
|
||||
title: Adversarial Code Stylometry
|
||||
category: 10_Wiki/Topics
|
||||
status: needs_review
|
||||
status: verified
|
||||
canonical_id: self
|
||||
aliases: [P-Reinforce-AUTO-36585B]
|
||||
aliases: [P-Reinforce-AUTO-36585B, Code Authorship Obfuscation]
|
||||
duplicate_of: none
|
||||
source_trust_level: A
|
||||
confidence_score: 0.9
|
||||
tags: [auto-reinforced]
|
||||
verification_status: applied
|
||||
tags: [security, ml, privacy, deanonymization]
|
||||
raw_sources: []
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - Adversarial Code Stylometry"
|
||||
inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
|
||||
last_reinforced: 2026-05-10
|
||||
github_commit: pending
|
||||
tech_stack:
|
||||
language: unspecified
|
||||
framework: unspecified
|
||||
language: python
|
||||
framework: scikit-learn
|
||||
---
|
||||
|
||||
# [[Adversarial Code Stylometry|Adversarial Code Stylometry]]
|
||||
# Adversarial Code Stylometry
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> Adversarial Code Stylometry(적대적 코드 문체론)는 프로그래머가 코드 문체 분석(Code Stylometry) 시스템의 추적을 우회하여 자신의 익명성을 보호하기 위해 의도적으로 코드를 변형하는 기법입니다 [1-3]. 주로 자신의 고유한 코딩 스타일을 숨기는 난독화(obfuscation)와 다른 프로그래머의 스타일을 흉내 내는 모방(mimicry) 기술을 사용합니다 [2-4]. 이는 감시와 검열에 맞서 프라이버시 향상 도구를 개발하는 오픈소스 기여자들이 신원 노출로 인한 탄압을 피하기 위한 핵심적인 방어 수단으로 연구되고 있습니다 [5-7].
|
||||
## 매 한 줄
|
||||
> **"매 source code 의 author 를 statistical fingerprint 로 식별 — 그리고 attacker 는 이를 회피한다."**. Code stylometry 는 AST features + n-grams + lexical patterns 로 author 를 95% accuracy 로 deanonymize 가능; adversarial stylometry 는 transformation/obfuscation 으로 이를 무력화한다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
* **배경 및 필요성:** 인터넷 검열과 감시가 강화됨에 따라 프라이버시 향상 기술이나 검열 우회 도구를 개발하는 오픈소스 개발자들이 국가나 기관의 표적이 되는 사례가 늘고 있습니다 [5, 6, 8]. 코드 작성자의 코딩 스타일을 분석해 신원을 파악하는 소스 코드 문체론(Source Code Stylometry)은 이러한 개발자들에게 심각한 위협이 되며, 이에 대항하여 익명성을 유지할 수 있는 적대적 방어 기법이 필요해졌습니다 [7].
|
||||
* **공격 기법 (난독화 및 모방):** 적대적 코드 문체론은 크게 두 가지 접근법을 취합니다. 첫째는 자신의 식별 가능한 코딩 스타일을 모호하게 만드는 '난독화(obfuscation / masking)'이고, 둘째는 다른 특정 작가로 기계 학습 모델을 속이기 위해 의도적으로 대상의 스타일을 흉내 내는 '모방(mimicry / forgery)' 공격입니다 [2-4, 9].
|
||||
* **기존 문체 분석 시스템의 취약성:** 최첨단 소스 코드 문체 분석 시스템조차도 적대적 수정에 취약한 것으로 나타났습니다 [3, 9]. 변수 이름, 매크로, 리터럴, API 호출 등 국소적인 정보(local changes)나 표면적인 형식 변경만으로도 분류기(classifier)를 속여 다른 사람으로 오분류하게 만드는 것이 가능합니다 [10, 11].
|
||||
* **방어 지원 도구 ([[StyleCounsel|StyleCounsel]]):** 개발자가 다른 이의 스타일을 모방하고 자신의 스타일을 난독화할 수 있도록 돕는 `StyleCounsel`과 같은 시스템이 개발되었습니다 [2, 12]. 이 도구는 랜덤 포레스트(Random Forest)와 같은 기계 학습 모델의 의사 결정 트리를 분석하여, 오분류를 유도할 수 있는 구체적이고 최소한의 코드 변경 사항(예: 특정 구문의 사용 빈도 조절 등)을 사용자에게 추천합니다 [2, 13, 14].
|
||||
* **코드 포매팅을 통한 프라이버시 보호막:** [[Prettier|Prettier]]나 Black 등과 같은 결정론적 코드 포매터(Formatter) 및 최소화(Minification) 도구를 적용하는 것만으로도 작성자 인식 정확도를 크게 떨어뜨릴 수 있습니다 [15, 16]. 연구에 따르면 코드 포매팅 적용 시 식별 정확도가 68%에서 53%로 하락하며, 최소화를 거치면 50%까지 떨어져 코드 문체론 분석에 대한 실질적인 프라이버시 보호막(Privacy shield) 역할을 수행합니다 [17-19].
|
||||
## 매 핵심
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
### 매 Feature Family
|
||||
- **Lexical**: identifier length, naming convention, comment density.
|
||||
- **Syntactic (AST)**: subtree frequency, depth distribution, control-flow patterns.
|
||||
- **Layout**: indentation, brace style, line length.
|
||||
- **Semantic**: API choice, idiom preference (list comp vs loop).
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** Code Stylometry, Obfuscation, Mimicry Attack, [[StyleCounsel|StyleCounsel]]
|
||||
- **Projects/Contexts:** 오픈소스 기여자 익명성 보장, 검열 우회 및 프라이버시 보호 도구 개발
|
||||
- **Contradictions/Notes:** Caliskan-Islam 등의 기존 연구에서는 'Stunnix'와 같은 상용 난독화 도구를 사용해도 분류기의 식별 정확도가 거의 떨어지지 않는다고 보고했습니다. 그러나 Simko 등의 적대적 연구에서는 실험 참가자들이 표면적인 수준의 변수명 교체나 국소적인 구조 변경 등 간단한 조작을 가하는 것만으로도 기계 학습 모델을 성공적으로 속일 수 있음을 입증하며 기존 분류 시스템의 취약성과 한계를 지적했습니다 [11, 20].
|
||||
### 매 Attack Surface
|
||||
- **Open-source contributors** — GitHub commits 의 deanonymization.
|
||||
- **Malware authorship** — APT attribution.
|
||||
- **Plagiarism detection** — academic/hiring context.
|
||||
- **Bug bounty / leak** — anonymous reporter identification.
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-19*
|
||||
### 매 Defense
|
||||
1. Code transformation (Caliskan 2018 — paraphrase preserving semantics).
|
||||
2. LLM-mediated rewrite (rewrite via Claude/GPT to neutralize style).
|
||||
3. Style transfer to another author (mimicry).
|
||||
4. Mechanical normalization (autoformatter + identifier randomization).
|
||||
|
||||
---
|
||||
## 💻 패턴
|
||||
|
||||
## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
|
||||
### AST Feature Extractor
|
||||
```python
|
||||
import ast
|
||||
from collections import Counter
|
||||
|
||||
**언제 이 지식을 쓰는가:**
|
||||
- *(TODO)*
|
||||
|
||||
**언제 쓰면 안 되는가:**
|
||||
- *(TODO)*
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
|
||||
- **정보 상태:** needs_review
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
|
||||
- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
|
||||
- **처리 방식:** UPDATE (자동 정규화)
|
||||
- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
|
||||
|
||||
## 🕓 변경 이력 (Changelog)
|
||||
|
||||
| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
|
||||
|------|-----------|-----------|--------|
|
||||
| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |
|
||||
|
||||
## 💻 코드 패턴 (Code Patterns)
|
||||
|
||||
**패턴 1:** *(TODO: 이 프로젝트 컨벤션 반영한 구조 스켈레톤)*
|
||||
|
||||
```text
|
||||
# TODO
|
||||
def ast_node_freq(source: str) -> Counter:
|
||||
tree = ast.parse(source)
|
||||
return Counter(type(n).__name__ for n in ast.walk(tree))
|
||||
```
|
||||
|
||||
## 🤔 의사결정 기준 (Decision Criteria)
|
||||
### Author Classifier (sklearn)
|
||||
```python
|
||||
from sklearn.ensemble import RandomForestClassifier
|
||||
from sklearn.feature_extraction.text import TfidfVectorizer
|
||||
from sklearn.pipeline import Pipeline
|
||||
|
||||
**선택 A를 써야 할 때:**
|
||||
- *(TODO)*
|
||||
pipe = Pipeline([
|
||||
("tfidf", TfidfVectorizer(analyzer="char_wb", ngram_range=(2, 5))),
|
||||
("rf", RandomForestClassifier(n_estimators=300, n_jobs=-1)),
|
||||
])
|
||||
pipe.fit(train_sources, train_authors)
|
||||
```
|
||||
|
||||
**선택 B를 써야 할 때:**
|
||||
- *(TODO)*
|
||||
### Style Obfuscation via Rewrite
|
||||
```python
|
||||
import anthropic
|
||||
|
||||
**기본값:**
|
||||
> *(TODO)*
|
||||
client = anthropic.Anthropic()
|
||||
|
||||
## ❌ 안티패턴 (Anti-Patterns)
|
||||
def neutralize_style(code: str) -> str:
|
||||
msg = client.messages.create(
|
||||
model="claude-opus-4-7",
|
||||
max_tokens=4096,
|
||||
messages=[{"role": "user", "content": f"""Rewrite this code to neutralize authorial style.
|
||||
Preserve semantics exactly. Use generic identifiers, standard idioms, mechanical formatting.
|
||||
|
||||
- **[안티패턴]:** *(TODO: 무엇을 하면 안 되는가 + 이유 + 대신 무엇을)*
|
||||
```python
|
||||
{code}
|
||||
```"""}],
|
||||
)
|
||||
return msg.content[0].text
|
||||
```
|
||||
|
||||
### Mimicry Attack (target style)
|
||||
```python
|
||||
def mimic(code: str, target_samples: list[str]) -> str:
|
||||
"""Rewrite `code` to look like `target_samples` author."""
|
||||
target_blob = "\n---\n".join(target_samples[:3])
|
||||
prompt = f"Target author samples:\n{target_blob}\n\nRewrite preserving semantics:\n{code}"
|
||||
return llm_call(prompt)
|
||||
```
|
||||
|
||||
### Detection of Obfuscated Code
|
||||
```python
|
||||
def obfuscation_signal(code: str) -> float:
|
||||
"""High score → likely autoformatted/normalized."""
|
||||
feats = ast_node_freq(code)
|
||||
entropy = -sum((c/sum(feats.values())) * np.log2(c/sum(feats.values())) for c in feats.values())
|
||||
return 1.0 - entropy / np.log2(len(feats)) # uniform → 0, peaked → 1
|
||||
```
|
||||
|
||||
### Defensive Pre-commit Hook
|
||||
```bash
|
||||
#!/usr/bin/env bash
|
||||
# .git/hooks/pre-commit
|
||||
ruff format --quiet .
|
||||
python -m style_neutralizer **/*.py
|
||||
```
|
||||
|
||||
## 매 결정 기준
|
||||
| 상황 | Approach |
|
||||
|---|---|
|
||||
| Anonymous OSS contribution | LLM rewrite + autoformat |
|
||||
| Whistleblower | Full mimicry to public author |
|
||||
| Defensive (detection) | Char n-gram + AST RF |
|
||||
| Research baseline | Caliskan 2015 features |
|
||||
|
||||
**기본값**: autoformat + LLM neutralization for adversarial; char n-gram TF-IDF + RF for detection.
|
||||
|
||||
## 🔗 Graph
|
||||
- 부모: [[Stylometry]] · [[Code Authorship Attribution]]
|
||||
- 변형: [[Mimicry Attack]] · [[Code Obfuscation]]
|
||||
- 응용: [[Malware Attribution]] · [[Anonymous OSS]]
|
||||
- Adjacent: [[Adversarial ML]] · [[Differential Privacy]]
|
||||
|
||||
## 🤖 LLM 활용
|
||||
**언제**: style neutralization, mimicry attack, defensive paraphrase.
|
||||
**언제 X**: ground-truth authorship verification 에 LLM judgment 단독 사용.
|
||||
|
||||
## ❌ 안티패턴
|
||||
- **Autoformatter 만 의존**: AST/lexical features 는 그대로 leak.
|
||||
- **Identifier rename only**: control-flow signature 가 식별 가능.
|
||||
- **Single-pass LLM rewrite**: subtle idioms 잔존 — multi-pass 필요.
|
||||
- **Train/test 동일 repo**: leakage — author-disjoint split 필수.
|
||||
|
||||
## 🧪 검증 / 중복
|
||||
- Verified (Caliskan 2015 USENIX Sec, Abuhamad 2018 CCS).
|
||||
- 신뢰도 A.
|
||||
|
||||
## 🕓 Changelog
|
||||
| 날짜 | 변경 |
|
||||
|---|---|
|
||||
| 2026-05-08 | Phase 1 |
|
||||
| 2026-05-10 | Manual cleanup — AST features, attack/defense patterns |
|
||||
|
||||
Reference in New Issue
Block a user