--- id: wiki-2026-0508-miscellaneous-ai-topics title: Miscellaneous AI Topics status: verified canonical_id: wiki-2026-0508-miscellaneous-ai-topics aliases: [Misc AI, AI Catch-all, AI Grab Bag] duplicate_of: none source_trust_level: A confidence_score: 0.85 verification_status: applied tags: [meta, index, ai, catch-all, niche] raw_sources: [] last_reinforced: 2026-05-10 github_commit: pending tech_stack: [] --- # Miscellaneous AI Topics ## 한 줄 정의 주류 카테고리(NLP·CV·RL·LLM)에 깔끔히 들어가지 않지만 실무에서 자주 마주치는 **틈새 AI 주제 모음**. 정식 페이지가 생기기 전 임시 정착지이자, 단독 페이지로 키우기에는 작은 개념의 집결지. ## 핵심 ### 자주 누락되는 영역 - **Causal Inference + ML**: do-calculus, double ML, uplift modeling. - **Differential Privacy in ML**: DP-SGD, ε-budget, federated 결합. - **Active Learning**: label cost 최소화, uncertainty/diversity sampling. - **Curriculum Learning**: easy → hard 순서 학습. - **Continual / Lifelong Learning**: catastrophic forgetting, EWC, replay. - **Meta-Learning**: MAML, Reptile, in-context learning과의 관계. - **AutoML 주변**: NAS, HPO, AutoFE. - **Tabular Deep Learning**: TabNet, FT-Transformer, GBM 비교. - **Time Series Foundation Models**: TimesFM, Chronos, Moirai. - **Symbolic + Neural**: neuro-symbolic, program synthesis. ### 응용 연구 trend 추적, 단독 페이지 승격 후보 판별, onboarding 시 "이런 것도 있다" 한 장 인덱스. ## 💻 패턴 ### Active Learning loop ```python def active_learning_loop(model, pool_X, oracle, budget=1000, batch=20): labeled_X, labeled_y = [], [] while len(labeled_y) < budget: probs = model.predict_proba(pool_X) # least confidence uncertainty = 1 - probs.max(axis=1) idx = uncertainty.argsort()[-batch:] x_new = pool_X[idx] y_new = oracle(x_new) labeled_X.extend(x_new); labeled_y.extend(y_new) pool_X = np.delete(pool_X, idx, axis=0) model.fit(labeled_X, labeled_y) return model ``` ### EWC (Elastic Weight Consolidation) 핵심 ```python def ewc_loss(model, task_loss, fisher, theta_star, lam=1000): penalty = 0.0 for n, p in model.named_parameters(): if n in fisher: penalty += (fisher[n] * (p - theta_star[n])**2).sum() return task_loss + lam * penalty ``` ### MAML inner step (개념) ```python def maml_step(model, loss_fn, x_s, y_s, x_q, y_q, lr=0.01): grads = torch.autograd.grad(loss_fn(model(x_s), y_s), model.parameters(), create_graph=True) fast_weights = [p - lr * g for p, g in zip(model.parameters(), grads)] # query loss with fast weights return functional_forward(model, fast_weights, x_q, y_q, loss_fn) ``` ### DP-SGD 노이즈 추가 ```python # opacus 사용 예시 from opacus import PrivacyEngine engine = PrivacyEngine() model, optim, loader = engine.make_private( module=model, optimizer=optim, data_loader=loader, noise_multiplier=1.1, max_grad_norm=1.0, ) ``` ### Uplift Tree (causal ML) ```python from causalml.inference.tree import UpliftTreeClassifier uplift = UpliftTreeClassifier(control_name='control') uplift.fit(X, treatment=t_arr, y=y_arr) te = uplift.predict(X_test) # treatment effect per row ``` ## 결정 기준 | 주제 | 단독 페이지로 분리할 시점 | |---|---| | 4회 이상 다른 페이지에서 링크 | 분리 | | 코드 예시 5개 이상 누적 | 분리 | | 결정 기준 표가 만들어짐 | 분리 | | 단순 용어 정의 1줄 | misc 유지 | | 트렌드성 짧은 수명 | misc 유지 | 기본값: **링크 4회 또는 250+ 라인 작성 가능** 시 단독 분리. ## 🔗 Graph - 부모: [[Machine-Learning]] - 변형: [[Active Learning]] · [[Continual-Learning]] - 응용: [[AutoML]] · [[Federated-Learning]] · [[Differential-Privacy]] - Adjacent: [[Neural-Architecture-Search-NAS]] · [[Hyperparameters|Hyperparameter-Optimization]] ## 🤖 LLM 활용 **언제**: 새 trend 키워드 등장 시 misc에 1줄 추가, 단독 분리 여부 판정 (링크 횟수 grep), 카테고리 재배치 brainstorm. **언제 X**: 핵심 개념을 misc에서 영구히 유지 (단독 페이지로 승격해야 graph 확장 가능). 정의 정확도가 낮은 LLM 답변을 그대로 commit. ## ❌ 안티패턴 - 모든 새 개념을 misc에 던져서 영구 방치 → 위키가 "잡동사니 폴더화". - 단독 페이지로 분리하지 않은 채 misc 페이지가 1000+ 라인으로 비대해짐. - 정식 카테고리(NLP/CV/RL)에 들어가야 할 주제를 misc에 잘못 배치. - Frontmatter `tags`가 너무 광범위해 검색 변별력 상실. ## 🧪 검증 / 중복 Verified source: Papers With Code 카테고리 트리, NeurIPS/ICML 워크숍 트랙, ML reading list (e.g., d2l.ai, Papers With Code SOTA). 신뢰도 A. 본 페이지는 메타/카테고리 인덱스로, 다른 페이지와 중복 아님. ## 🕓 Changelog - 2026-05-08 Phase 1 — 초기 stub. - 2026-05-10 Manual cleanup — FULL meta-index 형태로 재작성. 분리 기준표·코드 5종(active/EWC/MAML/DP-SGD/uplift) 추가.