9148c358d0
Topic_Agent/Topic_Blog/Topics/Topics_Biz/Topics_Meeting/Topics_Rag의 마크다운 지식 문서를 Topic_General/Topic_Programming/Topic_Graphic/Topic_Business 4개 카테고리로 재분류. - 중복 제거: frontmatter의 status:duplicate/merged + duplicate_of/redirect_to 필드로 자기 자신을 중복으로 선언한 리다이렉트 stub 1032개 제거, 완전 동일 내용 파일 472개 제거, 동일 파일명·다른 내용 충돌 시 더 큰(완전한) 버전만 유지(162개 제거) — 총 1639개 중복 제거. - 분류: 폴더 단위로 명확한 항목(AI_and_ML/Coding/Architecture 등 → Programming, Comfyui/Visual_Effects → Graphic, Topics_Biz/Topics_Meeting/사업 등 → Business, Poetic_Blog_Writing/창의성/Game_Design 등 → General)은 폴더 우선순위로, 나머지 혼재 폴더(Topic_Agent/Topic_Blog/Topics 루트/Thinking & Reasoning/Other/UI_UX_Assets)는 title/tags 키워드 스코어링으로 파일 단위 분류(불명확한 경우 General로 폴백). 원본 폴더명은 "From_*" 서브폴더로 보존해 추적 가능성 유지. - 최종 배치: Programming 2784 / General 1608 / Graphic 285 / Business 249 = 4926개 문서. - 에이전트 운영 상태(.astra/.agent/.obsidian/sessions/memory/_company/docs/lessons/_shared/src)는 지식 콘텐츠가 아니므로 재분류 대상에서 제외하고 원위치 유지. - Topics/Topic_email(상위 보호 폴더 Topic_email과 파일명 100% 중복) 삭제 — 보호 폴더 자체는 미변경. - 완전히 비게 된 Topic_Agent/Topic_Blog/Topics_Biz/Topics_Rag 폴더 제거.
6.1 KiB
6.1 KiB
id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, verification_status, tags, raw_sources, last_reinforced, github_commit, tech_stack
| id | title | category | status | canonical_id | aliases | duplicate_of | source_trust_level | confidence_score | verification_status | tags | raw_sources | last_reinforced | github_commit | tech_stack | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| wiki-2026-0508-장기-실행되는-실시간-데이터-대시보드-최적화 | 장기 실행되는 실시간 데이터 대시보드 최적화 | 10_Wiki/Topics | verified | self |
|
none | A | 0.9 | applied |
|
2026-05-10 | pending |
|
장기 실행되는 실시간 데이터 대시보드 최적화
매 한 줄
"매 24/7 의 의 stay-alive 의 dashboard 의 의 memory leak 의 X, latency 의 sub-second". 매 trading floor / NOC / SRE control room 의 의 운영 의 dashboard 의 의 일주일 의 reload 의 X 의 의 stable 의 의 의 hold 의 의 patterns. 매 frontend, transport, backend 의 3-tier 최적화.
매 핵심
매 핵심 challenges
- Memory leak — 매 listener / subscription / timer 의 의 leak.
- DOM bloat — 매 시간 의 흐름 의 의 thousands of elements 의 의 grow.
- Network bottleneck — 매 backpressure 없는 의 firehose.
- Backend pressure — 매 N client 의 의 query 의 의 storm.
- Stale data — 매 connection drop 의 의 silent staleness.
매 Frontend optimization
- 매 virtual scroll (TanStack Virtual, react-window).
- 매 windowed time-series — 매 keep last N points only.
- 매
requestAnimationFramebatching. - 매 web worker 의 의 transform.
- 매
useMemo/useCallback의 적절 의 사용.
매 Transport optimization
- 매 WebSocket > polling.
- 매 binary (MessagePack, Protocol Buffers) > JSON.
- 매 delta updates > full snapshots.
- 매 backpressure (drop / coalesce stale).
- 매 heartbeat + auto-reconnect.
매 Backend optimization
- 매 pre-aggregation (materialized views, ClickHouse).
- 매 fan-out (Redis Pub/Sub, NATS).
- 매 cache (Redis, in-memory LRU).
- 매 query budget per client.
- 매 connection pool sizing.
💻 패턴
매 Windowed time-series (frontend)
const MAX_POINTS = 1000;
function useTimeseries() {
const [data, setData] = useState<Point[]>([]);
useEffect(() => {
const ws = new WebSocket("wss://api/metrics");
ws.onmessage = (e) => {
const p = JSON.parse(e.data);
setData(prev => [...prev.slice(-MAX_POINTS + 1), p]);
};
return () => ws.close();
}, []);
return data;
}
매 RAF batching
function useBatchedUpdates<T>(stream: Observable<T>) {
const [state, setState] = useState<T[]>([]);
useEffect(() => {
let buffer: T[] = [];
let raf: number;
const sub = stream.subscribe(item => {
buffer.push(item);
if (!raf) {
raf = requestAnimationFrame(() => {
setState(prev => [...prev, ...buffer].slice(-1000));
buffer = [];
raf = 0;
});
}
});
return () => sub.unsubscribe();
}, [stream]);
return state;
}
매 WebSocket reconnect with backoff
function connect(url: string, onMsg: (m: any) => void) {
let retries = 0;
function open() {
const ws = new WebSocket(url);
ws.onmessage = e => onMsg(JSON.parse(e.data));
ws.onclose = () => {
const delay = Math.min(30000, 1000 * 2 ** retries++);
setTimeout(open, delay);
};
ws.onopen = () => { retries = 0; };
}
open();
}
매 Backpressure — 매 coalesce by key
class CoalescingBuffer<T extends { key: string }> {
private map = new Map<string, T>();
add(item: T) { this.map.set(item.key, item); }
flush(): T[] {
const arr = [...this.map.values()];
this.map.clear();
return arr;
}
}
매 Web Worker 의 의 transform
// worker.ts
self.onmessage = (e) => {
const transformed = heavyTransform(e.data);
self.postMessage(transformed);
};
// component.tsx
const worker = useMemo(() => new Worker("/worker.js"), []);
useEffect(() => {
worker.onmessage = e => setData(e.data);
return () => worker.terminate();
}, []);
매 Backend — pre-aggregation
-- ClickHouse 매 materialized view
CREATE MATERIALIZED VIEW metrics_1m TO metrics_1m_data AS
SELECT
toStartOfMinute(ts) AS minute,
service,
avg(latency_ms) AS p_avg,
quantile(0.99)(latency_ms) AS p99
FROM raw_metrics
GROUP BY minute, service;
매 Fan-out (Redis Pub/Sub)
# Backend publisher
r.publish("metrics", json.dumps(point))
# WebSocket gateway 매 subscribers fan-out
async def gateway(ws):
pubsub = r.pubsub()
pubsub.subscribe("metrics")
async for msg in pubsub.listen():
await ws.send(msg["data"])
매 결정 기준
| 상황 | Approach |
|---|---|
| 매 100+ updates/sec | 매 RAF batching + coalesce |
| 매 multi-hour session | 매 windowed buffer + memory monitor |
| 매 unreliable network | 매 reconnect + heartbeat + staleness banner |
| 매 1000+ concurrent users | 매 fan-out + edge cache |
| 매 high-fidelity charts | 매 WebGL (Plotly, deck.gl) > Canvas > SVG |
기본값: 매 WebSocket + binary + delta + windowed buffer + RAF batching.
🔗 Graph
- 부모: Real-time Systems · Frontend Performance
- 응용: Grafana
- Adjacent: Backpressure · Memory Profiling
🤖 LLM 활용
언제: 매 dashboard 의 의 hour 의 의 elapse 의 의 후 의 의 freeze / OOM 의 의 happen 시. 언제 X: 매 5min refresh 의 의 enough 의 dashboard — 매 over-engineering.
❌ 안티패턴
- Unbounded array growth: 매 매 모든 point 의 keep — 매 OOM.
- Polling 의 의 over WebSocket: 매 latency + load.
- No reconnect: 매 connection drop 의 의 silent black screen.
- Sync DOM update per tick: 매 RAF 의 의 X — 매 jank.
- JSON over MsgPack: 매 high-rate 의 의 의 4-10x 의 의 overhead.
🧪 검증 / 중복
- Verified — Grafana docs; Datadog real-user monitoring; High Performance Browser Networking (Grigorik); ClickHouse docs.
- 신뢰도 A.
🕓 Changelog
| 날짜 | 변경 |
|---|---|
| 2026-05-08 | Phase 1 |
| 2026-05-10 | Manual cleanup — 3-tier optimization (frontend/transport/backend) |