--- id: SYS-STREAM-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [infrastructure, systems, streaming, real-time, kafka, flink, data-engineering, event-driven] last_reinforced: 2026-04-26 --- # Real-time Data Streaming (μ‹€μ‹œκ°„ 데이터 슀트리밍) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "데이터λ₯Ό κ±°λŒ€ν•œ ν˜Έμˆ˜μ— 가두어 썩게 두지 말고, μ‰Ό 없이 흐λ₯΄λŠ” κ°•λ¬Όμ²˜λŸΌ μ‹€μ‹œκ°„μœΌλ‘œ λΆ„μ„ν•˜μ—¬ μ°°λ‚˜μ˜ κ°€μΉ˜λ₯Ό ν†΅μ°°λ‘œ ν¬μ°©ν•˜λΌ" β€” λŠμž„μ—†μ΄ μƒμ„±λ˜λŠ” 데이터(Events)λ₯Ό μ§€μ—° μ‹œκ°„(Latency) 없이 μ‹€μ‹œκ°„μœΌλ‘œ μˆ˜μ§‘, 처리, λΆ„μ„ν•˜λŠ” μ»΄ν“¨νŒ… μ•„ν‚€ν…μ²˜. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** "Event-driven Orchestration and Continuous Aggregation" β€” 데이터가 λ°œμƒν•˜λŠ” μ¦‰μ‹œ 이벀트둜 λ°œν–‰ν•˜κ³ , 이λ₯Ό 슀트림 처리 엔진이 κ΅¬λ…ν•˜μ—¬ μœˆλ„μš°(Windowing) μ—°μ‚°μ΄λ‚˜ μƒνƒœ(State) 관리λ₯Ό 톡해 μ‹€μ‹œκ°„ 집계 κ²°κ³Όλ₯Ό μ‚°μΆœν•˜λŠ” νŒ¨ν„΄. - **핡심 기술 ꡬ성:** - **Message Broker (Kafka):** λŒ€λŸ‰μ˜ 슀트림 데이터λ₯Ό μœ μ‹€ 없이 μ „λ‹¬ν•˜λŠ” νŒŒμ΄ν”„λΌμΈ. - **Stream Processing (Flink, Spark Streaming):** 흐λ₯΄λŠ” 데이터에 λŒ€ν•œ 필터링, 쑰인, 집계 μˆ˜ν–‰. - **Time Handling:** 이벀트 λ°œμƒ μ‹œκ°„(Event Time)κ³Ό 처리 μ‹œκ°„(Processing Time)의 ꡬ뢄 관리. - **의의:** 금육ꢌ의 μ‹€μ‹œκ°„ 사기 탐지(FDS), 이컀머슀의 μ‹€μ‹œκ°„ κ°œμΈν™” μΆ”μ²œ, μžμœ¨μ£Όν–‰ μ„Όμ„œ λ°μ΄ν„°μ˜ 즉각적 λ°˜μ‘ λ“± 'μ‹œκ°„μ΄ κ³§ κ°€μΉ˜'인 λͺ¨λ“  ν˜„λŒ€μ  μ‹œμŠ€ν…œμ˜ 쀑좔. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** ν•˜λ£¨ ν•œ 번 λͺ¨μ•„μ„œ μ²˜λ¦¬ν•˜λ˜ 배치(Batch) 처리 λ°©μ‹μ—μ„œ λ²—μ–΄λ‚˜, μ΄μ œλŠ” λͺ¨λ“  데이터λ₯Ό 슀트림으둜 보고 배치λ₯Ό 슀트림의 νŠΉμˆ˜ν•œ 경우(Bounded Stream)둜 μ·¨κΈ‰ν•˜λŠ” '톡합 데이터 처리' νŒ¨λŸ¬λ‹€μž„μ΄ 확산됨. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” μ—μ΄μ „νŠΈμ˜ μ‹€μ‹œκ°„ λͺ¨λ‹ˆν„°λ§ 둜그 및 μ‚¬μš©μž μΈν„°λž™μ…˜ 데이터λ₯Ό 슀트리밍 λ°©μ‹μœΌλ‘œ μ²˜λ¦¬ν•˜μ—¬, 즉각적인 μ„±λŠ₯ λŒ€μ‹œλ³΄λ“œ μ—…λ°μ΄νŠΈμ™€ 이상 μ§•ν›„ 감지λ₯Ό μˆ˜ν–‰ν•¨. ## πŸ”— 지식 μ—°κ²° (Graph) - [[Queue-Management-Systems]], System-Design-for-AI-Scale, [[High-Availability-Systems]], [[Predictive-Analytics]] - **Raw Source:** 10_Wiki/Topics/AI/Real-time-Data-Streaming.md