--- id: NLP-NLG-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [nlp, nlg, natural-language-generation, llm, decoding-strategies, generative-ai] last_reinforced: 2026-04-26 --- # Natural Language Generation (NLG, μžμ—°μ–΄ 생성) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "λ°μ΄ν„°μ˜ 정적 정보λ₯Ό μœ λ €ν•œ μ–Έμ–΄μ˜ νλ¦„μœΌλ‘œ μΉ˜ν™˜ν•˜μ—¬, 기계와 인간이 μ†Œν†΅ν•˜λŠ” 'ν‘œν˜„μ˜ μ°½'을 열어라" β€” κ΅¬μ‘°ν™”λœ λ°μ΄ν„°λ‚˜ λ‚΄λΆ€ 지식을 인간이 읽고 이해할 수 μžˆλŠ” μžμ—°μŠ€λŸ¬μš΄ ν…μŠ€νŠΈ λ¬Έμž₯으둜 λ³€ν™˜ν•˜λŠ” μžμ—°μ–΄ 처리의 핡심 μ„ΈλΆ€ λΆ„μ•Ό. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** "Probabilistic Token Sequence Prediction" β€” μ΄μ „κΉŒμ§€ μƒμ„±λœ λ‹¨μ–΄λ“€μ˜ λ§₯락을 λ°”νƒ•μœΌλ‘œ, λ‹€μŒμ— 올 κ°€μž₯ μ μ ˆν•œ 단어λ₯Ό ν™•λ₯ μ μœΌλ‘œ μ˜ˆμΈ‘ν•˜κ³  μ—°κ²°ν•˜μ—¬ ν•˜λ‚˜μ˜ μ™„κ²°λœ λ¬Έμž₯을 μ™„μ„±ν•΄ λ‚˜κ°€λŠ” νŒ¨ν„΄. - **핡심 ν”„λ‘œμ„ΈμŠ€:** - **Content Planning:** 무엇을 말할지 κ²°μ • (정보 μΆ”μΆœ 및 μš”μ•½). - **Sentence Realization:** 문법적 κ·œμΉ™μ΄λ‚˜ ν™•λ₯  λͺ¨λΈμ„ μ‚¬μš©ν•˜μ—¬ λ¬Έμž₯ ν˜•μ„±. - **Decoding Strategies:** Greedy Search, Beam Search, Top-k/Top-p Sampling 등을 톡해 μƒμ„±μ˜ μ°½μ˜μ„±κ³Ό 정확도 쑰절. - **의의:** 챗봇, μžλ™ 기사 μž‘μ„±, μ½”λ“œ 생성, ν…μŠ€νŠΈ μš”μ•½ λ“± ν˜„λŒ€ μƒμ„±ν˜• AI(Generative AI)의 μ‚¬μš©μž κ²½ν—˜μ„ κ²°μ •μ§“λŠ” μ΅œμ’… 좜λ ₯ 단계 기술. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** κ·œμΉ™ 기반의 ν…œν”Œλ¦Ώ λ°©μ‹μ—μ„œ λ²—μ–΄λ‚˜, μ΄μ œλŠ” κ±°λŒ€ μ–Έμ–΄ λͺ¨λΈ(LLM)이 λ¬Έλ§₯을 μ™„μ „νžˆ μ΄ν•΄ν•˜κ³  인간과 ꡬ뢄이 λΆˆκ°€λŠ₯ν•  μ •λ„μ˜ κ³ ν’ˆμ§ˆ λ¬Έμž₯을 μƒμ„±ν•˜λŠ” λ”₯λŸ¬λ‹ 기반 NLGκ°€ 지배적인 νŒ¨λŸ¬λ‹€μž„μ΄ 됨. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” μ—μ΄μ „νŠΈμ˜ 응닡 생성 μ‹œ, ν• λ£¨μ‹œλ„€μ΄μ…˜(Hallucination)을 μ–΅μ œν•˜κΈ° μœ„ν•΄ 지식 기반(RAG)을 μ°Έμ‘°ν•œ 'κ·Όκ±° 쀑심 생성' κ°€μ΄λ“œλΌμΈμ„ μ΅œμš°μ„ μœΌλ‘œ μ μš©ν•¨. ## πŸ”— 지식 μ—°κ²° (Graph) - [[Natural-Language-Processing-NLP]], Transformer-Architecture-Foundations, Decoding-Strategies-in-LLM, [[Hallucination-in-LLM]] - **Raw Source:** 10_Wiki/Topics/AI/Natural-Language-Generation-NLG.md