Files
2nd/10_Wiki/Topic_Programming/From_Topics_Root/Data-Schema.md
T
Antigravity Agent 9148c358d0 docs(10_Wiki): 위키 전체 재구성 — Topic_* 폴더를 4개 카테고리로 통합 + 대규모 중복 제거
Topic_Agent/Topic_Blog/Topics/Topics_Biz/Topics_Meeting/Topics_Rag의 마크다운 지식 문서를
Topic_General/Topic_Programming/Topic_Graphic/Topic_Business 4개 카테고리로 재분류.

- 중복 제거: frontmatter의 status:duplicate/merged + duplicate_of/redirect_to 필드로
  자기 자신을 중복으로 선언한 리다이렉트 stub 1032개 제거, 완전 동일 내용 파일 472개 제거,
  동일 파일명·다른 내용 충돌 시 더 큰(완전한) 버전만 유지(162개 제거) — 총 1639개 중복 제거.
- 분류: 폴더 단위로 명확한 항목(AI_and_ML/Coding/Architecture 등 → Programming,
  Comfyui/Visual_Effects → Graphic, Topics_Biz/Topics_Meeting/사업 등 → Business,
  Poetic_Blog_Writing/창의성/Game_Design 등 → General)은 폴더 우선순위로,
  나머지 혼재 폴더(Topic_Agent/Topic_Blog/Topics 루트/Thinking & Reasoning/Other/UI_UX_Assets)는
  title/tags 키워드 스코어링으로 파일 단위 분류(불명확한 경우 General로 폴백).
  원본 폴더명은 "From_*" 서브폴더로 보존해 추적 가능성 유지.
- 최종 배치: Programming 2784 / General 1608 / Graphic 285 / Business 249 = 4926개 문서.
- 에이전트 운영 상태(.astra/.agent/.obsidian/sessions/memory/_company/docs/lessons/_shared/src)는
  지식 콘텐츠가 아니므로 재분류 대상에서 제외하고 원위치 유지.
- Topics/Topic_email(상위 보호 폴더 Topic_email과 파일명 100% 중복) 삭제 — 보호 폴더 자체는 미변경.
- 완전히 비게 된 Topic_Agent/Topic_Blog/Topics_Biz/Topics_Rag 폴더 제거.
2026-07-05 00:33:48 +09:00

5.9 KiB

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, verification_status, tags, raw_sources, last_reinforced, github_commit, tech_stack
id title category status canonical_id aliases duplicate_of source_trust_level confidence_score verification_status tags raw_sources last_reinforced github_commit tech_stack
wiki-2026-0508-data-schema Data Schema 10_Wiki/Topics verified self
Schema Design
Data Modeling
Schema Definition
none A 0.93 applied
data
schema
database
modeling
validation
2026-05-10 pending
language framework
SQL/JSON/TS Postgres / Avro / Zod / JSON Schema

Data Schema

매 한 줄

"매 schema 의 핵심: structure + constraints + evolution + 매 contract between producers/consumers". 매 1970 Codd relational model 으로 시작, 매 2000s schemaless / NoSQL backlash, 매 2020s schema-on-read 의 한계 인식 후 매 type-safe 회귀 (Zod, TypeScript-first ORMs, dbt contracts). 매 2026 현재 schema-as-code + version-aware evolution 의 standard.

매 핵심

매 schema layers

  • Conceptual: 매 ERD — 매 business entities.
  • Logical: 매 normalized tables — 매 BCNF/3NF.
  • Physical: 매 indexes, partitions, storage.
  • API/Wire: 매 JSON Schema, Avro, Protobuf, GraphQL.
  • Validation: 매 Zod, Pydantic, Joi (runtime).

매 evolution principles

  • Backward compatible: 매 add nullable / default 만 — 매 reader of old schema 의 새 data read 가능.
  • Forward compatible: 매 unknown field 의 ignore.
  • Full compatible: 매 둘 다.
  • SemVer for schemas: 매 breaking = major bump.

매 응용

  1. Database schema (Postgres, MySQL, BigQuery).
  2. Event streaming (Kafka + Schema Registry).
  3. API contracts (OpenAPI, GraphQL, tRPC).
  4. Data lake / lakehouse (Iceberg, Delta Lake schema).
  5. Form validation (frontend + backend shared via Zod).

💻 패턴

Postgres schema with constraints

CREATE TABLE users (
  id          UUID PRIMARY KEY DEFAULT gen_random_uuid(),
  email       TEXT NOT NULL UNIQUE CHECK (email ~* '^.+@.+\..+$'),
  name        TEXT NOT NULL,
  created_at  TIMESTAMPTZ NOT NULL DEFAULT now(),
  status      TEXT NOT NULL CHECK (status IN ('active','suspended','deleted'))
);

CREATE INDEX users_status_idx ON users(status) WHERE status = 'active';

Zod (TypeScript) — runtime + static type

import { z } from "zod";

export const User = z.object({
  id:     z.string().uuid(),
  email:  z.string().email(),
  name:   z.string().min(1).max(100),
  age:    z.number().int().min(0).max(150).optional(),
  status: z.enum(["active", "suspended", "deleted"]),
});
export type User = z.infer<typeof User>;

const parsed = User.parse(jsonInput);  // throws on invalid

JSON Schema (language-agnostic)

{
  "$schema": "https://json-schema.org/draft/2020-12/schema",
  "type": "object",
  "required": ["id", "email"],
  "properties": {
    "id":     { "type": "string", "format": "uuid" },
    "email":  { "type": "string", "format": "email" },
    "age":    { "type": "integer", "minimum": 0 }
  },
  "additionalProperties": false
}

Avro schema (Kafka)

{
  "type": "record",
  "name": "UserCreated",
  "namespace": "com.example.events",
  "fields": [
    { "name": "id",    "type": "string" },
    { "name": "email", "type": "string" },
    { "name": "age",   "type": ["null", "int"], "default": null }
  ]
}

Protobuf (gRPC)

syntax = "proto3";
package user.v1;

message User {
  string id    = 1;
  string email = 2;
  string name  = 3;
  optional int32 age = 4;
  enum Status { ACTIVE = 0; SUSPENDED = 1; DELETED = 2; }
  Status status = 5;
}

Pydantic v2 (Python)

from pydantic import BaseModel, EmailStr, Field
from typing import Literal
from uuid import UUID

class User(BaseModel):
    id:     UUID
    email:  EmailStr
    name:   str = Field(min_length=1, max_length=100)
    age:    int | None = Field(default=None, ge=0, le=150)
    status: Literal["active", "suspended", "deleted"]

Migration (Alembic / Drizzle)

# alembic upgrade — backward compatible
def upgrade():
    op.add_column("users",
        sa.Column("phone", sa.String(20), nullable=True))  # nullable = safe

Iceberg schema evolution (lakehouse)

ALTER TABLE catalog.db.users ADD COLUMN phone STRING;
ALTER TABLE catalog.db.users RENAME COLUMN nm TO name;  -- safe in Iceberg

매 결정 기준

상황 Approach
OLTP RDBMS Strict SQL DDL + migrations
Event streaming Avro + Schema Registry
Microservice gRPC Protobuf
Frontend form + backend Zod (shared)
Data lake Iceberg / Delta with schema evolution
Document store JSON Schema validation in app

기본값: 매 strict schema-first — 매 schemaless 의 default 의 X (debt 누적).

🔗 Graph

🤖 LLM 활용

언제: 매 schema drafting from natural-language requirements, 매 migration generation, 매 schema diff explanation, 매 cross-format conversion (Postgres ↔ Avro ↔ Protobuf). 언제 X: 매 production migrations 의 LLM 의 단독 실행 X — 매 review + dry-run 필수.

안티패턴

  • Schema-on-read everything: 매 cost 는 consumer 가 부담 — 매 chaos.
  • Breaking changes without versioning: 매 consumer outage.
  • Storing JSON blobs in JSON column without structure: 매 query nightmare.
  • No NOT NULL / no FK / no CHECK: 매 DB 의 dumb storage 화.
  • Reusing field IDs in protobuf: 매 wire incompatibility.
  • Adding required field 의 backward compatibility 위반.

🧪 검증 / 중복

  • Verified (Codd 1970, Kleppmann "Designing Data-Intensive Applications", Confluent Schema Registry docs, JSON Schema 2020-12, Iceberg spec).
  • 신뢰도 A.

🕓 Changelog

날짜 변경
2026-05-08 Phase 1
2026-05-10 Manual cleanup — schema layers + evolution + 2026 tooling