---
id: P-REINFORCE-AUTO-BENC-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.98
tags: [auto-reinforced, benchmarks, evaluation, performance-metrics, standardization, comparative-analysis]
last_reinforced: 2026-04-20
---

# [[Benchmarks]]

## 📌 한 줄 통찰 (The Karpathy Summary)
> "지능의 줄자: 서로 다른 시스템이나 알고리즘의 성능을 동일한 잣대로 비교하기 위해 설계된 표준화된 문제 세트이며, 기술 혁신의 이정표(Milestone)를 제시하는 경쟁의 마당."

## 📖 구조화된 지식 (Synthesized Content)
벤치마크(Benchmarks)는 특정 분야의 성능을 측정하고 비교하기 위한 지표이자 테스트 도구의 모음입니다.

1.  **AI 분야의 주요 벤치마크**:
    *   **ImageNet**: 이미지 인식 성능의 비약적 발전을 이끈 데이터셋.
    *   **GLUE/SuperGLUE**: 자연어 이해 능력을 다각도로 평가하는 표준.
    *   **MMLU**: 방대한 도메인 지식과 추론 능력을 종합적으로 평가 (최근 거대 모델 전쟁의 주전장).
2.  **왜 중요한가?**:
    *   객관적인 수치를 통해 기술의 한계를 명확히 하고, 연구자들이 집중해야 할 다음 목표(Next Challenge)를 정의함.
3.  **위험 요소 (Goodhart's Law)**:
    *   측정 지표가 목표가 되는 순간, 시스템은 본질적인 성능 향상보다 '시험 점수 따기(Benchmarking hacks)'에만 매몰될 수 있음.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거에는 정적인 데이터셋(Static test) 위주의 정책이었으나, 현대 정책은 모델이 학습 데이터로 시험 문제를 미리 보게 되는 '데이터 오염(Contamination)' 리스크 정책에 대응하여 동적으로 변하는 벤치마크 정책으로 전환 중임(RL Update).
- **정책 변화(RL Update)**: 단순히 기술적 성능뿐만 아니라 윤리적 안정성과 유해성을 평가하는 'Safety Benchmark 정책'이 모델 배포의 필수 통과 관문이 됨.

## 🔗 지식 연결 (Graph)
- [[Assessment]], [[Algorithmic Fairness]], Foundational Models, [[Ps-Reinforce]], [[Safety & Reliability]]
- **Modern Tech/Tools**: Hugging Face Open LLM Leaderboard, HELM (Holistic Evaluation of Language Models).
---
