34 lines
2.3 KiB
Markdown
34 lines
2.3 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-BENC-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.98
|
|
tags: [auto-reinforced, benchmarks, evaluation, performance-metrics, standardization, comparative-analysis]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Benchmarks]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "지능의 줄자: 서로 다른 시스템이나 알고리즘의 성능을 동일한 잣대로 비교하기 위해 설계된 표준화된 문제 세트이며, 기술 혁신의 이정표(Milestone)를 제시하는 경쟁의 마당."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
벤치마크(Benchmarks)는 특정 분야의 성능을 측정하고 비교하기 위한 지표이자 테스트 도구의 모음입니다.
|
|
|
|
1. **AI 분야의 주요 벤치마크**:
|
|
* **ImageNet**: 이미지 인식 성능의 비약적 발전을 이끈 데이터셋.
|
|
* **GLUE/SuperGLUE**: 자연어 이해 능력을 다각도로 평가하는 표준.
|
|
* **MMLU**: 방대한 도메인 지식과 추론 능력을 종합적으로 평가 (최근 거대 모델 전쟁의 주전장).
|
|
2. **왜 중요한가?**:
|
|
* 객관적인 수치를 통해 기술의 한계를 명확히 하고, 연구자들이 집중해야 할 다음 목표(Next Challenge)를 정의함.
|
|
3. **위험 요소 (Goodhart's Law)**:
|
|
* 측정 지표가 목표가 되는 순간, 시스템은 본질적인 성능 향상보다 '시험 점수 따기(Benchmarking hacks)'에만 매몰될 수 있음.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 정적인 데이터셋(Static test) 위주의 정책이었으나, 현대 정책은 모델이 학습 데이터로 시험 문제를 미리 보게 되는 '데이터 오염(Contamination)' 리스크 정책에 대응하여 동적으로 변하는 벤치마크 정책으로 전환 중임(RL Update).
|
|
- **정책 변화(RL Update)**: 단순히 기술적 성능뿐만 아니라 윤리적 안정성과 유해성을 평가하는 'Safety Benchmark 정책'이 모델 배포의 필수 통과 관문이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Assessment]], [[Algorithmic Fairness]], Foundational Models, [[Ps-Reinforce]], [[Safety & Reliability]]
|
|
- **Modern Tech/Tools**: Hugging Face Open LLM Leaderboard, HELM (Holistic Evaluation of Language Models).
|
|
---
|