Organizer 정리 산출물(From_RawData) + 이사 체크리스트 + 인덱스 갱신
- Raw_Data 자동 정리 산출물이 각 도메인 From_RawData/ 로 편입, 00_INDEX 연결 갱신 - 컴퓨터_이사_체크리스트.md 추가 (두뇌-상대 경로 규약 v2.2.304 — 새 컴퓨터에서 바꿀 절대 경로는 localBrainPath 1개) - Astra 세션 산출물(에피소드 기억·기능 인벤토리) 갱신 Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
Antigravity Agent
@@ -0,0 +1,93 @@
|
||||
---
|
||||
id: centered-kernel-alignment
|
||||
title: "Centered Kernel Alignment"
|
||||
category: "AI_and_ML"
|
||||
status: "draft"
|
||||
verification_status: "conceptual"
|
||||
canonical_id: ""
|
||||
aliases: ["CKA", "센서드 커널 정렬", "Central Kernel Alignment"]
|
||||
duplicate_of: ""
|
||||
source_trust_level: "A"
|
||||
confidence_score: 0.95
|
||||
created_at: 2026-07-11
|
||||
updated_at: 2026-07-11
|
||||
review_reason: ""
|
||||
merge_history: []
|
||||
tags: ["research", "context 이해 규칙"]
|
||||
raw_sources: ["[S1] Path to Intelligence: Measuring Similarity between Human Brain and Large Language Model Beyond Language Task - arXiv", "[S2] 다차원적 맥락 이해 규범의 통섭적 분석: 인지과학, 언어학, 컴퓨터 과학 및 인공지능 모델의 통합적 메커니즘"]
|
||||
applied_in: []
|
||||
github_commit: ""
|
||||
---
|
||||
|
||||
# [[Centered Kernel Alignment]]
|
||||
|
||||
## 🎯 한 줄 통찰 (One-line insight)
|
||||
두 개 이상의 이질적인 시스템(예: 인간의 뇌와 인공지능 모델) 간 내부 표상의 구조적 정렬 상태와 유사도를 신호의 크기나 차원에 구애받지 않고 측정하는 수학적 분석 기법.
|
||||
|
||||
## 🧠 핵심 개념 (Core concepts)
|
||||
- **관계적 구조 포착 (Capturing Relational Structure):** 단순한 상관관계나 디코딩 방식과 달리, 각 표상 공간 내에서 실험 전반에 걸친 활동 패턴들이 서로 어떻게 연관되어 있는지를 포착하여 시스템 간 구조를 비교함 [S1].
|
||||
- **변환 불변성 (Invariance to Transformations):** 등방성 스케일링(isotropic scaling)과 직교 변환(orthogonal transformations)에 불변하여 신호의 크기나 차원, 측정 공간의 차이에 강건함(robust) [S1].
|
||||
- **그램 행렬 연산 (Gram Matrices Operation):** 두 특징 행렬 간의 내적(inner-product) 연산을 기반으로 선형 CKA(Linear CKA)를 산출하여 유사성을 정량화함 [S1].
|
||||
|
||||
## 🧩 추출된 패턴 (Extracted patterns)
|
||||
- **인공지능과 생물학적 뇌의 신경 표상 정렬 (Neural Representational Alignment):** 인간 피험자의 두개골 내부 뇌파(iEEG) 고주파 활동(HFA) 데이터와 대규모 언어 모델(LLM)의 은닉 상태(Hidden States)를 매핑하고 분석할 때 핵심 유사도 평가 도구로 활용됨 [S1], [S2].
|
||||
- **시간 동적 정렬 (Temporal Dynamics Alignment):** 시간 구간(time bins)별로 CKA 점수를 계산하여 특정 행동 반응(예: 의사결정 시점)이나 자극 인지 시점에서 두 시스템 간의 표상 정렬이 어떻게 진화하는지 추적함 [S1].
|
||||
|
||||
## ⚖️ 비교 및 선택 기준 (Comparison & decision criteria)
|
||||
|
||||
| 항목 (Option) | 장점 | 단점 | 언제 선택 |
|
||||
|---|---|---|---|
|
||||
| **[[Centered Kernel Alignment]] (CKA)** | 스케일링 및 회전 변환에 강건함. 차원이나 측정 공간이 전혀 다른 두 시스템 간의 관계적 구조를 직접 비교할 수 있음 [S1]. | 고차원 행렬의 내적 연산이 요구되므로 계산 비용이 발생할 수 있음 (수식적 특성에 기인). | 구조가 완전히 다른 시스템(인간의 뇌파와 LLM 등)의 내부 표상이 지닌 근본적인 구조적 유사성을 증명할 때 [S1]. |
|
||||
| **단순 상관관계 및 디코딩 (Simple Correlation / Decoding)** | 계산이 상대적으로 직관적이고 가벼움. | 차원 수나 신호의 크기(magnitude) 차이에 취약하며, 전체적인 표상 공간의 관계적 구조를 담아내지 못함 [S1]. | 데이터 차원과 측정 단위가 동일하여 단순한 선형적 관계만을 빠르게 확인하고자 할 때. |
|
||||
|
||||
## 📖 세부 내용 (Details)
|
||||
- **개념 및 목적:** CKA는 코넬브리스 등(Kornblith et al. 2019)에 의해 설계된 기법으로, 서로 다른 시스템의 내부 표상 간 구조적 정렬을 측정하는 데 사용된다 [S1]. 특히 신호 크기, 차원, 측정 공간에서 큰 차이를 보이는 인간의 iEEG 신호와 LLM의 은닉 상태를 비교하는 데 매우 적합하다 [S1].
|
||||
- **선형 CKA 공식:** 선형 CKA는 두 개의 특징 행렬 $X$ 와 $Y$ 의 그램(내적) 행렬을 사용하여 계산된다. 공식은 다음과 같이 프로베니우스 노름(Frobenius norm)을 활용하여 도출된다: `CKA(X,Y) = ||Y^T X||_F^2 / (||X^T X||_F ||Y^T Y||_F)` [S1].
|
||||
- **실험적 입증:** 감각-운동 인지 예측 과제(sensory-motor task) 실험에서 LLM의 은닉 상태와 인간 뇌의 HFA 신호를 CKA로 대조한 결과, 랜덤 노이즈와의 유사도는 미미(0.0174~0.0734)한 반면 LLM과 인간 뇌파 간에는 유의미한 중간 수준의 정렬(CKA = 0.3926)이 관찰되었다 [S1]. 이는 LLM이 인간의 신경 인코딩을 체계적으로 반영하는 태스크 관련 구조를 내재하고 있음을 입증한다 [S1], [S2].
|
||||
|
||||
## ⚖️ 모순 및 업데이트 (Contradictions & updates)
|
||||
소스에서 확인되지 않음.
|
||||
|
||||
## 🛠️ 적용 사례 (Applied in summary)
|
||||
현재 발견된 실제 적용 사례(소스 코드, 파일 경로, Git 커밋 해시 등)가 없습니다. (소스 데이터 상에서는 인지과학 논문의 인공지능-뇌파 유사성 측정 실험 도구로만 기술되어 있습니다.)
|
||||
|
||||
## 💻 코드 패턴 (Code patterns)
|
||||
소스에 코드 예시 없음.
|
||||
|
||||
## ✅ 검증 상태 및 신뢰도
|
||||
- **상태:** draft
|
||||
- **검증 단계:** conceptual
|
||||
- **출처 신뢰도:** A
|
||||
- **신뢰 점수:** 0.95
|
||||
- **중복 검사 결과:** 신규 생성 (New discovery)
|
||||
|
||||
## 🔗 관련 문서 링크 (Related document links)
|
||||
|
||||
### 상위/유사 개념
|
||||
- [[context 이해 규칙]] — 연결 이유: 인지 및 컴퓨팅 모델에서 맥락 정보의 유사성과 처리 구조를 비교하는 근본적인 측정 규범 제공
|
||||
- [[Neural Representational Alignment]] — 연결 이유: CKA 기법을 통해 입증하려는 LLM과 인간 신경 활동 간의 표상적 동질성 개념
|
||||
- [[Large Language Models]] — 연결 이유: CKA 분석의 주요 대상이 되는 거대 AI 신경망 모델
|
||||
|
||||
### 심층 후속 질문 (Deeper Research Questions)
|
||||
- CKA를 활용하여 도출된 LLM과 인간 뇌의 '유의미한 정렬'이 자연어 처리 외의 다른 추론 영역(예: 시각, 운동 제어)에서도 동일하게 관측되는가?
|
||||
- 비선형 CKA(Non-linear CKA) 모델은 선형 CKA와 비교했을 때 다차원 맥락 공간 매핑에 있어 어떤 이점을 제공하는가?
|
||||
- CKA 연산량이 극도로 커지는 초거대 모델 분석 시 효율성을 높일 수 있는 근사(approximation) 알고리즘은 무엇인가?
|
||||
|
||||
### 실무 적용 맥락 (Practical Application Contexts)
|
||||
- **Implementation:** 서로 다른 아키텍처를 가진 두 AI 모델 간의 레이어별 표상 유사도를 비교하여 지식 증류(Knowledge Distillation)의 손실 함수로 활용
|
||||
- **System Design:** 다중 모달(Multi-modal) 데이터 간의 잠재 공간(Latent Space) 정렬 상태를 수치적으로 검증하기 위한 평가 지표 설계
|
||||
- **Operation / Maintenance:** 모델의 파인튜닝 전후 내부 지식 구조의 변형(Catastrophic Forgetting 등) 정도를 모니터링하기 위한 무결성 검증
|
||||
- **Learning Path:** 머신러닝의 메타 학습(Meta-learning) 및 표상 학습(Representation Learning)의 성능을 분석하는 핵심 수학적 툴로 학습
|
||||
|
||||
### 인접 주변 주제 (Adjacent Topics)
|
||||
- [[Latent Space]] — 확장 방향: CKA를 통해 정렬성을 비교하는 실제 다차원 임베딩 공간의 이해
|
||||
- [[In-Context Learning]] — 확장 방향: LLM이 은닉 상태를 갱신하며 맥락을 형성해가는 과정과 그 표상 체계의 진화 분석
|
||||
|
||||
## 🔗 지식 그래프 (Knowledge Graph)
|
||||
- **상위/루트:** [[context 이해 규칙]]
|
||||
- **관련 개념:** [[Neural Representational Alignment]], [[In-Context Learning]]
|
||||
- **참조 맥락:** 서로 다른 지능 시스템(인간의 인지와 AI 모델)이 동일한 맥락 과제를 수행할 때, 그 내부 인코딩 구조의 일관성을 검증하는 지표로 참조됨.
|
||||
|
||||
## 📚 출처 (Sources)
|
||||
- [S1] Path to Intelligence: Measuring Similarity between Human Brain and Large Language Model Beyond Language Task - arXiv (URL 없음)
|
||||
- [S2] 다차원적 맥락 이해 규범의 통섭적 분석: 인지과학, 언어학, 컴퓨터 과학 및 인공지능 모델의 통합적 메커니즘 (Markdown)
|
||||
Reference in New Issue
Block a user