← Playground← 놀이터

PRISM · Machine Learning PlaygroundPRISM · 머신러닝 놀이터

Uncertainty: Aleatoric vs Epistemic불확실성: Aleatoric vs Epistemic
What the model doesn't know — and what it can never know모델이 모르는 것 — 그리고 결코 알 수 없는 것

Regress with a Gaussian process (GP) and split uncertainty in two. epistemic (teal) is reducible model uncertainty that shrinks as data grows and swells in empty regions and extrapolation; aleatoric (amber) is the irreducible observation noise that remains no matter how much data you gather. Click the canvas to place your own data points. 가우시안 과정(GP)으로 회귀하며 불확실성을 둘로 나눕니다. epistemic(teal)은 데이터가 늘면 줄고 빈 구간·외삽에서 커지는 환원 가능한 모델 불확실성, aleatoric(amber)은 데이터를 아무리 모아도 남는 환원 불가능한 관측 잡음입니다. 캔버스를 클릭해 데이터를 직접 찍어 보세요.

GP regression · predictive bandGP 회귀 · 예측 밴드 Click to add data · move mouse to move the probe클릭으로 데이터 추가 · 마우스로 탐침 이동
epistemic aleatoric mean μ평균 μ true function실제 함수
Variance decomposition분산 분해 Var_tot = Var_epi + Var_ale (variances add)(분산은 더해진다)
x = −5input x입력 xx = +5
Controls제어
Data count N데이터 수 N add observations to shrink epistemic관측을 늘려 epistemic 축소 0
Noise σ잡음 σ aleatoric · irreduciblealeatoric · 환원 불가 0.15
Kernel width ℓ커널 폭 ℓ lengthscale · reach of knowledgelengthscale · 지식의 도달거리 1.00
Raise N from 0 and epistemic melts away near the data.N을 0에서 올리면 데이터 근처 epistemic이 녹아내립니다.
Probe탐침 x = 2.00 mostly epistemic대부분 epistemic
mean μ(x)평균 μ(x)
–
data count N데이터 수 N
0
epistemic σ
–
aleatoric σ
–
total σ (predictive)전체 σ (예측)
–
reducible fraction환원가능 비율
–
Try it실험해 보기
  1. Shrink: raise N and the teal (epistemic) near the data disappears, leaving only amber below.
  2. Empty regions: the center [1,3] and both ends (extrapolation) keep high teal even as data grows — where the model doesn't know.
  3. Irreducible: raise σ and amber thickens, but raising N never removes that floor.
  4. Active learning: Next observation point places a point where epistemic is largest and collapses that peak.
  5. Input dependent: turn on heteroscedastic and aleatoric grows toward the right.
  1. 축소: N을 올리면 데이터 근처 teal(epistemic)이 사라지고, 아래에서 amber만 남습니다.
  2. 빈 구간: 가운데 [1,3]과 양 끝(외삽)은 데이터를 늘려도 teal이 높습니다 — 모델이 모르는 곳.
  3. 환원 불가: σ를 키우면 amber가 두꺼워지지만, N을 늘려도 그 바닥은 안 사라집니다.
  4. 능동학습: 다음 관측 지점은 epistemic이 가장 큰 곳에 점을 찍어 그 봉우리를 꺼뜨립니다.
  5. 입력 의존: heteroscedastic을 켜면 오른쪽으로 갈수록 aleatoric이 커집니다.

Two kinds of uncertainty두 종류의 불확실성

aleatoric is the noise σ(x) of the data-generating process — it remains even with infinite data. epistemic is uncertainty about the function/parameters and shrinks as data grows. Variances add: Var_tot = Var_epi + Var_ale.aleatoric는 데이터 생성 과정의 잡음 σ(x) — 무한히 모아도 남는다. epistemic은 함수/파라미터에 대한 불확실로 데이터가 늘면 준다. 분산은 더해진다: Var_tot = Var_epi + Var_ale.

GP posteriorGP 사후분포

The kernel encodes "nearby inputs give similar outputs". Near observations the posterior function variance shrinks; far away it returns to the prior and grows up to s². ℓ sets that reach, and the fan of function samples shows the epistemic part.커널이 "가까운 입력은 비슷한 출력"을 인코딩한다. 관측 근처에선 사후 함수 분산이 작아지고, 멀어지면 prior로 돌아가 s²까지 커진다. ℓ이 그 도달거리를, 함수 샘플들의 부채꼴이 epistemic을 보여준다.

Why it matters (clinical)왜 중요한가 (임상)

epistemic ↑ = OOD / data scarcity → flag it as "don't know" and use active learning to decide where to gather more. aleatoric is irreducible, like label disagreement between raters — directly tied to Bayesian uncertainty on small clinical datasets.epistemic ↑ = OOD·데이터 부족 → "모른다"고 플래깅하고 능동학습으로 어디를 더 모을지 정한다. aleatoric는 rater 간 라벨 불일치처럼 환원 불가 — 소량 임상 데이터의 Bayesian uncertainty와 직결된다.