Structured Probabilistic Inference
ICML 2026 SPIGM 워크숍의 논문군을 바탕으로 probability path, posterior score, structured coupling, reward alignment, diffusion language model, rare-event sampling, uncertainty calibration, scientific generative modeling과 adaptive inference를 하나의 연구지형으로 재구성한다.
검토 범위와 분석 원칙
공식 워크숍 페이지, 채택 논문 목록, OpenReview, arXiv와 공개 구현을 교차 검토하고 probability-path와 structure-aware inference 중심으로 재구성한다.
전체 논문군
Diffusion, flow, bridge, posterior, reward, discrete LM, Monte Carlo, geometry, science를 포함한다.
통합 확률경로 관점
방법명보다 coupling, score, velocity, estimator, solver, uncertainty의 공통구조를 분석한다.
재현성 유의
일부 수치는 preprint와 저자 보고이며 sampler, solver, NFE, seed와 precision에 따라 달라질 수 있다.
전체 연구 지형
SPIGM은 확률모델을 단순 generator가 아니라 구조, 관측, reward, geometry와 compute budget을 처리하는 programmable inference system으로 확장한다.
Definition
Structured probabilistic inference를 구조, 조건, geometry, posterior, reward, uncertainty와 sampling budget을 통합하는 확률적 추론문제로 정의한다.
Structured Probabilistic Inference
관측과 구조를 이용해 latent posterior를 계산하거나 근사한다.
Structured Generative Modeling
현실적인 표본뿐 아니라 graph, geometry, time, physics constraint를 만족해야 한다.
Score-Based Generative Model
Noise level별 log-density gradient를 학습해 reverse process를 구성한다.
Flow Matching
Source에서 target으로 확률질량을 운반하는 velocity field를 학습한다.
Stochastic Interpolant
Diffusion, flow, bridge를 하나의 확률경로로 통합한다.
Posterior Score
Prior score와 observation likelihood를 결합해 conditional sampling을 수행한다.
Reward-Aligned Distribution
Base distribution을 reward로 exponential tilt한다.
Structured Coupling
Source와 target pairing에 latent structure와 representation을 부여한다.
Diffusion Language Model
Token sequence를 masking과 iterative denoising으로 복원한다.
Probabilistic Calibration
Confidence, reward, judge score와 실제 correctness의 일치를 평가한다.
Problem Definition
구조, 조건, 제약, uncertainty를 보존하면서 정확하고 효율적으로 분포를 학습·조건화·샘플링·제어해야 한다.
Prior–Posterior Gap
강력한 unconditional prior를 downstream posterior로 정확히 변환해야 한다.
Reward–Distribution Gap
Reward를 높이는 것이 원하는 distribution으로 이동했다는 뜻은 아니다.
Structure–Fidelity Gap
해석 가능한 latent structure와 높은 sample quality를 동시에 달성해야 한다.
Train–Inference Mismatch
Forward corruption state와 sampler-generated reverse state가 다르다.
Conditional-Inference Gap
Future-conditioned denoising과 실제 prefix-conditioned generation 사이 entropy gap이 존재한다.
Logical-Order–Confidence Gap
Local confidence 순서가 실제 reasoning dependency와 다를 수 있다.
Factorization Gap
동시 생성변수 사이 dependency를 독립으로 가정하면 coherence가 감소한다.
Rare-Event Sampling Gap
낮은 확률영역을 탐색하면서 unbiased statistics를 유지해야 한다.
Partial-Observation Gap
과거·미래의 임의 subset observation을 하나의 path-space model로 처리해야 한다.
Uncertainty–Decision Gap
좋은 predictive distribution이 반드시 좋은 downstream decision을 보장하지 않는다.
Core Concepts
Probability path, score–flow duality, coupling, bridge, amortized inference, factorization, geometry, reward guidance, exact reweighting, adaptive computation이 핵심이다.
Probability Path
Source에서 target까지의 분포경로를 정의하며 학습목표와 solver를 결정한다.
Score–Flow Duality
Score와 velocity는 동일 marginal evolution을 다른 parameterization으로 표현한다.
Coupling
Source–target pairing이 transport distance, path curvature, latent interpretability를 결정한다.
Diffusion Bridge
시작·끝·중간 observation을 만족하는 stochastic process를 구성한다.
Amortized Inference
반복되는 posterior 계산비용을 neural sampler에 미리 학습시킨다.
Message Passing & Factorization
Factor graph 구조를 이용해 국소 score와 posterior dependency를 계산한다.
Geometry-Aware Modeling
Manifold, Fisher, hyperbolic, Wasserstein geometry에 맞는 경로를 사용한다.
Reward Guidance
Base distribution을 reward로 tilt하되 off-manifold movement를 감시한다.
Exact Reweighting
Biased rare-event sampling 뒤 importance weight로 unbiased statistic을 복원한다.
Trajectory-Level Diagnostics
Endpoint가 아니라 전체 denoising path에서 mismatch와 error accumulation을 분석한다.
Adaptive Computation
Sample별 uncertainty와 budget에 따라 step, cache, particle, verifier를 조절한다.
Introduction
생성모델 연구는 unconditional generation에서 conditional, structured, posterior-aware, foundation-model inference, programmable distribution system으로 발전한다.
Unconditional Generation
Noise에서 이미지, 텍스트, 분자 표본을 생성한다.
Conditional Generation
Class, text, observation, property를 조건으로 사용한다.
Structured Generation
Graph, time, geometry, factorization, physical law를 직접 반영한다.
Posterior & Decision-Aware
관측과 reward가 주어진 posterior 또는 utility-optimal distribution을 생성한다.
Foundation-Model Inference
LLM·VLM·VLA의 decoding, uncertainty, reasoning을 probabilistic inference로 다룬다.
Programmable Distribution System
구조, 제약, observation, reward, geometry, budget specification으로 inference pipeline을 구성한다.
Motivation and Background
생성품질의 한계, foundation model의 확률성, rare-event 중요성, inductive bias, iterative sampling 비용이 연구를 촉진한다.
생성품질만으로 부족
FID와 perplexity가 높아도 posterior, calibration, physical validity, coverage가 틀릴 수 있다.
Foundation Model은 확률모델
Decoding, self-consistency, judge score와 uncertainty는 후보분포 생성·선택 과정이다.
Rare Event의 과학적 중요성
Protein folding, reaction state, extreme weather와 crisis는 낮은 확률영역에 존재한다.
Structured Data의 Inductive Bias
Graph, manifold, causal DAG, temporal bridge를 직접 인코딩해야 data efficiency와 validity가 높아진다.
Iterative Sampling 비용
Denoising step을 줄이면 latency는 감소하지만 bias, collapse, mismatch가 증가할 수 있다.
Challenges
Exactness, structure, reward, train–inference mismatch, factorization, rare events, geometry, calibration, scientific validity, reproducibility가 핵심 난제다.
| 도전과제 | 핵심 문제 | 요구되는 연구방향 |
|---|---|---|
| Exactness–Scalability | Exact posterior와 likelihood 계산이 비쌈 | 구조 활용, amortization, controlled approximation |
| Structure–Fidelity | 강한 구조제약이 sample quality를 낮출 수 있음 | Soft constraint, adaptive factorization |
| Reward Hacking | Reward 증가가 원하는 분포 이동을 의미하지 않음 | Independent audits, manifold validity |
| Train–Inference Mismatch | Training state와 sampler state가 다름 | Trajectory diagnostics, sampler-aware training |
| Factorization Barrier | 병렬 token 사이 dependency가 무시됨 | Joint factor, latent variable, MCMC refinement |
| Rare-Event Degeneracy | Importance weight가 소수 sample에 집중 | Overlap diagnostics, adaptive bias |
| Geometry Mismatch | Euclidean path가 manifold를 벗어남 | Riemannian, Fisher, OT geometry |
| Conditional Combinatorics | 임의 subset conditioning 비용 폭발 | Bridge, factor graph, cached marginalization |
| Calibration | Probability·reward·judge score와 correctness 불일치 | Conformal·Bayesian calibration |
| Scientific Validity | 현실적인 sample이 물리적으로 틀릴 수 있음 | Simulator·energy·constraint-in-the-loop |
| Discrete Diffusion Ordering | Confidence 순서가 논리순서와 다름 | Dependency-aware decoding |
| Low-Step Bias | Few-step sampler가 base marginal에서 이탈 | Path distillation and regularization |
| Evaluation | Perplexity·FID가 diversity와 structure를 놓침 | Multi-metric distributional evaluation |
| Uncertainty Cost | Ensemble·posterior sampling 비용이 큼 | Black-box UQ, scalable Bayesian MC |
| Reproducibility | Solver·schedule·precision 차이가 큼 | Path·solver·budget 표준 보고 |
Research Questions
통합 probability-path 표현, exact posterior, structure encoding, reward hacking, logical decoding, rare-event, uncertainty, scientific certification을 중심으로 정리된다.
RQ1
Diffusion, flow, stochastic interpolant의 최소 공통 표현은 무엇인가?
RQ2
Exact posterior score를 nonlinear·non-Gaussian 문제로 확장할 수 있는가?
RQ3
구조를 prior, coupling, architecture, objective, sampler 중 어디에 인코딩해야 하는가?
RQ4
Reward alignment가 언제 reward hacking으로 전환되는가?
RQ5
Diffusion LM의 최적 생성순서는 무엇인가?
RQ6
Train–inference gap을 online으로 측정하고 제어할 수 있는가?
RQ7
과거·미래의 임의 subset observation을 범용적으로 조건화할 수 있는가?
RQ8
Few-step sampler는 원래 분포를 어느 정도 보존하는가?
RQ9
Sequence probability는 언제 correctness와 정렬되는가?
RQ10
Rare region을 탐색하면서 unbiased estimator를 유지하려면 어떤 bias가 필요한가?
RQ11
Factor graph 구조를 score model에 얼마나 강하게 강제해야 하는가?
RQ12
Likelihood, epistemic uncertainty, structural invalidity를 분리할 수 있는가?
RQ13
Foundation model reasoning을 Bayesian latent process로 모델링할 수 있는가?
RQ14
Train-time와 inference-time compute를 어떻게 배분해야 하는가?
RQ15
과학 생성결과의 thermodynamic·physical·causal validity를 인증할 수 있는가?
Approaches / Methods
대표 연구를 posterior, reward, flow, language, rare-event, structure, uncertainty, efficiency 기준으로 필터링해 탐색할 수 있다.
Reward Score Matching
여러 diffusion·flow reward fine-tuning을 value-guided target score matching으로 통합한다.
Exact Posterior Score
선형 Gaussian inverse problem의 posterior score를 shifted anisotropic denoising으로 환원한다.
When Are Likely Answers Right?
Sequence probability의 dataset-level calibration과 same-prompt ranking을 분리한다.
Structured Coupling for Flow Matching
Structured latent prior와 recognition network로 representation과 transport를 공동학습한다.
ABC: Any-Subset Autoregression
Continuous SDE와 non-Markovian bridge로 과거·미래 임의 subset을 조건화한다.
Enhanced Diffusion Sampling
Diffusion-based bias와 exact reweighting으로 rare event와 free energy를 추정한다.
Iterative Reward-Guided Refinement
Discrete diffusion intermediate state에 MCMC refinement를 반복한다.
Mirror Gap Control
Forward marginal과 reverse sampler marginal 사이의 train–inference gap을 추정한다.
The Confidence Shortcut
Local confidence order와 logical dependency order의 불일치를 분석한다.
Factored Score Matching
Factor graph의 국소 dependency와 message passing을 score architecture에 반영한다.
Black-Box Agent Uncertainty
Reasoning trajectory의 semantic abstraction pattern으로 failure를 예측한다.
Budget-Aware Diffusion Caching
목표 compute budget에 따라 feature recomputation schedule을 학습한다.
Kernelized Stochastic Interpolants
Feature map과 선형시스템으로 비모수 drift를 계산한다.
Observation-Aware Posterior Sampling
Operator와 noise structure를 prior score와 결합한다.
Flow Distillation & Adaptive Stopping
고정 step을 줄이면서 path bias와 uncertainty를 제어한다.
| 대표 연구 | 핵심 설계 | 연구적 의미 |
|---|---|---|
| Reward Score Matching | Base score + value guidance | Reward alignment 방법을 공통 score target으로 통합 |
| Exact Posterior Score | Shifted pivot + anisotropic covariance | Heuristic guidance를 posterior-specific denoising으로 대체 |
| Structured Coupling | Latent prior + recognition + flow | Generative fidelity와 representation structure를 공동학습 |
| ABC | Physical-time SDE + any-subset bridge | 불규칙 observation을 path-space inference로 처리 |
| Enhanced Diffusion Sampling | Bias + exact reweighting | Rare-event exploration과 unbiased statistics 결합 |
| Mirror Gap | Forward vs reverse state diagnostic | Endpoint 평가를 trajectory control로 확장 |
| Confidence Shortcut | Confidence order vs dependency order | Diffusion reasoning의 구조적 failure를 설명 |
| Factored Score Matching | MRF locality + message passing | Generic attention을 구조적 inductive bias로 대체 |
Key Applications
영상 역문제, 분자·신약개발, diffusion LM, 영상·시계열·기상, 그래프·3D, agent uncertainty와 과학 시뮬레이션에 적용된다.
영상 역문제
Deblurring, super-resolution, inpainting, MRI·CT, compressive sensing.
분자·신약개발
Conformer, folding landscape, binding·free energy, reaction path, property-conditioned design.
Diffusion Language Model
Any-order generation, parallel decoding, logical order, remasking, exact likelihood.
영상·시계열·기상
Frame interpolation, video generation, imputation, extreme-event sequence, weather forecasting.
그래프·3D
Molecular graph, DAG, voxel, SLAM, point process, irregular-domain PDE.
불확실성 기반 Agent
Failure prediction, selective prediction, abstention, judge reliability, reasoning posterior.
과학 시뮬레이션
Brain inversion, turbulence, molecular dynamics, proteomics, phylogeny, reaction dynamics.
Open Problems
Exact posterior, universal structure interface, reward certification, train–inference co-design, rare-event degeneracy, black-box UQ와 reproducible sampler reporting이 미해결이다.
Exact Posterior beyond Linear Gaussian
Nonlinear operator, heavy-tailed noise, discrete observation으로 확장해야 한다.
Universal Structure Interface
Graph, manifold, sequence, DAG, physical law를 하나의 API로 표현해야 한다.
Reward Alignment Certification
Reward 증가와 실제 target-distribution 이동을 구분해야 한다.
Train–Inference Co-Design
Corruption, decoding order, sampler state를 공동설계해야 한다.
Logical-Dependency-Aware LM
Task별 reasoning dependency를 자동발견하고 decoding에 반영해야 한다.
Factorized Joint Generation
병렬성을 유지하면서 동시 변수 dependency를 보존해야 한다.
Rare-Event Weight Degeneracy
강한 bias에서도 effective sample size를 유지해야 한다.
Manifold Misspecification
잘못된 geometry prior에 대한 robustness를 분석해야 한다.
Calibrated Generative Evaluation
FID, reward, perplexity, likelihood, preference가 충돌할 때 기준이 필요하다.
AR–Diffusion Hybridization
두 방식의 장점을 결합하되 학습·서빙 복잡성을 제한해야 한다.
Adaptive Inference Budget
난이도와 uncertainty에 따라 step, particle, verifier, cache를 할당해야 한다.
Scientific Validity Certificate
분자·trajectory·물리장이 법칙과 관측을 만족한다는 certificate가 필요하다.
Black-Box Foundation-Model UQ
Logit과 activation 접근 없이 uncertainty를 추정해야 한다.
Cross-Modal Structured Latent Space
Text, image, molecule, graph, time series를 하나의 geometry로 연결해야 한다.
Reproducible Sampler Reporting
Solver, timestep, guidance, cache, precision의 표준 보고가 필요하다.
Future Directions
미래 SPIGM은 structured generative OS, posterior-first foundation model, structure compiler, mirror controller, logical graph decoding과 scientific certificate로 발전한다.
1. Structured Generative Operating System
2. Posterior-First Foundation Models
다양한 observation operator를 native하게 수용한다.
3. Structure Compiler
4. Reward Alignment Certificate
5. Train–Inference Mirror Controller
6. Logical Graph Decoding
7. Rare-Event Generative Observatory
Free-energy coverage, effective sample size, transition-state recall, reweighting variance를 지속 관측한다.
8. Geometry-Adaptive Probability Paths
9. Hybrid Autoregressive–Diffusion LM
10. Probabilistic Reasoning Monitor
11. Simulator-in-the-Loop Generation
12. Budgeted Distributional Inference
13. Calibrated Generative Benchmark
14. Cross-Model Probabilistic Interoperability
Score, density ratio, velocity, reward, constraint residual, uncertainty, sample weight를 공통객체로 교환한다.
15. SPIGM Reproducibility Protocol
Target distribution, path, coupling, objective, solver, budget, conditioning, metrics, uncertainty, failure case, artifact를 표준화한다.
Conclusion
SPIGM은 비구조적 생성에서 구조 인식 생성, unconditional prior에서 posterior inference, endpoint 평가에서 trajectory diagnosis로 연구목표를 이동시킨다.
비구조적 생성 → 구조 인식 생성
Graph, manifold, time, factorization, physical law가 probability path 내부로 들어간다.
Unconditional Prior → Posterior Inference
Pretrained model은 다양한 observation과 제약을 수용하는 probabilistic prior가 된다.
분리된 방법 → 통합 Path Theory
방법명보다 coupling, score, velocity, estimator, solver가 중요해진다.
Reward 최대화 → Distributional Alignment
Base distribution, validity, diversity, reward hacking을 함께 평가한다.
Endpoint 평가 → Trajectory 진단
Mismatch, shortcut, collapse, error accumulation을 경로 전체에서 분석한다.
고정 비용 → Adaptive Inference
Step, cache, particle, MCMC, verifier를 uncertainty에 따라 조절한다.
생성모델 → 과학적 추론엔진
Rare-event exploration, posterior estimation, scientific decision support로 확장된다.
Sources
공식 워크숍, 전체 채택 논문, oral 대표 논문, diffusion language model, 공개 구현의 원문 링크.