중심 명제
Poster Session 5가 보여주는 핵심은 고정 model의 benchmark score가 아니다. 새로운 task를 계속 학습하고, 실제 execution result로 행동을 검증하며, 실패에서 복구하고, input별 계산경로를 바꾸며, uncertainty와 explanation의 인과적 타당성을 감사하는 adaptive and verifiable intelligence다.
Plasticity · Execution Grounding · Recovery · Dynamic Computation · Causal Trust
ICML 2026 Poster Session 5
세션 원시 목록 680편과 통합 태깅 메타데이터 702편을 교차검토해 plasticity, execution-grounded agents, recovery, self-evolution, efficient multimodal models, AI4Science, continual robotics와 trustworthy interpretability의 관점에서 재구성한다.
680원시 세션 논문
702통합 태깅 논문
26Research Questions
24Open Problems
01
전체 연구 지형
Poster Session 5는 current accuracy를 넘어 future learnability, execution evidence, recovery, adaptive computation와 causal trust를 system-level 연구단위로 다룬다.
Learnability→Execution Evidence→Error Recovery→Dynamic Computation→Scientific Decision→Causal Audit
Adaptive Verifiable Intelligence =
Learnability × Executable Evidence × Recovery × Dynamic Computation × Causal Trust
02
Definition
Plasticity, execution-grounded learning, recovery, memory self-evolution, programmed computation, inverse design와 causal interpretability를 정리한다.
Plasticity
기존 능력을 완전히 잃지 않으면서 새로운 task와 distribution에 적응하는 neural network의 능력이다.
Synthetic Memorization Probe
임의의 새로운 mapping을 짧게 학습시켜 parameter 주변에 남은 adaptation capacity를 측정하는 diagnostic task다.
Modality–Expert-Aware Quantization
Vision·language token과 각 MoE expert의 quantization sensitivity를 분리해 precision을 배분한다.
Manifold-Constrained Dynamics
State는 learned manifold 위에 있고 시간적 변화는 tangent space를 따라야 한다는 기하학적 동역학 관점이다.
Execution-Grounded Agent Learning
Compiler, simulator, test suite와 hardware verifier의 실제 실행결과를 agent supervision으로 사용한다.
Agent Recovery Competence
처음부터 실수하지 않는 능력이 아니라 실수 후 상태를 진단하고 목표를 안전하게 복구하는 능력이다.
Memory-Augmented Self-Evolution
Inference 중 축적한 experience를 memory에 저장하고 이후 policy improvement의 training signal로 재사용한다.
Tool Program
여러 API call, loop, condition, retry와 side effect를 하나의 executable service intent로 표현한다.
Program-of-Layers
모든 input에 같은 layer sequence를 실행하지 않고 input별로 layer를 skip·repeat하는 computation program이다.
Interleaved Reasoning
Plan, intermediate result와 final answer를 단계적으로 노출해 user feedback을 reasoning loop에 포함한다.
Information-Flow-Based Trust
Retrieved context의 실제 evidence token이 layer를 지나 output으로 전달된 정도를 trust signal로 사용한다.
Adaptive Low-Rank KV Compression
Layer, head와 block별 sensitivity에 따라 KV-cache factorization rank를 다르게 선택한다.
Reasoning-Centric Quantization
평균 reconstruction error보다 symbolic commitment와 reasoning branch 보존을 우선하는 quantization이다.
Generative Inverse Design with Abstention
Target property를 만족하는 design을 생성하되 OOD·불확실 상황에서는 결과를 거부할 수 있는 generative design이다.
Measure-Valued Active Experimentation
각 시점의 state가 vector가 아닌 probability distribution일 때 uncertainty를 가장 줄이는 측정시점을 선택한다.
Latent Action Supervision
Raw visual observation과 motor action 사이에 intermediate action representation을 두는 학습방식이다.
Pretrained VLA Continual Learning
대규모 pretrained vision-language-action model이 새 robot skill을 학습하면서 기존 skill을 유지하는 문제다.
Causal Interpretability
Component와 behavior의 correlation을 넘어 intervention과 counterfactual로 causal contribution을 검증한다.
Model–Method-Pair Explanation Stability
Explanation stability가 model 단독이 아니라 attribution method와의 결합으로 결정된다는 관점이다.
03
Problem Definition
Plasticity, execution cost, recovery, memory, tool programs, computation paths, quantization, scientific experiments와 XAI의 간극을 정의한다.
Plasticity–Current Performance Gap
현재 validation 성능이 비슷해도 새로운 task에 대한 future adaptability는 크게 다를 수 있다.
Static State–Dynamic Motion Entanglement
State representation과 motion field가 얽히면 off-manifold trajectory와 error accumulation이 발생한다.
Expensive Execution–Online Learning Gap
Deterministic execution feedback은 신뢰성은 높지만 simulator와 laboratory 비용이 크다.
Task Success–Recovery Gap
Clean initial state 성공률은 policy-induced error 이후의 복구능력을 측정하지 못한다.
Context Window–Persistent Experience Gap
Raw history를 모두 context에 넣으면 overflow, latency, contradiction과 privacy 문제가 발생한다.
Endpoint Sequence–Tool Intent Gap
복잡한 workflow를 atomic endpoint call로 표현하면 control flow와 side effect 관리가 agent context에 남는다.
Fixed Forward Pass–Input-Specific Computation Gap
Input마다 필요한 abstraction depth가 다른데 동일 layer sequence를 실행한다.
Think-Then-Answer–Interactive Correction Gap
긴 hidden reasoning 동안 잘못된 assumption이 있어도 user가 조기에 개입할 수 없다.
Retrieved Evidence–Used Evidence Gap
RAG가 relevant document를 검색해도 model이 실제 answer에 사용했다는 보장은 없다.
Fixed Rank–Heterogeneous KV Sensitivity Gap
KV redundancy가 head·block마다 다른데 동일 rank를 적용한다.
Average Quantization Error–Symbolic Cascade Gap
숫자나 연산자 하나의 low-bit error가 이후 reasoning 전체로 전파될 수 있다.
Generative Answer–Reliable Abstention Gap
OOD target에도 그럴듯한 design을 강제로 생성하면 실제 engineering risk가 커진다.
Dense Measurement–Experimental Cost Gap
Scientific measurement가 destructive·expensive하면 모든 시점을 관측할 수 없다.
Continual Skill Acquisition–Forgetting Gap
새 robot task를 학습할 때 기존 skill의 observable performance가 감소한다.
Unified VLA Training–Heterogeneous Action Gap
Embodiment, action unit와 frequency가 다른 robot dataset을 raw action으로 통합하기 어렵다.
Explanation Score–Scientific Claim Gap
한 attribution method의 결과로 model 전체의 안정성과 causal mechanism을 단정할 수 없다.
Capability–Reliable Adaptive Intelligence Gap
높은 benchmark score가 learnability, execution grounding, recovery와 causal trust를 보장하지 않는다.
04
Core Concepts
Local redundancy, tangent projection, validated trajectories, recovery, information flow, adaptive KV, abstention와 causal hierarchy를 정리한다.
Local Redundancy
Parameter 주변 local model family가 새로운 정보를 얼마나 압축적이고 유연하게 표현할 수 있는지 나타낸다.
Plasticity Probe
Synthetic task의 학습속도와 gradient를 사용해 남은 adaptation capacity를 추정한다.
Tangent Projection
Predicted dynamics를 learned manifold의 tangent space로 projection해 off-manifold motion을 억제한다.
Execution-Validated Data
Compiler·simulator·test가 성공을 확인한 state–action–outcome trajectory다.
Worst-State Sampling
현재 policy가 가장 취약한 state를 우선적으로 실행·학습한다.
Recovery Trajectory
Error detection, rollback, replanning, re-execution과 verification을 포함하는 trajectory다.
Hierarchical Memory
Episodic, semantic와 experiential memory를 역할과 lifecycle에 따라 분리한다.
Test-Time Memory Extension
Inference 중 current task에 필요한 memory를 동적으로 검색·조합한다.
Effect-Typed Tool Program
Input·output뿐 아니라 state mutation, permission, retry와 compensation semantics를 가진 program이다.
Exactly-Once Replay
Retry와 recovery 과정에서도 state-changing operation을 중복실행하지 않는 보장이다.
Program-of-Layers
Layer를 reusable module로 보고 input별 skip, repeat와 termination program을 구성한다.
Interleaved Reasoning
Internal reasoning과 visible intermediate artifact를 교차시켜 user steering을 지원한다.
Information-Flow Grounding
Evidence token의 contribution이 model layer를 거쳐 output으로 전달되는 경로를 추적한다.
Simulatability
Token contribution이 실제 evidence relevance와 얼마나 일치하는지 측정한다.
Concentration
Output이 소수의 관련 evidence subset에 집중되어 생성되는 정도다.
Adaptive KV Rank
Head·block sensitivity에 맞춰 low-rank dimension을 선택한다.
Low-Entropy Commitment
숫자, 변수, 연산자처럼 후속 reasoning을 강하게 제한하는 token이다.
Diagonal Flow Invariance
Design coordinate 순서가 바뀌어도 동일 conditional generation을 유지하는 flow construction이다.
Abstention
Target이 OOD이거나 confidence가 부족할 때 결과를 생성하지 않는 decision이다.
Measure-Valued Trajectory
각 시간의 state를 point가 아닌 probability measure로 표현하는 dynamics다.
Latent Action
Perception representation과 robot control command 사이의 intermediate control token이다.
Explanation Pair Stability
Explanation stability를 model과 attribution method의 pair property로 본다.
Causal Hierarchy
Association, intervention과 counterfactual evidence가 허용하는 claim 수준을 구분한다.
05
Introduction
Machine learning은 static model deployment에서 continuously adaptive, execution-grounded and causally audited systems로 발전한다.
Stage 1 — Static Model Performance
Train, validate, deploy의 고정 pipeline에서 accuracy와 loss를 최적화한다.
Stage 2 — Foundation-Model Transfer
Broad representation을 학습하지만 plasticity, recovery와 runtime efficiency는 별도 과제로 남는다.
Stage 3 — Execution-Grounded Learning
Compiler, simulator와 test result가 language preference보다 강한 supervision을 제공한다.
Stage 4 — Recovery-Aware Agents
실수를 제거하는 것뿐 아니라 detection, rollback, replan과 safe recovery를 학습한다.
Stage 5 — Persistent Self-Evolution
Memory retrieval, outcome experience와 policy update를 closed loop로 연결한다.
Stage 6 — Programmatic Tool Interfaces
Atomic endpoint 대신 effect-aware executable tool program으로 service intent를 표현한다.
Stage 7 — Input-Adaptive Computation
Layer sequence, KV rank, precision와 token budget을 input sensitivity에 맞춰 선택한다.
Stage 8 — Human-Interleaved Reasoning
Plan과 intermediate artifact를 조기에 공유해 user correction을 허용한다.
Stage 9 — Causally Verified Intelligence
Grounding, uncertainty와 explanation을 intervention·counterfactual 기준으로 감사한다.
06
Motivation and Background
Future adaptability, expensive verification, recovery, memory learning, tool abstractions, adaptive compute, reasoning latency, active science와 XAI를 설명한다.
Validation accuracy만으로 future adaptability를 알 수 없음
현재 loss가 유사한 checkpoint도 새로운 task 학습속도와 forgetting은 다를 수 있다.
실제 agent supervision은 비싸고 느림
Compiler, simulator와 scientific tool은 신뢰성은 높지만 online RL에 과도한 비용을 요구한다.
실무 agent의 핵심은 recovery
잘못된 action 자체보다 오류를 인식하지 못한 채 잘못된 state에서 계속 행동하는 것이 더 위험하다.
Memory는 context가 아니라 learning infrastructure
Experience를 재사용해 policy를 개선할 수 있지만 잘못된 memory도 함께 self-evolve할 수 있다.
Agentic Web에는 executable intent가 필요
Atomic endpoint sequence보다 effect와 control flow를 가진 tool program이 workflow를 안정화한다.
Foundation model의 계산경로는 고정될 필요가 없음
Pretrained layer를 input별로 skip·repeat할 수 있는 reusable module로 볼 수 있다.
Reasoning latency는 collaboration 문제
첫 응답이 늦으면 user가 잘못된 assumption을 조기에 수정할 기회를 잃는다.
Low-bit reasoning에는 semantic sensitivity가 필요
Average numerical error보다 숫자·연산자·formal decision의 보존이 중요하다.
Scientific experiment는 measurement policy
주어진 data를 예측하는 것뿐 아니라 다음에 언제 무엇을 측정할지 결정해야 한다.
Interpretability는 method-dependent measurement
Attribution 결과는 객관적 truth가 아니라 특정 method가 정의한 measurement다.
07
Challenges
Plasticity measurement, execution cost, recovery realism, memory contamination, tool semantics, adaptive compute, abstention, continual robotics와 causal XAI가 핵심 난제다.
| 도전과제 | 핵심 문제 | 요구되는 방향 |
|---|---|---|
| Plasticity measurement | Current performance와 future adaptability 불일치 | Information-theoretic probe |
| Probe validity | Synthetic memorization이 실제 transfer를 완전히 대표하지 못함 | Multi-domain plasticity benchmark |
| Modality-aware quantization | Vision·language token 통계가 다름 | Modality-conditioned calibration |
| Expert-aware quantization | MoE expert 중요도가 비균일 | Activation·affinity-aware precision |
| Off-manifold dynamics | Predicted trajectory가 geometry 위반 | Tangent projection |
| Execution cost | Simulator feedback이 비싸고 느림 | Offline validated learning |
| Recovery evaluation | Clean-start success만 측정 | Executable error injection |
| Recovery data | 실제 failure trajectory가 부족 | Tree-based synthesis |
| Memory contamination | 잘못된 experience가 self-training에 포함 | Verified memory lifecycle |
| Tool abstraction | Endpoint call이 control flow를 표현 못함 | Effect-typed programs |
| Partial failure | Retry 중 state mutation 중복 | Exactly-once replay |
| Dynamic depth | Input별 layer program 예측 어려움 | Lightweight controller |
| Program stability | Layer skip·loop가 OOD에서 불안정 | Constrained program search |
| User intervention | 긴 hidden reasoning 중 correction 불가 | Interleaved protocol |
| Grounding reliability | Retrieved evidence가 실제 사용되지 않음 | Information-flow tracking |
| KV-rank selection | Head·block sensitivity 추정 어려움 | Differentiable thresholds |
| Quantization cascade | Symbolic token 오류가 reasoning에 증폭 | Trace-aligned QAT |
| Abstention calibration | Self-consistency와 true error 불일치 | Coverage-calibrated abstention |
| Measure-space experiment | Distribution trajectory가 비유클리드 | Tangent-space surrogate |
| Continual robotics | 새 skill 학습 시 forgetting | Replay·pretraining analysis |
| Latent action choice | Representation 효과가 task마다 상이 | Task-aware routing |
| Explanation stability | Attribution method에 따라 ranking 역전 | Cross-method validation |
| Causal claim inflation | Association을 causality로 해석 | Intervention·counterfactual tests |
| Epistemic uncertainty | Bias와 variance source가 불완전하게 분해 | Bias-aware decomposition |
| Post-deployment evaluation | Static benchmark가 실제 user harm을 놓침 | Aggregated reporting |
08
Research Questions
Plasticity, quantization, execution-grounded agents, recovery, self-evolution, adaptive computation, active science, robotics와 interpretability를 중심으로 정리한다.
RQ1
Synthetic memorization gradient가 vision, language, graph와 robotics 전반의 plasticity를 얼마나 일반적으로 예측하는가?
RQ2
Plasticity가 높은 model과 catastrophic forgetting에 강한 model은 동일한가?
RQ3
Vision token, language token과 expert별 quantization sensitivity를 runtime에 예측할 수 있는가?
RQ4
MoE expert의 activation frequency와 실제 downstream importance를 어떻게 구분할 것인가?
RQ5
Learned manifold가 잘못되었을 때 tangent projection은 오류를 줄이는가, 잘못된 geometry를 강화하는가?
RQ6
Expensive simulator를 최소 호출하면서 execution-grounded agent를 학습하는 최적 sample policy는 무엇인가?
RQ7
Agent 오류를 perception, planning, execution, verification와 recovery failure로 자동분해할 수 있는가?
RQ8
Recovery trajectory 합성 시 실제 deployment failure distribution을 어떻게 보존할 것인가?
RQ9
Self-evolving memory에서 잘못된 experience가 policy로 전파되는 것을 어떻게 차단할 것인가?
RQ10
Episodic, semantic와 experiential memory 중 어떤 정보가 policy update에 포함되어야 하는가?
RQ11
Agent-facing service를 endpoint가 아닌 executable program으로 표준화할 수 있는가?
RQ12
Exactly-once semantics와 rollback을 자연어로 생성된 tool program에서 formal하게 보장할 수 있는가?
RQ13
각 input에 최적인 layer skip·loop program을 search 없이 예측할 수 있는가?
RQ14
Program-of-Layers가 reasoning capability를 높이는지 ensemble effect인지 어떻게 구분할 것인가?
RQ15
어떤 intermediate response가 user correction에는 유용하지만 cognitive overload는 최소화하는가?
RQ16
RAG information flow가 실제 causal evidence usage를 측정하는가?
RQ17
KV rank, numerical precision와 layer execution을 하나의 adaptive controller가 공동최적화할 수 있는가?
RQ18
Reasoning trace에서 low-entropy token importance를 task-independent하게 정의할 수 있는가?
RQ19
Generative inverse design model은 어떤 조건에서 abstain해야 하는가?
RQ20
Distribution-valued dynamics에서 optimal measurement time과 intervention time을 공동선택할 수 있는가?
RQ21
Pretrained VLA의 forgetting 저항성이 scale, data diversity 또는 representation geometry 중 무엇에서 발생하는가?
RQ22
Image-based와 action-based latent action을 runtime에 동적으로 선택할 수 있는가?
RQ23
Explanation stability의 cross-method agreement를 regulatory evidence로 어떻게 표준화할 것인가?
RQ24
Interpretability intervention이 unseen input behavior를 예측하는 counterfactual evidence를 제공할 수 있는가?
RQ25
현재 epistemic uncertainty decomposition에 포함되지 않는 bias를 실용적으로 어떻게 추정할 것인가?
RQ26
배포 후 individual report를 privacy를 보존하면서 model update와 governance에 연결할 수 있는가?
09
Approaches / Methods
대표 연구를 plasticity, efficiency, agents, memory, grounding, AI4Science, robotics와 interpretability 기준으로 탐색할 수 있다.
Local Redundancy
Synthetic memorization gradient와 information-theoretic redundancy를 이용해 future adaptation capacity를 추정한다.
VEQ
Vision·language token affinity와 expert activation을 calibration에 반영해 multimodal MoE를 저비트화한다.
Geometric Flow Grounding
Predicted vector field를 learned manifold tangent space에 projection해 off-manifold dynamics를 억제한다.
LLM4Cov
Execution-validated curation, policy-aware synthesis와 worst-state sampling으로 hardware verification agent를 학습한다.
GUI-RobustEval·RoTS
Executable error injection과 tree exploration으로 failure-and-recovery trajectory를 대규모 합성한다.
SE-GA
Test-time memory extension과 memory-derived self-evolution을 연결해 GUI policy를 지속개선한다.
ToolPro
Typed effects, compiler feedback, exactly-once replay와 WebAssembly sandbox를 가진 tool program을 생성한다.
PoLar
Input representation에서 layer skip, repeat와 early termination을 포함하는 execution program을 예측한다.
PLANTAIN
Plan을 첫 visible response로 제공하고 reasoning과 intermediate answer를 interleave한다.
Information-Flow UQ
Relevant context token의 layer-wise contribution과 concentration으로 answer correctness와 trust를 추정한다.
STAR-KV
Sensitivity profiling, soft thresholding, hybrid low-rank decomposition과 mixed precision을 결합한다.
ReQAT
Low-entropy symbolic position을 찾고 trace-aligned QAT와 entropy minimization으로 reasoning을 보존한다.
Diagonal Flow Matching
Permutation-invariant inverse design, self-consistency, OOD detection과 abstention을 결합한다.
Active Timepoint Selection
Linearized optimal transport와 GP surrogate로 uncertainty 감소가 큰 measurement time을 선택한다.
Continual VLA with Replay
Pretrained VLA의 forgetting, representation retention와 recovery speed를 simple replay로 분석한다.
Latent Action Supervision
Image-based, action-based, discrete와 mixed latent action representation을 통일된 조건에서 비교한다.
Causal Interpretability Audit
Association, intervention, composed intervention과 counterfactual claim 수준을 구분한다.
Cross-Method Explanation Validation
여러 attribution method에서 stability ranking과 perturbation response를 교차검증한다.
검색 또는 필터 조건에 맞는 항목이 없다.
10
Key Applications
Continual learning, efficient MoE, verification, GUI agents, adaptive inference, inverse design, robotics와 trustworthy XAI에 적용된다.
Continual·Transfer Learning
Checkpoint selection, catastrophic forgetting, domain adaptation, lifecycle monitoring와 robotics.
Efficient Multimodal MoE
Vision-language assistants, edge inference, video reasoning, expert compression와 accelerator deployment.
Scientific Dynamics Discovery
ODE discovery, single-cell velocity, gene regulation, physical trajectories와 deepfake detection.
Hardware·Software Verification
Coverage-guided verification, test generation, compiler feedback, software repair와 formal execution.
Robust GUI Agents
Desktop, mobile, web workflow, accessibility, enterprise automation와 rollback.
Self-Evolving Assistants
Cross-session memory, user preference, experience reuse, failure prevention와 continual policy updates.
Agentic Web Services
Multi-step APIs, transactional workflow, MCP orchestration, low-latency and sandboxed execution.
Adaptive LLM Inference
Dynamic depth, layer repetition, KV rank, mixed precision와 token-sensitive quantization.
Human–AI Collaborative Reasoning
Plan-first coding, interactive mathematics, requirement clarification와 progressive answers.
Reliable RAG
Evidence-use verification, source tracing, factuality, hallucination detection와 context pruning.
Industrial Inverse Design
Airfoil, combustor, aircraft topology, materials와 mechanical component generation.
Active Scientific Experiment
Single-cell timepoints, developmental biology, disease progression와 budgeted measurement.
Continual Robotics
Multi-task manipulation, cross-embodiment learning, replay-efficient skill accumulation와 latent actions.
Trustworthy XAI
Medical explanations, regulatory reporting, attribution stability, causal audit와 model comparison.
11
Open Problems
Universal plasticity, safe recovery, memory provenance, tool verification, joint compute control, abstention, continual VLA와 causal XAI를 해결해야 한다.
Universal Plasticity Measurement
Synthetic memorization이 모든 downstream adaptation을 대표하는지 불명확하다.
Plasticity–Stability Trade-off
빠른 adaptation과 knowledge preservation을 동시에 달성해야 한다.
Quantization–Routing Co-Adaptation
Quantized expert error가 router behavior를 바꿀 수 있다.
Learned-Manifold Misspecification
잘못 학습된 manifold에 projection하면 실제 dynamics를 제거할 수 있다.
Execution Feedback Scarcity
제한된 simulator budget을 어떤 state에 사용할지 결정해야 한다.
Recovery Benchmark Realism
합성 error가 실제 user environment failure를 충분히 반영하는지 검증해야 한다.
Recovery Safety
Rollback과 repair 과정이 더 큰 side effect를 만들 수 있다.
Self-Evolution Error Amplification
잘못된 memory-derived sample이 foundation policy에 고정될 수 있다.
Memory Provenance·Revocation
원본 memory 삭제 후 summary와 training sample의 파생정보까지 제거해야 한다.
Tool Program Verification
Type-correct program도 business intent, privacy와 security를 위반할 수 있다.
Cross-Service Exactly-Once
서로 다른 transaction semantics에서 global exactly-once를 보장하기 어렵다.
Layer-Program Search Space
Skip·loop 조합이 매우 커 controller와 formal constraint가 필요하다.
Interleaved Reasoning Privacy
Intermediate plan이 confidential information과 unsafe internal state를 노출할 수 있다.
Information Flow versus Causal Use
Contribution score가 실제 causal evidence use를 보장하는지 검증해야 한다.
Joint Compute Controller
Depth, KV rank, bit precision와 token budget을 공동최적화해야 한다.
Quantization Tail Risk
평균 accuracy가 유지돼도 rare symbolic token과 long trace error가 증가할 수 있다.
Calibrated Generative Abstention
Self-consistency가 높지만 모두 잘못된 candidate일 수 있다.
Measure-Valued Causal Experiment
Measurement time과 intervention type·time을 공동최적화해야 한다.
Continual VLA Evaluation
수백 skill과 real embodiment 변화에서도 forgetting 저항성이 유지되는지 불명확하다.
Latent Action Interpretability
Discrete action token과 실제 physical behavior의 대응을 이해하기 어렵다.
Cross-Method XAI Standard
어떤 attribution method 집합이 충분한 검증인지 표준이 없다.
Counterfactual Interpretability
Intervention이 distribution shift에서 behavior를 예측하는지 평가할 benchmark가 부족하다.
Incomplete Epistemic Uncertainty
Bias, variance와 domain uncertainty를 coherent decomposition으로 결합해야 한다.
Post-Deployment Evaluation
Static benchmark가 실제 user harm과 새로운 failure를 발견하지 못한다.
12
Future Directions
미래 ML은 plasticity-aware training, execution-grounded data engines, recovery-native agents, computation programs, active science와 causal trust stack으로 발전한다.
1. Plasticity-Aware Foundation-Model Training
Current task loss와 future adaptation capacity를 하나의 objective로 공동최적화한다.
2. Adaptive Precision–Routing Compiler
Modality, expert, layer, KV rank와 token sensitivity를 통합해 inference plan을 compile한다.
3. Geometry-Native Scientific Models
State manifold, tangent dynamics, invariant와 constraint uncertainty를 명시적으로 분리한다.
4. Execution-Grounded Agent Data Engine
Proposal, sandbox execution, validation, failure classification와 recovery synthesis를 자동화한다.
5. Recovery-Native Agent Architecture
Anomaly detector, failure classifier, rollback, alternative planner와 recovery verifier를 내장한다.
6. Verified Self-Evolution
Memory-derived sample을 provenance, outcome, counterexample와 safety gate로 검증한다.
7. Agentic Service Intermediate Representation
Typed I/O, precondition, effect, permission, retry, compensation와 audit event를 표준화한다.
8. Computation as a Program
Layer, expert, memory, retrieval와 tool call을 input별 computation program으로 구성한다.
9. Human-Steerable Reasoning Protocol
Goal, assumption, plan, evidence와 confidence만 선택적으로 노출해 user steering을 지원한다.
10. Grounding Certificate for RAG
Retrieved source, used span, contribution, contradiction와 counterfactual sensitivity를 기록한다.
11. Reasoning-Preserving Low-Bit Computing
Activation reconstruction보다 reasoning branch와 symbolic decision preservation을 최적화한다.
12. Abstention-Native Generative Design
Candidate, performance, constraints, OOD, failure mode와 abstention decision을 함께 출력한다.
13. Active AI4Science Loop
Scientific belief, experiment candidates, information gain, measurement와 belief update를 closed loop로 연결한다.
14. Continual VLA Memory Architecture
Replay, skill prototype, latent-action dictionary, failure trajectory와 embodiment adapter를 결합한다.
15. Task-Adaptive Latent Action Router
Planning 중심인지 motor coordination 중심인지 판단해 latent representation을 선택한다.
16. Causal XAI Evaluation Stack
Association, intervention, mechanism composition, distribution shift와 counterfactual prediction을 단계화한다.
17. Method-Explicit Explanation Certificate
Model, attribution method, baseline, perturbation protocol, stability와 known failure를 기록한다.
18. Bias-Aware Uncertainty Decomposition
Aleatoric, variance, bias와 domain uncertainty를 하나의 reliability model로 통합한다.
19. Post-Deployment Public Evaluation
Privacy-preserving individual report를 subgroup risk, audit, model update와 policy action으로 연결한다.
20. Standard System-Level Evaluation
Plasticity, recovery, execution grounding, dynamic compute, abstention, XAI, uncertainty와 deployment를 표준화한다.
13
Conclusion
Poster Session 5는 intelligence의 평가단위가 현재 accuracy에서 learnability, execution grounding, recovery, adaptive resources와 causal trust로 확장되고 있음을 보여준다.
Current Accuracy → Future Plasticity
현재 성능뿐 아니라 새로운 task를 얼마나 빠르게 학습할 수 있는지 평가한다.
Language Feedback → Execution Grounding
Compiler, simulator와 verifier가 agent supervision의 핵심이 된다.
Error Avoidance → Error Recovery
오류를 감지하고 rollback·replanning하는 능력을 독립적으로 학습한다.
Context Memory → Self-Evolution Memory
Memory가 inference context와 policy-improvement data engine을 동시에 담당한다.
Endpoint Calls → Executable Tool Programs
Service intent를 control flow와 effect semantics가 있는 program으로 표현한다.
Fixed Computation → Programmed Computation
Layer, KV rank, precision와 tool을 input별 computation program으로 선택한다.
Hidden Reasoning → Human-Interleaved Reasoning
Plan과 intermediate evidence를 조기에 공유해 user correction을 가능하게 한다.
Retrieved Evidence → Used Evidence
검색된 source가 실제 output에 기여했는지 information flow로 평가한다.
Generic Quantization → Reasoning-Preserving Quantization
Symbolic commitment와 reasoning branch를 low-bit noise로부터 보호한다.
Forced Generation → Abstention-Aware Generation
OOD와 high uncertainty에서는 design output을 거부한다.
Passive Data → Active Experimentation
다음에 언제 무엇을 측정할지 model이 선택한다.
Small-Model Continual Learning → Pretrained Continual Dynamics
Large pretraining이 forgetting과 recovery의 성질을 변화시킨다.
Raw Actions → Latent Action Representation
Heterogeneous robot dataset을 intermediate action space로 통합한다.
Explanation Score → Causal·Method-Aware XAI
Explanation claim을 method, intervention과 counterfactual evidence에 맞춰 제한한다.
미래의 AI system은 높은 benchmark score를 가진 고정 model이 아니다. 새로운 task를 계속 학습하고, 실제 execution result로 자신의 행동을 검증하며, 실패에서 복구하고, input에 따라 layer·memory·precision·tool을 선택하고, evidence·uncertainty·explanation의 타당성을 인과적으로 감사할 수 있는 adaptive and verifiable system이다.
14
Sources
세션 메타데이터, plasticity, efficient inference, agent verification, recovery, memory, grounding, AI4Science, robotics와 interpretability 원문 링크.
ICML 2026 Poster Session 5원문·세션·프로젝트 링크ICML 2026 세션 일정 메타데이터원문·세션·프로젝트 링크Poster Session 5 전체 제목·초록 목록원문·세션·프로젝트 링크ICML 2026 논문 태깅 메타데이터원문·세션·프로젝트 링크Local Redundancy원문·세션·프로젝트 링크Pretrained VLA Models Are Surprisingly Resistant to Forgetting원문·세션·프로젝트 링크From Pixels to Tokens원문·세션·프로젝트 링크VEQ원문·세션·프로젝트 링크Skip a Layer or Loop It?원문·세션·프로젝트 링크STAR-KV원문·세션·프로젝트 링크ReQAT원문·세션·프로젝트 링크LLM4Cov원문·세션·프로젝트 링크GUI-RobustEval and RoTS원문·세션·프로젝트 링크SE-GA원문·세션·프로젝트 링크ToolPro원문·세션·프로젝트 링크PLANTAIN원문·세션·프로젝트 링크Information Flow Reveals When to Trust Language Models원문·세션·프로젝트 링크Epistemic Uncertainty Methods Are Fundamentally Incomplete원문·세션·프로젝트 링크Geometric Flow Grounding원문·세션·프로젝트 링크Generative Inverse Design with Abstention원문·세션·프로젝트 링크Active Timepoint Selection원문·세션·프로젝트 링크Causality Is Key for Interpretability Claims원문·세션·프로젝트 링크Explanation Stability Is a Model–Method Pair Property원문·세션·프로젝트 링크Aggregated Individual Reporting원문·세션·프로젝트 링크