중심 명제
Poster Session 4가 보여주는 핵심은 더 큰 model이나 더 긴 reasoning trace가 아니다. 변화하는 상대와 환경에 맞춰 belief를 수정하고, reasoning 과정의 품질을 평가하며, 필요한 tool·token·expert만 선택하고, memory와 training data의 무결성을 유지하면서 실제 상호작용을 검증 가능하게 수행하는 adaptive intelligence다.
Strategic Adaptation · Process Reward · Memory Integrity · MoE · Diffusion · Governance
ICML 2026 Poster Session 4
790편의 대규모 논문군을 strategic agents, process supervision, long-horizon reasoning, tool governance, memory security, multimodal efficiency, MoE, diffusion, data governance, evaluation validity와 societal governance의 관점에서 재구성한다.
790세션 원시 논문
16통합 연구축
26연구질문
26Open Problems
01
전체 연구 지형
Poster Session 4는 belief updating, process supervision, adaptive resource allocation, trusted memory와 governed interaction이 real-world intelligence를 결정한다는 흐름을 보여준다.
Interaction History→Belief Update→Process-Supervised Reasoning→Selective Computation→Memory Integrity→Governed Action
Adaptive Intelligence =
Strategic Belief × Valid Process × Selective Computation × Trusted Memory × Governed Interaction
02
Definition
Strategic adaptation, process reward, reward curriculum, long-horizon agents, tool governance, memory integrity, MoE, diffusion와 fairness를 정리한다.
Adaptive Strategic Intelligence
반복 상호작용에서 상대방의 행동을 관찰하고 belief를 갱신하며, simulation과 expected utility를 통해 다음 행동을 수정하는 능력이다.
Inference-Time Strategic Adaptation
Weight update 대신 test-time simulation, search와 hypothesis evaluation으로 새로운 상대와 환경에 적응한다.
Process Reward Model
최종 answer뿐 아니라 reasoning 중간 state와 각 step의 정확성·유용성을 평가한다.
Inverse RL for Reasoning
Expert reasoning trajectory에서 명시되지 않은 latent reward function을 역추론한다.
Rubric-Based Reward
Perception, logic, evidence, calculation과 final validity를 분리된 평가기준으로 구성한다.
Reward Curriculum
Model competence에 맞춰 foundational rubric에서 advanced reasoning rubric으로 reward 비중을 이동한다.
Long-Horizon Agent
수십·수백 회의 action, tool call와 observation이 필요한 부분관측 task를 수행한다.
Epistemically Necessary Tool Use
Internal reasoning만으로 uncertainty를 충분히 줄일 수 없을 때만 external tool을 호출하는 원칙이다.
Agent Memory Integrity
저장된 episode, fact와 procedure가 정확하고 provenance를 가지며 poisoning과 오류증폭에 저항하는 성질이다.
Modality-Asymmetric Token Compression
Video, audio와 text의 서로 다른 redundancy structure에 맞춰 압축정책을 분리한다.
Adaptive KV Compression
Layer와 head의 semantic density·entropy에 따라 cache budget을 동적으로 배분한다.
Semantic Cache
새 prompt와 기존 prompt가 의미적으로 동등한지 판정해 response를 재사용하는 cache다.
Mixture-of-Experts Routing
Token, structure 또는 task phase를 적합한 expert subset에 할당하는 문제다.
Superposed Specialization
하나의 expert가 단일 broad domain이 아니라 여러 fine-grained feature를 동시에 표현한다는 관점이다.
Diffusion Language Model
Masked·corrupted sequence를 반복적으로 denoise해 text를 생성하는 non-autoregressive model 계열이다.
Learnable Generation Order
어떤 token을 먼저 생성·unmask할지 model이 task dependency에 맞춰 학습한다.
Data-Attribution-Based Unlearning
Forget set에 대한 loss를 높이는 대신 output이 해당 data에 귀속되는 정도를 줄인다.
Spatial Fairness
Location이 protected attribute와 사회경제적 history의 proxy로 작동해 발생하는 차별을 다룬다.
Bayesian Accuracy
Answer length에 대한 explicit prior를 사용해 multiple-choice likelihood의 길이편향을 보정한다.
03
Problem Definition
Online adaptation, process quality, tool use, memory, compression, routing, unlearning, metric validity와 governance의 간극을 정의한다.
Offline Policy–Online Adaptation Gap
Offline policy는 평균적으로 robust할 수 있지만 실제 상대의 반복행동을 이용해 개선하지 못한다.
Outcome Reward–Process Quality Gap
최종 answer가 맞아도 reasoning이 invalid하거나 lucky shortcut일 수 있다.
Short-Horizon Benchmark–Real Agent Gap
짧은 benchmark는 수백 tool call, delayed feedback와 persistent memory failure를 드러내지 못한다.
Tool Availability–Epistemic Necessity Gap
Tool을 많이 호출한다고 intelligence가 높아지는 것이 아니며 cost와 attack surface가 커진다.
Memory Accumulation–Memory Integrity Gap
Memory가 많아질수록 stale knowledge, contradiction, privacy exposure와 poisoning 위험도 증가한다.
Symmetric Compression–Modality Heterogeneity Gap
Video와 audio에 동일 pruning rule을 적용하면 중요한 cross-modal evidence가 손실된다.
Uniform KV Budget–Layer Density Gap
Layer마다 semantic density가 다른데 동일 cache budget을 부여한다.
Single-Vector Cache–Compositional Prompt Gap
복잡한 prompt를 하나의 embedding으로 표현하면 일부 segment 차이를 놓친다.
Token Routing–Task-Phase Gap
Token-level MoE routing이 coherent agent phase를 여러 expert로 분산시킬 수 있다.
Expert Specialization–Interpretability Gap
Expert를 broad domain label 하나로 설명하기 어렵고 feature superposition이 존재한다.
Generation Quality–Generation Order Gap
Diffusion model 성능이 backbone뿐 아니라 token generation order에 크게 좌우된다.
Forgetting–Utility Preservation Gap
Forget data를 제거하는 과정에서 관련 general capability까지 손상될 수 있다.
Average Metric–Sparse Signal Gap
평균 metric이 rare but important biological signal을 무시하고 trivial mean predictor를 보상한다.
Execution Correctness–Semantic Correctness Gap
Solver code가 실행돼도 원래 자연어 specification을 잘못 형식화했을 수 있다.
Local Prediction–Global Coherence Gap
각 edge·component가 타당해도 전체 graph constraint를 위반할 수 있다.
Location Neutrality–Structural Discrimination Gap
Location은 neutral feature처럼 보이지만 historical inequality의 proxy가 될 수 있다.
Evaluation Automation–Scientific Validity Gap
AI review가 처리량을 늘려도 hivemind, style gaming과 scientific diversity 감소를 만들 수 있다.
04
Core Concepts
Belief simulation, dual learning, epistemic tool value, taint propagation, semantic cache, phase routing, order diffusion와 spatial discrimination을 정리한다.
Belief–Simulation–Action Loop
Opponent history에서 belief를 갱신하고 candidate action을 simulation해 expected utility가 높은 행동을 선택한다.
Dual Policy–Reward Learning
Policy가 trajectory를 만들고 PRM이 이를 평가하며, 개선된 PRM이 다시 policy를 업데이트하는 순환구조다.
Competence-Conditioned Reward
Model competence와 rubric difficulty 차이에 따라 reward weight를 조절한다.
Epistemic Value of Tool Use
Tool observation이 decision utility를 얼마나 개선하는지 cost와 risk를 포함해 계산한다.
Memory Taint Propagation
Poisoned memory가 action, observation과 새 memory를 거쳐 self-reinforcing하게 확산되는 현상이다.
Modality-Asymmetric Redundancy
Video, audio와 text가 서로 다른 redundancy와 evidence structure를 가진다는 원리다.
Semantic-Density-Aware Cache
Information density가 높은 layer에 더 많은 KV budget을 배정한다.
Segmented Semantic Equivalence
Prompt를 segment로 분해하고 component-level matching으로 cache equivalence를 판정한다.
Structure-Aware Expert Routing
Dominant input subspace와 task supervision을 함께 사용해 expert를 선택한다.
Superposed Expert Features
Expert 기능을 단일 topic이 아니라 여러 SAE feature의 조합으로 설명한다.
Phase-Consistent Routing
Planning, tool use, verification와 recovery 같은 agent phase에 맞춰 expert routing을 유지한다.
Order-Expressive Diffusion
Generation order를 latent variable로 취급해 autoregressive, blockwise와 random order를 통합한다.
Data Attribution Reward
Output이 특정 training item에 의존하는 정도를 reward로 사용해 targeted unlearning을 수행한다.
Metric-Induced Mode Collapse
Loss가 dominant 평균패턴을 과도하게 보상해 rare response를 무시하게 만드는 현상이다.
Simplification-Based Verification
복잡한 formalization을 작은 diagnostic problem들로 분해해 local semantic consistency를 검사한다.
Global Graph Constraint Token
Graph-level statistic과 constraint를 global conditioning token으로 제공한다.
Bayesian Length Prior
Answer-length distribution을 explicit prior로 사용해 likelihood score를 보정한다.
Spatial Proxy Discrimination
Location 정보가 protected attribute의 proxy로 작동해 차별적 outcome을 재현하는 현상이다.
05
Introduction
Machine learning은 static prediction에서 process-native, long-horizon, modular and governed intelligence로 발전한다.
Stage 1 — Static Prediction
정적 dataset에서 input–model–output accuracy를 최적화한다.
Stage 2 — Foundation Models
Broad representation과 multi-task generalization을 얻지만 adaptation, memory와 process correctness는 부족하다.
Stage 3 — Outcome-Optimized Reasoning
RLVR, preference learning과 best-of-N으로 final answer performance를 개선한다.
Stage 4 — Process-Supervised Reasoning
PRM, rubric curriculum와 solver verification으로 intermediate reasoning을 감독한다.
Stage 5 — Long-Horizon Tool Agents
Observe, plan, retrieve, use tools, update memory, recover와 terminate를 장기간 반복한다.
Stage 6 — Adaptive Resource Systems
Token, KV, expert, model depth, tool budget, generation order와 semantic cache를 선택한다.
Stage 7 — Modular·Diffusion Intelligence
MoE, flow matching과 diffusion으로 computation과 generation order를 동적으로 구성한다.
Stage 8 — Governed Interactive Intelligence
Belief, reasoning, action, memory, data integrity와 social governance를 통합한다.
06
Motivation and Background
Strategic interaction, process reward, long horizon, tool risk, omni-modal efficiency, routing, data lifecycle, metric validity와 governance를 설명한다.
실제 의사결정은 반복적이고 전략적임
협상, 시장과 multi-agent collaboration에서는 상대의 행동이 지속적으로 변한다.
최종정답 supervision만으로 reasoning을 신뢰하기 어려움
Outcome signal은 shortcut, lucky answer와 invalid intermediate step을 구분하지 못한다.
Real-world agent는 훨씬 긴 시간축을 가짐
Software development와 scientific discovery는 수백 action, partial observability와 delayed feedback을 포함한다.
Tool use는 capability와 attack surface를 동시에 확장
External retrieval과 API는 information을 제공하지만 injection, leakage와 failure risk도 만든다.
Omni-modal system의 병목은 token 수보다 정보배분
중요한 visual·audio evidence만 남기고 cross-modal alignment를 유지해야 한다.
MoE의 핵심은 expert 수보다 routing quality
구조와 task phase를 반영하지 못하면 collapse, imbalance와 fragmented reasoning이 발생한다.
Safety는 training data와 memory lifecycle에서 시작
Inference guardrail만으로 unsafe data, poisoned memory와 derived artifact를 제거할 수 없다.
Evaluation metric이 연구결론을 바꿀 수 있음
Length bias와 sparse-signal artifact가 model ranking과 training behavior를 왜곡한다.
사회적 영향은 technical metric만으로 표현되지 않음
Spatial discrimination, peer review automation, taxation과 research concentration을 함께 다뤄야 한다.
07
Challenges
Online adaptation, PRM stability, long-horizon credit, epistemic tool use, memory security, cache correctness, routing, unlearning, fairness와 governance가 핵심 난제다.
| 도전과제 | 핵심 문제 | 요구되는 방향 |
|---|---|---|
| Online strategic adaptation | Unknown opponent가 지속적으로 변화 | Belief update·simulation |
| PRM generalization | Expert reward에 대한 강한 가정 | Inverse-RL process reward |
| Reward hacking | Outcome check만 만족하는 shortcut | Rubric·process supervision |
| Reward curriculum | 모든 rubric 동시 적용 시 noisy gradient | Competence-aware weighting |
| Long-horizon planning | Memory·tool·error가 수백 step 누적 | Hierarchical plan·checkpoint |
| Tool overuse | 비용·privacy·failure risk 증가 | Epistemic-value routing |
| Memory poisoning | Context-triggered malicious entry | Trajectory-level defense |
| Memory self-reinforcement | 오류가 precedent로 증폭 | Taint tracking·revocation |
| Omni-modal overload | Audio·video sequence가 과도하게 길어짐 | Asymmetric compression |
| KV-cache heterogeneity | Layer별 semantic density 차이 | Entropy-aware budgeting |
| Semantic-cache correctness | 유사하지만 다른 prompt를 잘못 reuse | Segmented equivalence |
| MoE routing instability | Expert collapse와 load imbalance | Structure-aware routing |
| Expert interpretability | Broad domain label로 설명 불가 | Feature-level explanation |
| Phase fragmentation | Agent phase가 token-level로 분산 | Phase-consistent routing |
| Diffusion order | Generation order가 quality·latency 지배 | Joint order–backbone learning |
| Unlearning utility | Forgetting이 general ability 손상 | Attribution-targeted removal |
| Unsafe training data | 소량 harmful data도 behavior 변화 | Denoised attribution filtering |
| Metric length bias | Answer 길이가 model ranking 왜곡 | Bayesian length prior |
| Sparse-signal evaluation | Mean predictor가 과도하게 보상 | Signal-aware metric |
| Semantic formalization | 실행가능하지만 의도가 틀린 formulation | Simplification verification |
| Global graph coherence | Local decision이 global constraint 위반 | Constraint conditioning |
| Spatial discrimination | Location이 protected proxy | Contextual spatial fairness |
| Prompt injection | Untrusted context가 privileged action 지배 | Causal attribution guardrail |
| Red-team mode collapse | 유사한 jailbreak만 반복 | Distributional attack sampling |
| Peer-review automation | Hivemind·style gaming·diversity 감소 | Human–AI governance |
| Economic governance | AI 가치와 사회비용 불균형 | Auditable policy |
08
Research Questions
Strategic adaptation, PRM, reward curriculum, long-horizon agents, tool governance, memory, MoE, diffusion, evaluation, fairness와 provenance를 중심으로 정리한다.
RQ1
반복 협상에서 LLM이 상대의 time-varying strategy를 online으로 얼마나 정확히 모델링할 수 있는가?
RQ2
Parameter update와 inference-time simulation 중 어떤 조건에서 어느 방식이 더 효율적인가?
RQ3
Expert reward function 없이 일반화 가능한 PRM을 학습할 수 있는가?
RQ4
PRM 오류가 policy에 증폭되는 dual-learning instability를 어떻게 막을 것인가?
RQ5
Rubric difficulty와 model competence를 자동으로 추정할 수 있는가?
RQ6
Outcome, process와 rubric reward를 어떤 비율로 결합해야 하는가?
RQ7
수백 회 tool call을 포함하는 agent의 progress와 failure risk를 어떻게 측정할 것인가?
RQ8
Tool 호출의 epistemic necessity를 runtime에 계산할 수 있는가?
RQ9
개별 memory는 정상적이지만 조합될 때 발생하는 poisoning을 어떻게 탐지할 것인가?
RQ10
Memory poisoning이 후속 memory에 전파되는 self-reinforcing cycle을 어떻게 차단할 것인가?
RQ11
Video와 audio token utility를 modality별로 어떤 기준으로 추정할 것인가?
RQ12
Layer별 KV semantic density를 task-independent하게 추정할 수 있는가?
RQ13
Semantic cache가 correctness guarantee를 유지하면서 compositional prompt를 재사용할 수 있는가?
RQ14
MoE expert는 domain, feature, task phase 중 무엇을 기준으로 specialization해야 하는가?
RQ15
Expert routing의 설명가능성과 routing performance를 동시에 최적화할 수 있는가?
RQ16
Diffusion LM에서 generation order와 denoising model을 공동학습하는 최적 objective는 무엇인가?
RQ17
Continuous latent diffusion이 discrete token diffusion보다 어떤 reasoning 문제에서 우수한가?
RQ18
특정 training data influence만 제거하면서 general knowledge를 보존할 수 있는가?
RQ19
Unsafe data attribution score가 future harmful behavior를 실제로 예측하는가?
RQ20
Multiple-choice evaluation의 length bias를 benchmark별 prior로 안정적으로 제거할 수 있는가?
RQ21
Sparse biological response에서 metric artifact와 model failure를 어떻게 구분할 것인가?
RQ22
Natural-language optimization formulation의 semantic fidelity를 solver query만으로 검증할 수 있는가?
RQ23
Graph diffusion이 local edge quality와 global topology constraint를 동시에 보장할 수 있는가?
RQ24
Spatial fairness를 protected-group fairness, geography와 historical context를 결합해 어떻게 정의할 것인가?
RQ25
AI-assisted peer review가 reviewer diversity를 높이는가, 아니면 model consensus를 강화하는가?
RQ26
Memory, tools, training data와 generated output의 provenance를 하나의 integrity graph로 통합할 수 있는가?
09
Approaches / Methods
대표 연구를 agents, reasoning, memory, efficiency, MoE, diffusion, unlearning, verification, scientific learning와 evaluation 기준으로 탐색할 수 있다.
Opponent-Simulation Inference Scaling
Interaction history로 opponent belief를 갱신하고 candidate negotiation을 simulation해 best response를 선택한다.
rePIRL
Expert·policy trajectory에서 inverse reward를 학습하고 PRM과 policy를 교대로 개선한다.
RuCL
Rubric difficulty와 model competence를 추정해 foundational·advanced reward 비중을 동적으로 조절한다.
UltraHorizon
Software, investment와 scientific discovery 환경에서 장기 planning, memory, exploration과 tool use를 평가한다.
Epistemic Tool Routing
Internal reasoning으로 uncertainty를 해소할 수 있는지 판단한 뒤 EVI, cost와 risk에 따라 tool을 호출한다.
A-MemGuard
Contextual trigger, multi-entry interaction, future behavior와 taint propagation을 이용해 memory poisoning을 탐지한다.
OmniSIFT
Spatial·temporal video redundancy를 먼저 줄이고 visual anchor로 audio token을 선별한다.
EAKV
Layer attention entropy와 semantic density에 따라 cache budget을 배정하고 critical token을 보존한다.
MVR-cache
Prompt를 learnable segment로 분해하고 multi-vector MaxSim으로 semantic cache hit를 판정한다.
STAR
Online principal subspace tracking과 learnable gate를 결합해 structure-aware expert routing을 수행한다.
RouterInterp
SAE feature와 routing log를 연결해 expert 선택의 fine-grained feature explanation을 생성한다.
Phase-Aware MoE
Observe, plan, act, verify와 recover phase별 coherent expert group을 사용한다.
OeMDM·LoMDM
여러 generation order를 통합하고 ordering policy와 diffusion backbone을 공동학습한다.
Continuous–Discrete Coevolution
Continuous latent expressivity와 discrete token decodability를 공동진화시킨다.
FlowMAP
Agent planning을 continuous-time distribution transport로 표현하고 high-value meta-state로 이동시킨다.
DareU
Forget data의 output attribution을 reward로 사용해 targeted influence removal을 수행한다.
Unsafe-Data Attribution Filter
Representation noise를 줄이고 future harmful behavior에 영향을 주는 training sample을 식별한다.
VeriSimpl
복잡한 solver formulation을 diagnostic subproblem으로 단순화해 semantic self-verification을 수행한다.
FusionCell
Layout image와 netlist graph를 cross-modal query로 결합해 power·delay·area를 예측한다.
Signal-Aware scRNA Evaluation
DEG 중심 weighted metric과 loss로 sparse perturbation signal을 평가하고 mode collapse를 줄인다.
NetDiff
Global constraint token과 partial graph diffusion으로 mobile network topology를 생성·업데이트한다.
Bayesian Accuracy
Answer-length prior를 conditional log-likelihood에 결합해 length bias를 보정한다.
10
Key Applications
Strategic agents, research automation, process reasoning, omni-modal assistants, serving, memory security, safety, science, fairness와 peer review에 적용된다.
Strategic Negotiation Agents
Bargaining, procurement, marketplace, diplomacy, resource allocation와 adaptive pricing.
Long-Horizon Research·Software Agents
Repository development, scientific exploration, investment analysis와 autonomous experiment.
Process-Supervised Reasoning
Mathematics, coding, visual reasoning, optimization, science explanation와 verification.
Omni-Modal Assistants
Long-video QA, audio-video events, meetings, surveillance, education와 accessibility.
Efficient LLM Serving
Semantic cache, long context, multimodal serving, KV compression, sparse attention와 MoE.
Agent Memory Security
Personalized, enterprise, coding, retrieval-augmented와 customer-service agents.
AI Safety·Red Teaming
Jailbreak discovery, prompt injection defense, unsafe-data filtering, unlearning과 honeypots.
Semiconductor·Network Design
Standard cells, layout·netlist fusion, power·delay, mobile topology와 wireless planning.
Biomedical Modeling
Single-cell perturbation, rare response, differential expression와 benchmark calibration.
Intelligent Education
Knowledge tracing, cognitive diagnosis, curriculum recommendation와 learning-path visualization.
Fair Decision Systems
Mortgage, insurance, urban policy, resource allocation와 environmental justice.
Scientific Communication·Peer Review
AI-assisted review, factual verification, reviewer guidance, manipulation detection와 diversity monitoring.
11
Open Problems
Opponent manipulation, PRM instability, tool uncertainty, memory revocation, cache provenance, expert collapse, unlearning guarantee, fairness와 research governance를 해결해야 한다.
Opponent-Model Manipulation
전략적 상대가 agent의 belief update를 의도적으로 오도할 수 있다.
Simulation Cost Calibration
Best-of-N과 opponent simulation을 어느 수준까지 수행해야 하는지 판단해야 한다.
PRM–Policy Co-Adaptation
잘못된 PRM과 policy가 서로의 오류를 강화할 수 있다.
Process Reward Exploitation
Model이 genuine reasoning보다 PRM이 선호하는 style을 학습할 수 있다.
Reward-Curriculum Scheduling
Competence 추정오류로 rubric을 너무 빨리 또는 늦게 강조할 수 있다.
Ultra-Long-Horizon Credit Assignment
수십만 step에서 early decision과 final outcome의 인과관계를 추적하기 어렵다.
Epistemic Tool-Use Estimation
Self-knowledge가 부정확하면 필요한 tool을 생략하거나 과도하게 호출한다.
Memory Poisoning Compositionality
개별 entry는 안전하지만 조합될 때 공격이 활성화될 수 있다.
Memory Revocation
Summary와 downstream memory로 파생된 오염을 완전히 제거하기 어렵다.
Compression-Induced Evidence Bias
Pruning이 small object, quiet audio와 minority language를 더 많이 제거할 수 있다.
Semantic-Cache False Hit
법률·의료·수치 constraint가 다른 prompt를 잘못 reuse하면 치명적이다.
Cache Provenance
Cached response의 model, prompt, tool와 policy version을 기록해야 한다.
Expert Specialization Collapse
여러 expert가 genuinely distinct capability를 학습하지 않을 수 있다.
Routing Portability
Model merging과 continual learning 이후 router validity를 보장하기 어렵다.
Generation-Order Generalization
학습된 order policy가 긴 sequence와 새로운 domain에 전이되는지 불명확하다.
Continuous Latent Decoding
Rich latent state를 stable discrete token으로 변환하기 어렵다.
Verifiable Unlearning
Attribution 감소가 실제 information removal을 의미하는지 formal guarantee가 필요하다.
Unsafe-Data Causality
높은 attribution이 causal influence인지 correlation인지 구분해야 한다.
Sparse-Signal Metric Selection
중요 gene·event를 사전에 모를 때 weight를 정의하기 어렵다.
Self-Verification Soundness
Diagnostic subproblem 통과가 전체 formulation 정확성의 sufficient condition이 아닐 수 있다.
Global Constraint Guarantees
Graph diffusion output이 connectivity와 interference를 항상 만족하기 어렵다.
Spatial Fairness Causality
지역 outcome 차이가 discrimination인지 legitimate variation인지 구분해야 한다.
AI Review Hivemind
서로 다른 AI reviewer도 동일 corpus와 preference로 과도하게 동의할 수 있다.
Peer-Review Manipulation
Stylistic optimization이 scientific contribution 없이 score를 높일 수 있다.
Economic Governance Measurement
Token tax와 같은 policy의 innovation·labor·inequality 효과를 실증해야 한다.
Research-Power Concentration
Big-tech compute와 influence가 research agenda와 benchmark를 어떻게 형성하는지 정량화해야 한다.
12
Future Directions
미래 ML은 strategic agent OS, process-native reasoning, reward compiler, verified memory lifecycle, phase-structured MoE, order-adaptive diffusion와 socio-technical governance로 발전한다.
1. Strategic Agent Operating System
Opponent·environment model, belief state, simulation budget controller와 action policy를 통합한다.
2. Process-Native Reasoning Model
Architecture 내부에 PRM과 verifier interface를 포함해 reasoning과 evaluation을 공동수행한다.
3. Reward Curriculum Compiler
Task에서 rubric을 생성하고 difficulty, competence와 schedule을 자동 compile한다.
4. Long-Horizon Agent Checkpoints
Goal, subgoal, evidence, memory writes, tool cost와 recovery point를 machine-readable state로 저장한다.
5. Epistemic Tool Router
Tool capability contract와 expected information value로 호출여부를 결정한다.
6. Verified Memory Lifecycle
Source validation, trigger simulation, conflict checking, scoped insertion, expiry와 revocation을 운영한다.
7. Modality-Aware Context Compiler
Query, layer, modality information와 latency budget으로 token·precision·cache를 배분한다.
8. Correctness-Certified Semantic Cache
Prompt segment, equivalence scope, model version, tool state, validity test와 expiry를 저장한다.
9. Phase-Structured MoE Agents
Observe, plan, tool, verifier와 recovery expert를 cognitive phase별 전문화한다.
10. Self-Interpreting MoE
Expert 선택, routing confidence, alternative expert와 expected utility를 함께 설명한다.
11. Order-Adaptive Diffusion FM
Text, code, graph와 design dependency에 따라 generation order를 선택한다.
12. Attribution-Native Data Governance
Source, license, safety class, influence, affected capability와 forget status를 기록한다.
13. Signal-Aware Scientific Metrics
Biological significance, rarity, uncertainty, causal relevance와 clinical utility를 metric에 반영한다.
14. Solver-Backed Semantic Formalization
Candidate model을 simplified test world와 counterexample로 검증·수정한다.
15. Constraint-Native Graph Diffusion
각 denoising step에서 connectivity, degree, parity와 interference constraint projection을 수행한다.
16. Spatial Fairness Digital Twin
Decision policy가 spatial allocation과 demographic system에 미치는 장기효과를 simulation한다.
17. Diversity-Preserving AI Peer Review
Correctness, novelty, rigor, societal impact, reproducibility와 clarity를 분리된 reviewer 역할로 평가한다.
18. Socio-Technical AI Governance Stack
Model, system, institution layer의 safety, labor, taxation, competition와 environment를 함께 다룬다.
19. Standard System-Level Evaluation
Adaptation, process, tools, memory, cache, MoE, unlearning, fairness, governance와 provenance를 표준화한다.
13
Conclusion
Poster Session 4는 next-generation AI의 핵심이 strategic belief, valid process, selective computation, trusted memory와 governed interaction에 있음을 보여준다.
Offline Robustness → Online Strategic Adaptation
Interaction history와 opponent simulation으로 behavior를 개선한다.
Outcome Reward → Process Reward
Final answer뿐 아니라 reasoning step과 strategic usefulness를 평가한다.
Data Curriculum → Reward Curriculum
어떤 평가기준을 언제 강조할지도 학습과정의 일부가 된다.
Short Benchmark → Ultra-Long Horizon
수백 tool call, partial observability와 persistent state를 평가한다.
Tool Availability → Epistemic Governance
Tool 사용가능성보다 실제 정보필요성을 판단한다.
Memory Capacity → Memory Integrity
Insertion validation, provenance, taint tracking과 revocation이 중요하다.
Symmetric Compression → Modality-Asymmetric Compression
Video, audio, text와 KV의 다른 redundancy를 활용한다.
Flat Cache → Compositional Semantic Cache
Prompt segment 단위의 correctness-aware reuse를 수행한다.
Token MoE → Structure·Phase-Aware MoE
Input structure와 cognitive phase에 맞춰 expert를 선택한다.
Fixed Order → Learnable-Order Diffusion
Generation order 자체를 reasoning·generation policy로 학습한다.
Loss Forgetting → Attribution Unlearning
Specific data influence를 직접 제거한다.
Generic Metrics → Signal-Aware Evaluation
Length와 sparse domain signal의 편향을 보정한다.
Executable → Semantically Verified Output
실행성뿐 아니라 원래 intention과 semantic equivalence를 검증한다.
Local Generation → Global Constraint Generation
Graph와 network의 전체 coherence를 generation에 포함한다.
Model Fairness → Spatial·Institutional Governance
Location, peer review, taxation과 research concentration을 함께 다룬다.
미래의 AI는 고정 model이 하나의 prompt에 하나의 answer를 생성하는 시스템이 아니다. 변화하는 상대와 환경의 state를 추론하고, 필요한 reasoning·tool·memory·expert와 token만 선택하며, 과정과 결과를 지속적으로 검증하고, data·security·fairness·사회적 constraint를 고려해 행동하는 strategically adaptive and governed intelligence다.
14
Sources
세션 메타데이터, strategic agents, process reward, memory security, multimodal efficiency, MoE, diffusion, unlearning, scientific applications와 governance 원문 링크.
ICML 2026 Poster Session 4원문·세션·프로젝트 링크ICML 2026 세션 일정 메타데이터원문·세션·프로젝트 링크Poster Session 4 전체 제목·초록 목록원문·세션·프로젝트 링크Scaling Inference-Time Computation via Opponent Simulation원문·세션·프로젝트 링크UltraHorizon원문·세션·프로젝트 링크Agent Should Invoke External Tools ONLY When Epistemically Necessary원문·세션·프로젝트 링크FlowMAP원문·세션·프로젝트 링크rePIRL원문·세션·프로젝트 링크RuCL원문·세션·프로젝트 링크VeriSimpl원문·세션·프로젝트 링크Think Less, Act Early원문·세션·프로젝트 링크An Empirical Study of Memory Poisoning Defenses원문·세션·프로젝트 링크Speculative Safety Honeypot원문·세션·프로젝트 링크Jailbreak Foundry원문·세션·프로젝트 링크CausalArmor원문·세션·프로젝트 링크OmniSIFT원문·세션·프로젝트 링크EAKV원문·세션·프로젝트 링크MVR-cache원문·세션·프로젝트 링크VideoFlexTok원문·세션·프로젝트 링크STAR원문·세션·프로젝트 링크RouterInterp원문·세션·프로젝트 링크Phase-Aware Mixture of Experts원문·세션·프로젝트 링크When Model Merging Breaks Routing원문·세션·프로젝트 링크Unifying Masked Diffusion Models with Various Generation Orders원문·세션·프로젝트 링크Coevolutionary Continuous Discrete Diffusion원문·세션·프로젝트 링크Spectral Flow Matching원문·세션·프로젝트 링크NetDiff원문·세션·프로젝트 링크De-attribute to Forget원문·세션·프로젝트 링크Detecting and Filtering Unsafe Training Data원문·세션·프로젝트 링크Accuracy and Normalized Accuracy under Length Bias원문·세션·프로젝트 링크Needles in the Haystack: scRNA-seq Evaluation원문·세션·프로젝트 링크FusionCell원문·세션·프로젝트 링크Cognitive Structure Generation원문·세션·프로젝트 링크Spatial Fairness원문·세션·프로젝트 링크Stop Automating Peer Review Without Rigorous Evaluation원문·세션·프로젝트 링크The AI Imperative: Scaling High-Quality Peer Review원문·세션·프로젝트 링크Token Taxes Can Mitigate AI's Economic Risks원문·세션·프로젝트 링크Irresponsible AI: Big Tech's Influence원문·세션·프로젝트 링크