분석 범위와 방법
세션 ID 68692는 ICML 2026 Poster Session 8에 해당하며, 공개 일정 미러의 원시 논문 배열을 기준으로 총 644편이 포함된다.
전체 초록 분류
세션의 제목·저자·초록·공식 논문 링크를 연구축별로 분류한다.
대표 논문 교차검토
OpenReview와 공개 논문 자료를 기준으로 핵심 방법과 결과를 검토한다.
통합 패러다임 도출
개별 논문을 넘어 공통 정의, 문제, 방법, 응용, 미해결 문제를 구조화한다.
Definition
적응적·상호작용적·검증 가능한 학습 시스템
전통적인 머신러닝은 입력을 출력으로 매핑하는 함수로 표현된다.
Poster Session 8의 연구들은 모델을 상태, 메모리, 계산예산, 위험과 불확실성을 갖는 적응적 의사결정 시스템으로 확장한다.
at ~ πθ(a | x, zt)
ot+1 = 𝓔(at, ut)
zt+1 = Update(zt, ot+1, V(at, ot+1))
bt · Belief
환경과 문제에 대한 현재 추론 상태
mt · Memory
단기·장기 기억과 외부 지식 상태
ct · Compute
토큰, 도구, 시간, 모델 라우팅 예산
rt · Risk
불확실성, 실패 위험, 검증 상태
행동은 다음 토큰 생성뿐 아니라 추론 분기 확장·제거, 검색, GraphRAG 질의, 도구 호출, 사용자에게 작업 요청, 시뮬레이션 실행, 다른 에이전트와 통신, 답변 보류, 인간 이관을 포함한다.
현대적 머신러닝은 불완전한 관측, 제한된 계산예산, 변화하는 사용자와 환경, 물리적·사회적 제약 아래에서 학습·추론·행동·검증·수정을 반복하는 적응적 의사결정 시스템이다.
- 학습 목표의 단위가 실제 의사결정 단위와 일치해야 한다.
- 추론 계산은 필요한 위치에 적응적으로 배분되어야 한다.
- 모델의 행동은 외부 환경에서 검증되어야 한다.
- 평가 결과는 모델 고유 능력과 평가환경의 효과로 분해되어야 한다.
- 아키텍처는 안전성과 책임의 경계를 명시해야 한다.
- 인간과 기관의 인센티브를 고려해야 한다.
Problem Definition
통합 최적화 문제
subject to Pr(invalid action) ≤ εv, Pr(unsafe trajectory) ≤ εs, privacy leakage ≤ εp, fairness violation ≤ εf, resource usage ≤ B
Task Utility
최종 작업 성공과 실제 사용 가치를 나타낸다.
Validity
수학적·물리적·논리적·형식적 유효성을 나타낸다.
Faithfulness
입력 증거와 추론 설명의 충실성을 나타낸다.
Social Welfare
사용자·조직·사회 전체의 효용을 나타낸다.
Compute Cost
토큰, 지연시간, 메모리, 에너지, 통신비용을 포함한다.
Failure & Privacy Risk
환각, 도구 오류, 위험 행동, 개인정보 유출을 포함한다.
세션이 드러내는 핵심 불일치
학습 단위 ↔ 행동 단위
DPO의 시퀀스 선호와 실제 생성의 토큰 단위 의사결정 사이에 불일치가 존재한다. TokenRatio는 토큰 수준의 선호 최적성을 복원한다.
모델 능력 ↔ 평가 결과
점수는 모델뿐 아니라 데이터, 프롬프트, 디코딩, 하드웨어, 채점방식의 영향을 받는다.
최종 답 ↔ 해결 과정
동일한 정답이라도 비효율적 검색, 잘못된 도구 호출, 환각, 위험 행동을 포함할 수 있다.
정적 벤치마크 ↔ 동적 현실
실제 환경에서는 사용자도 상태를 바꾸며, AI와 사용자의 공동 제어가 필요하다.
확률적 생성 ↔ 엄격한 유효성
프로그램, 양자회로, 물리 구조에서는 단 하나의 제약 위반도 결과를 무효화한다.
자동화 성능 ↔ 제도적 효용
AI가 강해질수록 사용자의 검증 노력이 줄어 조직 전체의 품질이 악화될 수 있다.
Core Concepts
3.1 Granularity-Consistent Learning
학습 신호가 실제 의사결정이 이루어지는 단위와 일치해야 한다는 원리다. 시퀀스 생성은 토큰 단위, 에이전트 작업은 행동 단계 단위, 멀티모달 설명은 증거 토큰과 모달리티 단위로 이루어진다.
TokenRatio의 TBPO는 시퀀스 선호만 제공되는 상황에서 prefix별 다음 토큰의 선호 최적성을 복원한다. OPPO는 시각·음향·언어 증거를 분리하고, 모달리티별 증거 토큰에 선택적으로 KL 제약을 적용한다.
3.2 Adaptive Test-Time Scaling
추론 계산을 무조건 늘리지 않고 문제 상태에 따라 병렬 분기의 수와 깊이를 조정한다. Parallel-Probe는 중간 답변의 합의도, 변화율, 편차를 바탕으로 조기 종료와 분기 제거를 수행한다.
3.3 Stateful Feedback
도구 호출 결과를 단순 문자열이 아니라 상태 변화와 목표 달성 여부를 포함한 피드백으로 다룬다. Gecko는 도구 이름·인자, 출력 스키마, 목표 달성을 구분해 반복 수정한다.
3.4 Dual-Control Interaction
사용자와 AI가 모두 공유 환경을 변화시키는 구조다. 기술지원에서는 AI가 계정 상태를 조회하는 동시에 사용자가 라우터를 재시작하거나 케이블을 교체한다. AI는 답을 말하는 것뿐 아니라 사용자의 행동을 안내하고 결과를 다시 해석해야 한다.
3.5 Perception–Execution Grounding
EmbodiedAct는 과학 소프트웨어의 실행 중 상태를 지속적으로 관측해 수치 불안정성, 발산 진동과 같은 이상 현상을 탐지한다. BuildArena는 자연어 사양을 물리 제약을 만족하는 구조물로 변환하는 능력을 평가한다.
3.6 Causally Faithful Evaluation
평가점수는 모델, 데이터셋, 프롬프트, 디코딩, 하드웨어·소프트웨어, 채점방식의 함수다. 목표는 모델의 인과효과를 다른 혼동요인에서 분리하는 것이다.
3.7 Trajectory-Level Evaluation
- 최종 성공 여부
- 검색과 도구 호출의 효율성
- 환각 발생 위치와 복구 능력
- 새 증거에 대한 적응
- 위험한 행동의 회피
- 사용 증거와 결론의 연결
TRACE는 하나의 정답 궤적을 요구하지 않고 evidence store를 이용해 여러 정당한 해결 경로를 평가한다.
3.8 Mechanistic Interpretation
attention sink와 massive activation을 단순 상관현상이 아니라 서로 다른 토큰 혼합 억제 메커니즘으로 분석한다. attention sink는 non-sink 토큰 사이의 혼합을, massive activation은 sink와 non-sink 토큰 사이의 혼합을 억제한다.
3.9 Architecture as a Security Boundary
Role
권한과 책임 배분
Topology
통신 관계와 순서
Memory
문맥과 상태 접근 범위
Control Flow
계획과 실행 권한 연결
개별 에이전트가 안전하더라도 공유 메모리, 과도한 권한, 잘못된 통신 토폴로지가 새로운 공격 표면을 만든다.
3.10 Incentive-Aware Machine Learning
예측 정확도뿐 아니라 정책과 상호작용하는 사용자·기관의 전략적 반응을 고려한다. 심장이식 배분에서는 장기조달기관, 이식센터, 임상의, 환자, 규제기관이 정책에 반응하여 행동을 바꾸므로 메커니즘 디자인, 전략적 분류, 인과추론, 사회적 선택을 통합해야 한다.
Introduction
Poster Session 8은 머신러닝 연구의 관심이 능력의 확대에서 능력의 통제·검증·배분으로 이동하고 있음을 보여준다.
과거의 대표 질문
- 모델 크기를 늘리면 성능이 증가하는가?
- 더 많은 데이터가 일반화를 개선하는가?
- 더 긴 chain-of-thought가 정확도를 높이는가?
- 여러 에이전트가 단일 에이전트보다 나은가?
현재의 대표 질문
- 어느 토큰과 상태에 학습 신호를 주어야 하는가?
- 추론의 폭과 깊이를 언제 늘리고 줄여야 하는가?
- 도구를 실제 사용하기 전에 안전하게 연습할 수 있는가?
- 사용자가 환경을 바꾸는 상황에서도 작동하는가?
- 점수를 모델 능력으로 인과적으로 귀속할 수 있는가?
- 아키텍처가 새로운 보안 위험을 만들지는 않는가?
Scaling → Allocation
계산량 자체보다 어느 분기와 단계에 계산을 배분할지가 중요해진다.
Output → Process
최종 정답에서 추론 궤적, 증거 사용, 복구 능력, 도구 효율성으로 평가가 확장된다.
Model → Ecosystem
사용자, 에이전트, 평가자, 시뮬레이터, 조직, 인센티브가 결합된 시스템을 연구한다.
Motivation and Background
5.1 스케일링만으로는 유효성이 보장되지 않는다
더 큰 모델은 더 유창한 결과를 생성하지만, 유효한 프로그램·물리 구조·양자회로가 차지하는 해 공간이 극히 작으면 단순 생성과 사후 필터링은 비효율적이다. 물리적·논리적 제약을 생성 아키텍처에 직접 통합해야 한다.
5.2 고정된 추론 예산은 낭비와 실패를 동시에 만든다
- 쉬운 문제에서 토큰을 낭비한다.
- 어려운 문제에서 탐색이 부족하다.
- 잘못된 분기를 과도하게 유지한다.
- 합의가 안정된 뒤에도 계산을 계속한다.
5.3 실제 환경에서는 사용자가 수동적이지 않다
사용자는 지시를 수행하고 환경을 바꾸며 결과를 보고한다. AI는 사용자의 행동 가능성, 수행 오류, 지연, 오해를 포함한 dual-control 정책을 가져야 한다.
5.4 자동평가가 새로운 불확실성의 원천이 된다
LLM 평가자는 비용을 줄이지만 평가자마다 신뢰도와 편향이 다르다. 응답 순위와 평가자 신뢰도를 동시에 추정해야 한다.
5.5 정적 벤치마크는 능력의 빈 공간을 감춘다
평균 점수는 특정 개념의 취약성과 벤치마크의 개념 누락을 드러내지 못한다. sparse autoencoder를 이용한 competency decomposition은 모델 약점과 평가셋 약점을 분리한다.
5.6 자기보상은 오류를 자기강화할 수 있다
동일하거나 강하게 결합된 정책과 보상모델은 고확신 오답에 높은 점수를 주고, 그 오답을 다시 강화하는 자기확증 루프를 만들 수 있다.
5.7 높은 능력이 협력을 보장하지 않는다
강력한 모델도 집단 목표를 따르지 않을 수 있다. 명시적 역할, 프로토콜, 공유 인센티브, 책임 구조가 필요하다.
Challenges
자기확증 보상 루프
독립 평가자, ensemble reward, 불일치 샘플링, 외부 검증기가 필요하다.
폭–깊이 공동 최적화
새 분기 생성, 기존 분기 제거, 깊이 확장, 종료를 온라인으로 결정해야 한다.
시뮬레이터–현실 간극
실제 API 변경, 네트워크 오류, 권한 차이, 부작용을 정확히 재현하기 어렵다.
장기 실행 이상 탐지
과학 시뮬레이션의 발산, 진동, 경계조건 위반을 실행 중 조기에 탐지해야 한다.
조건부 평가자 신뢰도
평가자의 신뢰도는 작업, 도메인, 문체, 길이에 따라 달라질 수 있다.
멀티모달 증거 환각
한 모달리티에서 얻은 정보를 다른 모달리티의 증거라고 잘못 설명할 수 있다.
양방향 개인정보 유출
입력 프롬프트뿐 아니라 중간표현과 생성 응답에서도 민감정보가 유출될 수 있다.
멀티에이전트 공격 표면
역할, 토폴로지, 공유 메모리가 권한 상승과 악성 상태 전파를 가능하게 한다.
협력 실패와 역량 실패
할 수 없어서 실패한 것인지, 할 수 있지만 집단 목표를 따르지 않은 것인지 분리해야 한다.
위임과 검증의 불균형
AI가 강해질수록 인간의 oversight가 감소하는 역설을 다뤄야 한다.
평가 결과의 인과적 귀속
점수 변화가 모델, 프롬프트, 데이터, 디코딩, 환경 중 무엇 때문인지 식별하기 어렵다.
최적화 안정성
학습률과 스텝 크기 민감도가 재현성과 실제 배포 성능에 직접 영향을 준다.
Research Questions
Approaches and Methods
8.1 Token-Level Bregman Preference Optimization
정책과 기준정책의 density ratio를 Bregman divergence로 정합시킨다. TBPO-Q는 경량 상태 baseline을 학습하고, TBPO-A는 advantage normalization으로 baseline을 제거한다.
8.2 Two-Dimensional Probing
Parallel-Probe는 병렬 추론을 폭과 깊이의 2차원 공간으로 보고, 분기 간 합의도, 답변 변화율, 편차, 추가 깊이의 정보 증가를 계산한다. 합의가 안정되면 종료하고 개선 신호가 없는 분기를 제거한다.
8.3 Simulated Tool-Call Refinement
호출 구문과 인자, 출력 스키마, 작업 목표 완료 여부를 분리한 상태 기반 피드백으로 도구 호출 시퀀스를 반복 수정한다.
8.4 Dec-POMDP 기반 Dual-Control Benchmark
AI와 사용자는 서로 다른 관측과 도구로 공유 상태를 변화시킨다. 원자적 작업 요소를 조합해 검증 가능한 과제를 생성한다.
8.5 Embodied Scientific Action
8.6 Causal Evaluatology
데이터, 프롬프트, 디코딩, 환경을 고정하고 모델만 바꾸어 모델의 고유 효과에 가까운 비교를 수행한다.
8.7 Evidence-Store 기반 Trajectory Evaluation
8.8 Judge-Aware Bradley–Terry Aggregation
응답의 잠재 품질과 평가자별 신뢰도를 비교 결과만으로 공동 추정한다.
8.9 Sparse-Autoencoder 기반 Competency Decomposition
내부 표현에서 세부 개념을 분리하고, 모델이 약한 개념과 벤치마크가 누락한 개념을 구분한다.
8.10 Ensemble Reward와 Disagreement Sampling
보상모델 간 불일치가 큰 rollout을 우선 선택해 자기확증 결합을 줄인다.
8.11 Modality-Masked Policy Optimization
특정 모달리티의 증거를 주장하는 토큰에만 선택적으로 제약을 적용해 cross-modal hallucination을 줄인다.
8.12 Agentic GraphRAG
Graph-R1은 검색을 단발성 retrieval이 아닌 다중턴 그래프 상호작용으로 모델링한다.
8.13 Dual-Graph Memory
Knowledge Graph
에이전트가 알고 있는 사실과 관계를 관리한다.
Outline Graph
최종 보고서의 구조와 작성 계획을 관리한다.
8.14 Decoupled Molecular Diffusion
DeCoDe는 단백질 포켓 내 전역 결합 위치와 분자의 내부 3차원 conformation을 분리한다. 먼저 대략적 위치를 결정하고 이후 세부 구조를 정교화한다.
8.15 Step-Size Stability Analysis
스텝 크기가 안정영역을 벗어날 때 성능이 얼마나 빠르게 악화되는지를 정량화하고, 적응형 스텝 크기 방법의 강건성을 설명한다.
Key Applications
자율 ML 엔지니어링
데이터 분석, 모델 선택, 코드 작성, 실험, 오류 수정, 제출을 자동화한다. 반복 피드백이 복잡한 멀티에이전트 구성보다 중요할 수 있다.
통신·기술지원·운영 자동화
통신 장애, 클라우드 운영, 권한 관리, 고객지원, 설정 변경을 dual-control 방식으로 처리한다.
과학적 발견과 공학 설계
수치 시뮬레이션, 제어, 구조 설계, 유체·진동 분석, 자동 실험, 이상 감시에 적용한다.
심층 연구와 지식 합성
문헌조사, 기술동향, 특허, 시장·정책, 과학적 증거 합성에서 지식 공백을 능동 탐색한다.
멀티모달 감정·행동 이해
대화형 에이전트, 상담, 교육, 인간–로봇 상호작용, 콜센터 분석에 활용한다.
신약개발과 분자설계
3D ligand generation, 단백질–리간드 결합, de novo design, binder 설계, 구조 편집에 적용한다.
프라이버시 보존형 LLM 서비스
Split-LLM에서 입력·중간표현·출력 전반의 양방향 유출을 방어한다.
조직 내 인간–AI 협업
의료, 코드 리뷰, 법률 검토, 감사, 공공행정, 연구검증에서 위임과 검증 능력을 공동 설계한다.
의료 자원 배분과 공공정책
이식, 학교 배정, 대출, 보험, 교통, 채용을 전략적 행위자가 있는 정책 문제로 다룬다.
유효성 중심 프로그램 생성
양자회로, 정형 프로그램, 하드웨어, 수학 증명, 로봇 제어에서 verifier-centric agent를 적용한다.
Open Problems
Verifier의 불완전성
형식적 제약은 만족하지만 의도와 다르거나 의미적으로 무효한 결과를 놓칠 수 있다.
계산 최적 추론의 이론
폭, 깊이, 샘플 수, 도구 호출을 공동 최적화하는 일반 이론이 부족하다.
잘못된 집단 합의
공유 편향을 가진 분기들은 동일한 오답에 조기 합의할 수 있다.
Simulator-to-Real 전이
실제 오류, 지연, 권한, 부작용에서 정책의 안전성이 보장되지 않는다.
사용자 시뮬레이션 충실도
부분 수행, 잘못된 보고, 목표 변경, 인지적 다양성을 충분히 반영하기 어렵다.
평가자의 내생성
모델이 평가자 선호에 적응하면 점수가 실제 품질보다 평가자 적합도를 반영한다.
정답 궤적 없는 평가
개방형 과제에서 evidence store도 필요한 증거를 사전에 정의해야 하는 한계가 있다.
멀티에이전트 형식 검증
역할·권한·토폴로지·메모리 정책의 조합은 상태공간 폭발을 일으킨다.
장기 교정 가능성
현재의 순응보다 미래의 수정과 감독을 계속 받아들이는 corrigibility가 중요하다.
인센티브 호환적 AI 도입
정책 발표 후 인간 행동과 데이터 분포가 바뀌는 performative 환경을 다뤄야 한다.
멀티모달 증거 provenance
각 주장과 영상 프레임, 음성 구간, 텍스트 구절의 연결을 자동 추적해야 한다.
통합 프라이버시
입력, 중간표현, 캐시, 로그, 도구 호출, 최종 응답 전체에 대한 accounting이 필요하다.
내부 메커니즘의 인과성
개입 효과가 유일한 인과 메커니즘임을 의미하지 않으므로 대체 경로와 부작용을 분석해야 한다.
지속적으로 변화하는 벤치마크
living benchmark의 최신성과 버전 간 재현성을 동시에 유지하기 어렵다.
Future Directions
11.1 Verifier-Centric Foundation Models
11.2 Resource-Aware Reasoning Compiler
추론 모델 위의 자원 제어 계층이 추가 토큰, 병렬 분기, 도구 호출, 검색 범위, 강한 모델 라우팅, 인간 검토, 종료를 결정한다.
11.3 Full-Stack Causal Evaluation
- 데이터 버전과 프롬프트 템플릿
- 디코딩 파라미터와 검색 인덱스
- 하드웨어·소프트웨어
- 평가자 모델과 버전
- 난수 시드와 반복 실험
- 각 구성요소에 대한 개입 실험
11.4 Human–AI Dual-Control Assistants
사용자의 행동 가능성 추정, 모호한 지시 재확인, 행동 결과 검증, 복구 안내, 인지부하에 맞춘 설명, 위험 행동 이중 확인이 기본 기능이 된다.
11.5 Architecture-Aware Agent Security
권한 최소화, 메모리 격리, 메시지 provenance, 실행 승인, 역할별 정책이 에이전트 운영체제의 기본 기능이 된다.
11.6 Self-Reward Governance
11.7 Provenance-Native Multimodal Reasoning
11.8 Embodied Scientific Agents
11.9 Incentive-Aware AI Institutions
11.10 Mechanistic Control Layers
attention sink 조절, 특정 회로 억제, 안전 회로 활성화, 지식·행동 회로 분리, 내부 이상 탐지, 신뢰도 기반 intervention으로 해석을 제어로 확장한다.
11.11 Modular Graph Memory
11.12 Living and Adversarial Benchmarks
- 시간에 따라 갱신되는 과제
- 데이터 오염 검사
- 능력별 개념 커버리지
- 자동 생성 과제와 인간 검증
- 적대적 실패 사례 추가
- 평가자 신뢰도 추적
- 평가환경 전체의 버전 관리
대표 논문과 연구축 매핑
| 대표 논문 | 핵심 연구축 | 핵심 기여 |
|---|---|---|
| TokenRatio | 토큰 수준 정렬 | 시퀀스 선호에서 토큰 수준 최적 정책을 복원한다. |
| Parallel-Probe | 적응적 추론 계산 | 폭·깊이 동적 제어와 조기 종료를 수행한다. |
| Gecko | 도구 사용 | 상태 기반 모의 피드백으로 도구 호출을 수정한다. |
| τ²-Bench | 사용자–에이전트 협업 | 사용자와 AI가 함께 상태를 변화시키는 dual-control 평가를 제공한다. |
| EmbodiedAct | 과학적 에이전트 | 과학 소프트웨어의 실행 중 관측과 개입을 지원한다. |
| BuildArena | 물리 기반 평가 | 자연어 기반 공학구조 생성의 물리적 유효성을 평가한다. |
| Beyond Benchmarks | 인과적 평가 | 모델 능력과 평가 시스템의 효과를 분리한다. |
| TRACE | 에이전트 평가 | 최종 답을 넘어 추론 궤적을 다차원 평가한다. |
| LLM-as-a-jury | 자동평가 | 평가자별 신뢰도를 고려한 순위를 집계한다. |
| Competency Gaps | 벤치마크 진단 | 모델 약점과 벤치마크 누락 개념을 분리한다. |
| Breaking the Self-Confirming Loop | 자기보상 RL | 정책–보상 결합의 자기확증 편향을 완화한다. |
| OPPO | 멀티모달 추론 | 모달리티 증거 활용도와 충실성을 최적화한다. |
| Graph-R1 | Agentic GraphRAG | 검색을 다중턴 그래프 상호작용으로 전환한다. |
| DualGraph | 심층 연구 에이전트 | 지식 그래프와 문서 outline 그래프를 분리한다. |
| Architecture Matters for Multi-Agent Security | 멀티에이전트 보안 | 역할·토폴로지·메모리의 공격 표면을 분석한다. |
| DeCoDe | 분자 생성 | 결합 위치와 분자 conformation의 diffusion을 분리한다. |
| Delegation and Verification under AI | 인간–AI 협업 | 위임과 검증 능력 차이에 따른 단계전이를 분석한다. |
| Incentive-Aware Heart Allocation | 공공·의료 정책 | 이식 배분을 전략적 게임과 메커니즘 문제로 재정의한다. |
종합 결론
ICML 2026 Poster Session 8은 성능 중심 머신러닝에서 시스템 설계 중심 머신러닝으로의 전환을 보여준다.
- 전체 출력 수준의 신호만으로 세밀한 행동을 통제하기 어렵다.
- 추론 계산은 많을수록 좋은 것이 아니라 적절히 배분되어야 한다.
- 도구와 시뮬레이터는 실행수단이면서 검증수단이다.
- 사용자는 에이전트 환경의 일부이며 수동적 관찰자가 아니다.
- 최종 정답은 좋은 문제 해결 과정의 충분조건이 아니다.
- 벤치마크 점수는 모델 고유 능력과 동일하지 않다.
- 개별 에이전트의 안전성이 전체 시스템의 안전성을 보장하지 않는다.
- 강한 모델이 반드시 협력적이거나 교정 가능한 것은 아니다.
- 과학·공학·의료에서는 확률적 개연성보다 유효성과 검증 가능성이 우선한다.
- AI 정책은 인간과 기관의 전략적 반응을 포함해 설계해야 한다.