분석 범위와 해석 기준
제시된 URL은 하나의 세부 주제를 다루는 워크숍 세션이 아니라 ICML 2026 Poster Session 7 전체 세션이다.
따라서 714편을 논문별로 기계적으로 나열하지 않고, 전체 제목·저자·초록·공개 논문 링크를 연구 주제별로 분류하고 대표 논문의 원문 및 공식 자료를 추가 검토하는 방식으로 구성한다. 여러 연구 분야에서 반복적으로 나타나는 공통 문제와 방법론을 통합하여 Definition에서 Future Directions까지 하나의 연구 지형으로 제시한다.
세션 수준 구조화
전체 논문 목록을 연구 주제와 문제 유형에 따라 분류한다.
대표 논문 심층 검토
arXiv, OpenReview, 프로젝트 페이지를 이용해 핵심 논문을 교차검토한다.
통합 연구 지형 도출
개별 성과보다 반복되는 정의·과제·방법·응용·미해결 문제를 추출한다.
Definition
현대적 머신러닝 시스템의 정의
전통적인 머신러닝 모델은 입력을 받아 출력을 생성하는 함수로 표현된다.
Poster Session 7의 다수 연구가 다루는 시스템은 단순한 함수가 아니다. 현대적 머신러닝 시스템은 상태, 행동, 환경, 관측, 검증, 상태 갱신을 포함하는 폐루프 지능 시스템으로 정의된다.
실행 기반 자동 AI 연구는 연구 아이디어를 제안하는 데 그치지 않고 실제 코드를 생성·실행하고, 실험 결과를 바탕으로 아이디어를 진화시킨다. FIRE는 복잡한 파일을 한 번에 프롬프트에 넣는 대신 파일 탐색, 상태 유지, 도구 호출을 포함하는 순차적 추론 문제로 재정의한다. ARTIST는 전체 시계열을 무조건 처리하는 대신 현재 질의에 필요한 구간을 능동적으로 선택한다.
세션 전체에 대한 통합적 정의
머신러닝은 불완전하고 변화하는 환경에서 필요한 정보를 선택적으로 획득하고, 구조적·인과적·물리적 지식을 이용해 추론하며, 계산비용·안전성·공정성·프라이버시 제약 아래에서 검증 가능한 의사결정을 수행하는 학습 과정이다.
Problem Definition
통합 문제 정의
세션 전체를 하나의 개념적 최적화 문제로 추상화하면, 유용성을 최대화하면서 계산비용, 실패 위험, 사회적 위험을 줄이고 보정·프라이버시·공정성·안전성 제약을 동시에 만족하는 문제다.
subject to Calibration(ŷ) ≤ εc, Privacy leakage ≤ εp, Unfairness ≤ εf, Safety violation ≤ εs
위 식은 개별 논문의 직접 공식이 아니라 세션 전체를 통합하기 위한 개념적 모델이다.
U · Utility
정확도뿐 아니라 실제 문제 해결 능력과 사용 가치까지 포함한다.
C · Compute Cost
추론시간, 메모리, 에너지, 통신, 유지보수 비용을 포함한다.
Rfailure · Failure Risk
환각, 분포 변화, 도구 오용, 장기 추론 실패를 포함한다.
Rsocial · Social Risk
차별, 프라이버시 침해, 사회적 피해를 포함한다.
세부 문제군
증거 획득
모든 정보를 한 번에 받을 수 없을 때 무엇을 먼저 읽고, 검색하고, 실험해야 하는가?
FIRE, ARTIST, GiG, CausalGame
구조적 표현
텍스트·이미지·그래프·3차원 분자·물리장을 구조 손실 없이 어떻게 표현할 것인가?
C-FREE, GaRA, Adaptive Physics Transformer
신뢰성
모델의 예측과 평가자의 판단이 실제로 얼마나 신뢰 가능한가?
RUAC, Judge-aware Ranking, QUBA
다중 목적 의사결정
정확도, 효율성, 공정성, 안전성, 프라이버시의 충돌을 어떻게 조정할 것인가?
Maximin Relative Improvement, MAFE
Core Concepts
3.1 Execution Grounding
모델이 생성한 아이디어, 프로그램, 추론, 계획을 실제 환경에서 실행하고 결과로 검증하는 개념이다. 언어적 자기비판이 놓치는 오류를 코드 실행, 테스트 실패, 시뮬레이션 결과, 환경 보상과 같은 외부 증거가 드러낸다.
실행 피드백을 강화학습 보상으로만 사용하면 특정 전략으로 과도하게 수렴하는 mode collapse가 나타날 수 있다. 다양성을 유지하는 진화적 탐색, 병렬 후보 검증, 실패 사례 보존이 필요하다.
3.2 Active Evidence Acquisition
모델이 주어진 데이터를 수동적으로 소비하는 대신 현재 추론에 필요한 정보를 직접 선택한다. 파일의 어느 부분을 열지, 시계열의 어느 구간을 분석할지, 어떤 실험을 수행할지, 어느 공간과 그래프 경로를 탐색할지를 추론 정책의 일부로 학습한다.
3.3 Agentic Reasoning
하나의 응답을 생성하는 대신 계획, 행동, 관측, 수정의 반복으로 문제를 해결한다. 목표 분해, 장기 메모리, 도구 사용, 환경 관측, 오류 복구, 중간 검증, 종료 판단이 핵심이다. 추론 길이를 무조건 늘리는 것이 아니라 언제 더 생각하고 언제 멈출지를 학습해야 한다.
3.4 Multi-Agent Orchestration
멀티에이전트 시스템의 핵심은 에이전트 수가 아니라 역할·의존성·통신·종료를 어떻게 조정하는가에 있다. MAS-Orchestra는 문제 특성에 따라 에이전트를 선택하고 역할을 배분하는 오케스트레이터를 학습한다. MASBENCH는 작업 깊이, 시간 길이, 범위, 병렬성, 강건성 등 다차원으로 멀티에이전트의 실제 이점을 평가한다.
“몇 개의 에이전트를 사용할 것인가?”보다 “어떤 작업 구조에서 어떤 역할 분해가 필요한가?”가 더 중요하다.
3.5 Structural and Domain Priors
그래프 연결성, 분자 결합과 3차원 기하, 물리 법칙, 시공간 연속성, 대칭성과 불변성, 인과 그래프, 계층적 작업 구조를 모델에 주입해 모든 규칙을 데이터에서 다시 발견해야 하는 부담을 줄인다.
3.6 Causal Reasoning
상관관계 기반 예측이 “무엇이 함께 발생하는가”를 학습한다면, 과학적 발견은 “무엇을 바꾸면 결과가 변하는가”를 요구한다. CausalGame은 가설 수립, 개입 실험 선택, 결과 해석, 경쟁 가설 제거, 최종 인과구조 추론을 하나의 능력으로 평가한다.
3.7 Uncertainty, Calibration and Robustness
좋은 불확실성 추정은 틀릴 가능성이 높은 사례에 높은 불확실성을 부여하고, 분포 밖 입력과 데이터 노이즈를 구별하며, 행동 보류나 추가 증거 요청의 기준을 제공해야 한다. 불확실성 값 자체가 아니라 실제 정확도 및 실패 위험과의 상관성이 중요하다.
3.8 Multidimensional Evaluation
모델의 실용적 품질은 정확성, 보정, 강건성, 설명 가능성, 효율성, 공정성, 프라이버시, 안전성, 일관성, 적응성을 함께 평가해야 한다. 벤치마크 자체도 신뢰도, 문항 품질, 구성타당성을 검증해야 하는 측정 도구다.
Introduction
Poster Session 7은 현대 머신러닝의 연구 대상이 모델에서 시스템으로 확대되고 있음을 보여준다.
과거의 중심 질문
- 더 깊은 네트워크가 더 높은 정확도를 제공하는가?
- 더 많은 데이터와 파라미터가 성능을 높이는가?
- 특정 벤치마크에서 최고 성능을 달성하는가?
현재의 중심 질문
- 필요한 데이터를 스스로 찾을 수 있는가?
- 도구와 시뮬레이터를 올바르게 사용할 수 있는가?
- 실행 결과로 가설을 수정할 수 있는가?
- 오류 가능성을 알고 답변을 보류할 수 있는가?
- 공정성과 프라이버시를 전체 과정에서 보장할 수 있는가?
Representation → Interaction
좋은 표현을 넘어 환경과 상호작용하며 정보를 획득하고 행동하는 능력으로 이동한다.
Prediction → Verification
답 생성보다 실행·실험·평가자·불확실성으로 답을 검증하는 능력이 중요해진다.
Generic Scaling → Structured Intelligence
모델 크기 확대보다 그래프·물리·인과·공간·계층 구조가 일반화의 핵심이 된다.
Motivation and Background
5.1 스케일링만으로 해결되지 않는 문제
대규모 사전학습은 광범위한 패턴을 제공하지만 최신 정보 부족, 장기 오류 누적, 인과 실험 설계 부족, 도구 사용 실패, 보상 해킹, 분포 밖 일반화 실패, 과도한 계산비용, 평가자 편향을 자동으로 해결하지 않는다.
5.2 실제 데이터의 구조적 복잡성
- 문서는 여러 파일과 표에 분산된다.
- 시계열은 불규칙하며 중요한 구간이 희소하다.
- 분자는 그래프와 3차원 기하를 동시에 가진다.
- 물리 시스템은 연속 함수와 경계조건으로 표현된다.
- 로봇은 부분관측 환경에서 장기 행동을 수행한다.
- 사회적 의사결정은 여러 단계와 행위자의 상호작용으로 구성된다.
5.3 과학적 데이터의 희소성과 비용
고정밀 시뮬레이션, 분자 실험, 의료 데이터 수집, 희귀 현상 관측은 비용이 크다. 자기지도학습, 시뮬레이터 기반 강화학습, 신경 연산자, 합성 데이터, 그래프 사전학습이 레이블 비용을 줄이는 대안이 된다.
5.4 정확도와 실제 신뢰성의 간극
평균 정확도가 높아도 특정 하위 집단에서 성능이 급락하거나, 잘못된 확신을 보이거나, 평가자 편향을 확대하거나, 공격·분포 변화·개인정보 노출에 취약할 수 있다. 불확실성, 보정, 강건성, 프라이버시, 공정성은 부가 기능이 아니라 기본 설계 제약이다.
Challenges
장기 추론과 오류 누적
여러 단계의 작은 오류가 후속 상태에 누적된다. 중간 검증, 되돌리기, 분기 탐색, 체크포인트가 필요하다.
올바른 피드백 설계
희소 보상, 잘못된 평가자, 보상 편법, 단일 목적 보상이 학습을 왜곡한다. 피드백 시스템 자체가 병목이 된다.
인과관계와 상관관계
관찰적 연관성, 직접 인과효과, 교란, 매개, 선택 편향, 개입 후 분포 변화를 구분해야 한다.
이질적 구조의 통합
텍스트·그래프·이미지·시계열·물리장·3차원 기하의 의미 구조를 보존해야 한다.
분포 변화와 공동 적응
세계모델 오류와 정책 오류가 서로 증폭될 수 있다. 정책과 모델을 함께 적응시켜야 한다.
불확실성의 실용적 타당성
불확실성은 추가 검색, 인간 검토, 안전한 행동, 답변 보류, 분포 변화 탐지와 연결되어야 한다.
멀티에이전트 집단 오류
동일 오류 반복, 잘못된 합의, 통신비용, 역할 중복, 책임 불명확성, 중앙 조정자의 실패를 관리해야 한다.
공정성과 프라이버시의 누적
단일 시점의 지표가 아니라 여러 단계와 행위자가 만드는 장기 피드백 루프를 평가해야 한다.
Research Questions
Approaches and Methods
8.1 실행 기반 탐색과 강화학습
- 문제와 현재 상태를 인코딩한다.
- 후보 행동 또는 연구 아이디어를 생성한다.
- 코드·도구·시뮬레이터를 실행한다.
- 성능과 오류를 관측한다.
- 보상 또는 검증 점수를 계산한다.
- 정책이나 후보 집단을 업데이트한다.
8.2 계층적 에이전트와 오케스트레이션
상위 계층
작업 분석, 역할 선택, 자원 배분
중간 계층
세부 계획, 의존성 조정, 도구 선택
하위 계층
실행, 관측, 결과 반환, 오류 보고
8.3 적응적 정보 선택
행동을 통해 얻는 관측이 목표에 제공하는 정보 증가량과 행동 비용을 비교한다. 파일, 데이터베이스, 그래프, 실험 장비를 통합한 범용 active-context policy로 확장 가능하다.
8.4 그래프 및 기하 구조 학습
8.5 신경 연산자와 물리 기반 Transformer
특정 격자 값이 아니라 함수 간 사상을 학습해 새로운 해상도나 경계조건에 대한 일반화를 목표로 한다. 지역 고해상도 상호작용과 전역 물리 상호작용을 적응적으로 결합한다.
8.6 시뮬레이터 기반 추론 학습
시뮬레이터는 데이터 생성기뿐 아니라 외부 세계모델, 자동 검증기, 반례 생성기, 강화학습 보상 제공자, 인과적 개입 환경으로 사용된다.
8.7 자기지도 및 대조 없는 표현학습
레이블이 부족한 과학 분야에서 2D 그래프와 3D 구조 사이의 일관성을 학습하고, negative pair에 의존하는 전통적 대조학습의 한계를 줄인다.
8.8 강건 학습과 데이터셋 증류
대규모 데이터의 학습 효과를 작은 합성 데이터로 압축하되, 특정 모델이나 분포에 과적합되지 않도록 분포 변화와 모델 변화를 함께 고려한다.
8.9 평가자 인지형 학습
관측된 선호를 정답으로 간주하지 않고 응답의 잠재 품질, 평가자 신뢰도, 평가자 편향, 비교 난이도를 함께 추정한다. RLHF, RLAIF, 자동 벤치마킹의 핵심 과제다.
8.10 효율적 생성과 모델 압축
Key Applications
자동화된 과학 연구
가설 생성, 코드 구현, 실험 실행, 탐색, 실패 분석, 후속 실험 설계, 재현성 검증을 폐루프로 통합한다.
복잡한 문서·파일 분석
스프레드시트, 재무자료, 소프트웨어 저장소, 감사 자료, 과학 데이터, 전자의무기록을 탐색한다.
시계열 분석
의료 모니터링, 설비 이상탐지, 금융, 기후, 트래픽, 에너지 수요에서 핵심 구간을 능동 선택한다.
로봇과 체화 인공지능
실내 탐색, 물체 조작, 장기 가사 작업, 물류 자동화, 인간–로봇 협업을 지원한다.
신약개발과 분자과학
물성 예측, 단백질–리간드 상호작용, hit discovery, virtual screening, ADMET, lead optimization에 활용한다.
재료과학과 물리 시뮬레이션
재료 물성, 유체, 열전달, 지진파, 기후, CO₂ 저장, 지열, 전자구조 계산을 가속한다.
의료·생체신호 분석
환자 간 일반화, 센서 차이, 결측·노이즈, 위험 보정, 개인정보, 설명 가능성을 다룬다.
공정한 사회적 의사결정
대출, 채용, 교육, 의료 자원, 보험, 추천에서 집단별 효용과 장기 피드백을 평가한다.
보안과 생성물 인증
생성 콘텐츠의 출처 추적, 워터마크 지속성, 악의적 제거 공격에 대한 내성을 평가한다.
Open Problems
에이전트 정답성 보장
도구 호출, 중간 상태, 장기 계획, 복구, 증거 추적을 형식적으로 보장하기 어렵다.
AI 과학자의 반증 능력
선호 가설을 반박하는 실험, 정보 가치, 경쟁 가설, 재현성, 통계적 중요성을 다뤄야 한다.
멀티에이전트 효용 조건
최적 에이전트 수, 역할 자동 생성, 토론 종료, 소수 의견, 결함 내성, 메모리 오염이 미해결 상태다.
신뢰할 수 있는 자동 평가
상관된 평가자 오류, 길이·문체·자기선호 편향, 인간 평가 불일치, 보상 해킹을 관리해야 한다.
분포 변화에서의 불확실성
shift-aware calibration, conformal prediction, online recalibration, abstention을 통합해야 한다.
과학적 모델의 외삽
새로운 경계조건, scaffold, 물질 조성, 장기 시간 범위에서 진정한 외삽이 가능한지 검증해야 한다.
합성 데이터 순환오염
출처 추적, 사실성, 다양성, privacy leakage, model collapse, 희귀 사례 보존이 필요하다.
효율성의 총비용 평가
장기 공정성과 프라이버시
모델 단위가 아니라 에이전트 수명주기 전체의 공정성·프라이버시 정의가 필요하다.
벤치마크 구성타당도
오염, 문항 중복, 능력 편향, 학습 데이터 포함 여부, 실제 업무 상관성을 검증해야 한다.
Future Directions
11.1 Closed-Loop AI Scientist
11.2 Active Context Architecture
거대한 컨텍스트를 수동적으로 입력받는 대신, 어떤 문서·DB 질의·그래프 경로·시간 구간·실험을 선택할지 별도의 정보 획득 정책으로 학습한다. retrieval은 보조 모듈이 아니라 핵심 의사결정 계층이 된다.
11.3 Causal World Models
11.4 Neuro-Symbolic and Physics-Structured Foundation Models
미분방정식, 논리 제약, 지식그래프, 단위와 차원, 대칭성, 보존법칙, 인과 그래프, 프로그램 실행을 범용 신경망에 결합한다.
11.5 Task-Adaptive Multi-Agent Systems
고정된 Planner–Critic–Executor 구조에서 벗어나 문제에 따라 역할을 동적으로 생성·병합·종료한다. 오케스트레이터가 단일 에이전트 사용 여부, 병렬 탐색, 독립 검증자, 토론 종료, 실패 에이전트 교체를 판단한다.
11.6 Trust Stack의 통합
11.7 과정 중심 벤치마크
최종 정답뿐 아니라 증거 선택, 도구 효율, 중간 오류 발견, 반례 탐색, 불확실 시 중단, 재현 가능성, 주장–출처 연결을 평가한다.
11.8 Compute-Aware Creativity
11.9 Scientific Digital Twins
실제 실험실과 시스템의 digital twin을 AI 에이전트와 연결한다. 신약개발에서는 분자 생성, 구조·물성 예측, 합성 가능성, 실험 후보 선택, 결과 수집, 지식그래프 갱신, 후속 후보 생성을 하나의 능동학습 루프로 통합한다.
11.10 Provenance-Native AI
생성 결과는 어떤 데이터·도구·모델·중간 결과를 사용했는지, 어떤 가설을 기각했는지, 무엇이 불확실한지, 어떻게 재현하는지를 함께 포함해야 한다. provenance는 사후 로그가 아니라 모델 출력의 기본 구조가 된다.
대표 논문과 연구축 매핑
| 대표 논문 | 핵심 연구축 | 핵심 의미 |
|---|---|---|
| Towards Execution-Grounded Automated AI Research | 자동 AI 연구 | 생성한 연구 아이디어를 실제 실행 결과로 검증한다. |
| FIRE | 에이전트 파일 추론 | 복잡한 파일 탐색을 상태 기반 순차 의사결정으로 처리한다. |
| MAS-Orchestra | 멀티에이전트 | 작업에 맞는 에이전트 구성과 오케스트레이션을 학습한다. |
| CausalGame | 인과적 AI 과학자 | 실험 설계와 인과구조 발견 능력을 평가한다. |
| ARTIST | 시계열 추론 | 질의에 필요한 시계열 구간을 능동적으로 선택한다. |
| Solving Physics Olympiad via RL on Physics Simulators | 시뮬레이터 기반 추론 | 물리 시뮬레이터를 자동 검증기와 보상으로 사용한다. |
| C-FREE | 분자 사전학습 | 분자의 2D 그래프와 3D 기하 구조를 공동 학습한다. |
| GaRA | 그래프 적응 | 그래프 구조를 저랭크 모델 적응에 반영한다. |
| Adaptive Physics Transformer | Scientific ML | 불규칙·다중 스케일 물리장을 효율적으로 모델링한다. |
| QUBA | 다차원 평가 | 정확도를 넘어 여러 품질 차원으로 모델을 평가한다. |
| RUAC | 불확실성 | 불확실성 점수와 실제 정확성의 관계를 평가한다. |
| MAFE | 공정성 | 다중 에이전트·다단계 환경에서 동적 공정성을 평가한다. |
종합 결론
차세대 머신러닝의 경쟁력은 더 큰 모델이 아니라, 필요한 증거를 선택하고, 구조와 인과성을 활용하며, 외부 환경에서 자신의 판단을 검증하고, 실패 가능성과 사회적 비용까지 관리하는 능력에서 결정된다.
- 수동적 예측에서 능동적 상호작용으로 이동한다.
- 생성 중심 시스템에서 검증 중심 시스템으로 이동한다.
- 단일 정확도에서 다차원 신뢰성으로 이동한다.
- 범용 스케일링에서 구조·물리·인과 기반 지능으로 이동한다.
- 모델 단위 최적화에서 전체 시스템 수명주기 최적화로 이동한다.
Poster Session 7은 714편의 논문이 병렬적으로 배치된 행사 목록을 넘어, 예측 모델 이후의 머신러닝이 어떤 형태로 발전하는지를 보여주는 연구 지형의 횡단면으로 해석된다.