ICML 2026 Technical Research Report
AI Creativity · Diversity · Human Agency · Provenance

Human–AI Co-Creativity
Research Atlas

ICML 2026 Human–AI Co-Creativity Workshop의 초청강연과 49편의 공개 논문을 기반으로, 창의성 정의, 문제설정, 핵심 개념, 방법론, 응용, 미해결 문제, 미래 방향을 하나의 통합된 연구 지형으로 재구성한다.

Central Thesis

연구 질문의 중심이 이동한다

“AI가 창작물을 만들 수 있는가?”에서
“AI가 인간의 의도·다양성·판단권·저자성을 보존하면서 창작 가능성을 확장할 수 있는가?”로 이동한다.
Scope
49공개 논문
6초청강연
7핵심 연구군
10통합 연구질문
00

검토 범위와 해석 원칙

워크숍 논문은 비아카이벌 보고서이므로, 정량 결과는 장기적 확정 결론보다 초기 연구 증거로 해석한다.

Scope

공식 공개 범위

워크숍 프로그램, 공식 PDF, OpenReview, 별도 arXiv 공개본을 교차 검토한다.

Caveat

프로그램 불일치

Paper #18은 별도 arXiv 자료로 검토한다. Paper #64는 제목 수준의 연구 의제만 반영한다.

Talks

초청강연 해석

미공개 발표 내용을 추정하지 않고, 발표 제목을 전체 연구 방향을 형성하는 주제축으로만 사용한다.

01

전체 연구 지형

논문군은 생성 품질보다 다양성, 의도, 장기 일관성, 평가의 주관성, 인간 기여의 보존을 중심축으로 구성된다.

창의적 생성·탐색1, 6, 7, 9, 12, 13, 1739, 40, 54, 67, 72, 78
평가·다양성21, 24, 26, 36, 51, 69
인간 주도 공창작11, 18, 19, 29, 3149, 53, 70, 73, 81
언어·서사3, 4, 22, 32, 60, 63
시각·디자인16, 30, 33, 38, 4344, 55, 57, 77
과정·문화62, 63, 64, 71
저자성·거버넌스46, 70, 80
사용자 위험독창성인간 오케스트레이션 모델 다양성사고 확장언어적 창의성
02

Definition

창의성은 단일 점수가 아니라 결과, 분포, 과정, 관계, 시간의 다층 구조로 정의된다.

Layer 1

결과 수준

새로움, 유용성, 놀라움이 결합된 개별 산출물의 창의성이다.

Layer 2

분포 수준

모드 수, 확률 질량의 균형, 의미적 거리, 반복 생성의 집단 다양성을 평가한다.

Layer 3

과정 수준

프레이밍, 발산, 비평, 재프레이밍, 수렴의 궤적 전체를 창의성으로 본다.

Layer 4

관계 수준

인간과 AI가 목표, 제약, 후보, 평가기준을 상호 수정하는 공창작 구조다.

Layer 5

시간 수준

인물 상태, 세계 규칙, 복선, 분위기, 장기 의도를 유지하는 능력이다.

Integrated

통합 정의

품질, 독창성, 다양성, 일관성, 인간 행위주체성, 과정 추적성을 함께 최적화한다.

Creativity(y) = Novelty(y) + Usefulness(y) + Surprise(y) ParetoMaxπ [ Q(yT), N(yT), D(Y), C(τ), Ah(τ), P(τ) ] subject to: K(yT, c1:T) = 1 Hcf ≤ ε Gcomp ≥ γ

핵심 설계 원칙

모든 목표를 하나의 가중합으로 압축하지 않는다. 시스템은 사용자가 상황별로 선택할 수 있는 파레토 전선을 제공해야 한다.

03

Problem Definition

현재 생성형 AI는 평균적 선호를 최적화하면서 희귀한 모드와 창작자의 통제권을 제거할 수 있다.

Problem A

평균화와 모드 붕괴

정렬이 품질을 높이는 과정에서 희귀한 표현과 소수 취향을 억제한다.

maximize D(Pθ) subject to Q(Pθ) ≥ qmin
Problem B

디자인 고착

AI의 최초 제안이 인간의 탐색공간을 좁혀, 이후 아이디어가 초기 예시 주변에 고정된다.

Safter-AI ⊂ Sbefore-AI
Problem C

창작 의도 손실

텍스트 프롬프트는 분위기, 계층, 리듬, 모호성, 허용 가능한 편차를 충분히 표현하지 못한다.

Problem D

평가의 구성타당도 부족

의미적 거리나 단일 LLM judge 점수가 실제 창의성과 미적 가치를 일관되게 예측하지 못한다.

Problem E

인간 기여의 비가시화

토큰·픽셀 저자성만으로는 목표 형성, 요구사항 추가, 후보 제거, 방향 전환을 포착할 수 없다.

Problem F

사회적 동질화

개별 사용자의 만족이 높아져도 사회 전체의 산출물이 동일한 미적 문법과 서사구조로 수렴할 수 있다.

04

Core Concepts

발산, 탈고착, 품질–다양성, 중간 표현, 창작 마찰, 잠재 취향이 핵심 계산 단위가 된다.

발산적 사고와 수렴적 사고

후보 확장 → 비평 → 선택의 순환을 명시적으로 구조화한다.

창의적 탈고착

전형적 범주와 최초 아이디어를 벗어나기 위해 금지, 관점 반전, 유추, 역할 분리를 사용한다.

내재적 동기의 기능적 유사체

호기심을 감정으로 가정하지 않고 탐색 지속, 하위목표 생성, 불일치 유지 같은 계산 기능으로 구현한다.

Quality–Diversity

하나의 최고 결과가 아니라 서로 다른 특성을 가진 고품질 해법 집합을 찾는다.

중간 표현

코드, 그래프, 레이아웃 트리, SVG 객체, 세계상태를 직접 조작 가능한 창작 인터페이스로 사용한다.

창작 마찰

반복 작업의 기계적 마찰은 제거하되, 대안 비교와 실패 해석을 위한 성찰적 마찰은 보존한다.

미적 판단과 잠재 취향

최종 점수보다 모델 내부 표현에 더 풍부한 취향 정보가 존재할 가능성을 탐색한다.

05

Introduction

표면적 완성도의 향상은 창의성 향상과 동일하지 않다.

현재 모델이 강한 영역

  • 익숙한 패턴의 빠른 재조합
  • 문법적·시각적 완결성
  • 단기 지시 이행
  • 전형적 스타일 모사
  • 평균 평가자의 선호 충족

현재 모델이 취약한 영역

  • 비명시적 함의와 공통기반 추론
  • 장기 서사 상태와 미해결 긴장
  • 구조적·물리적 편집
  • 소수 취향과 비서구적 미학
  • 자신의 제안이 인간 탐색에 미치는 영향
Creative AI = Generator + Explorer + Critic + Memory + Interface + Provenance
06

Motivation and Background

기존 벤치마크와 학습목표는 창작의 실제 구조를 충분히 반영하지 못한다.

정렬과 가능성 공간 축소

선호 최적화는 안전성과 품질을 높이지만 비정형 구성, 불완전한 초기 아이디어, 소수 표현을 억제할 수 있다.

창작 데이터의 장르 편향

기존 창작 데이터가 이야기 중심으로 구성되어 광고문, 연설, 시, 대화, 기술적 창작물을 충분히 포함하지 못한다.

정답 중심 벤치마크의 한계

창의적 문제해결은 정답 검색보다 비명백한 연결, 관점 전환, 문제 재구성을 요구한다.

최종 결과 중심 평가의 한계

목표 설정, 후보 생성, 거부, 수정, 비평과 같은 과정 기여가 최종 출력 평가에서 사라진다.

07

Challenges

창의성 연구는 평가 순환성, 구조적 다양성, 장기 일관성, 문화적 편향, 저자성 문제를 동시에 다뤄야 한다.

도전과제핵심 문제필요한 해결 방향
평가자의 순환성LLM 생성과 LLM 평가가 동일한 문체를 반복 강화전문가 평가, 순서 교란, 불일치 공개, 다중 평가자
다양성 vs 무작위성온도 증가는 어휘 변화만 만들 수 있음서사, 인과, 해결전략, 가치관 수준의 구조적 다양성
장기 일관성 vs 창의적 변화안정성이 높으면 반복적, 변화가 크면 세계관 붕괴세계상태와 의도상태를 분리한 장기 메모리
구조적 멀티모달 이해픽셀 유사성만으로 레이아웃·타이포그래피·객체관계 평가 불가객체·코드·레이아웃 트리 중심 표현
다중 에이전트 조정중복, 조기 합의, 메모리 충돌, 책임 불명확성역할 헌법, 공유 작업공간, 갈등 해결 규칙
문화적·역사적 편향현재 취향 최적화가 미래적·전위적 형식을 제거다원적 미적 헌법과 사용자 제약 기반 생성
저자성 판정의 부작용탐지기가 인간 문체와 창작행동을 보수화오탐의 사회적 비용과 과정 출처를 함께 평가
08

Research Questions

논문군을 관통하는 연구 질문은 창의성의 측정, 인간 의도, 다중 에이전트, 장기 세계모델, 저자성으로 수렴한다.

RQ1

새로움, 유용성, 놀라움, 미적 가치, 다양성, 의도 보존을 하나의 점수로 통합할 수 있는가?

RQ2

정렬이 제거한 희귀 모드를 복원하면서 안전성과 품질을 유지할 수 있는가?

RQ3

표면적 다양성과 구조적 다양성을 어떻게 구분할 것인가?

RQ4

AI가 인간의 탐색공간을 넓혔는지 반사실적으로 측정할 수 있는가?

RQ5

단발성 프롬프트를 넘어 변화하는 창작 의도를 어떻게 표현할 것인가?

RQ6

인간이 보존해야 할 결정과 AI가 자동화할 결정을 어떻게 나눌 것인가?

RQ7

평가자 불일치를 오류가 아니라 취향 구조로 모델링할 수 있는가?

RQ8

다중 에이전트가 실제 시너지를 만드는 조건은 무엇인가?

RQ9

장기 창작 세계모델은 사건 외에 어떤 상태를 기억해야 하는가?

RQ10

목표 형성, 후보 선택, 수정, 거부를 포함하는 공창작 저자성 모델이 가능한가?

09

Approaches / Methods

대표 방법론을 연구 기능별로 필터링해 탐색할 수 있다.

Paper #1

Caesar

동적 지식그래프와 비판적 웹 탐색을 결합해 창의적 답변을 합성한다.

Paper #6

CresOWLve

실세계 지식의 비명백한 연결을 요구하는 창의적 문제해결 벤치마크다.

Paper #7

Structured Creativity Methods

Brainwriting, Disney, Double Diamond의 에이전트 프로토콜을 비교한다.

Paper #9

The Missing Drive

탐색 지속, 하위목표 형성, 미해결 불일치 유지로 내재적 동기의 기능을 구현한다.

Paper #12

CreativityNeuro

창의적 조건에서 중요한 가중치를 희소하게 증폭해 발산적 사고를 조향한다.

Paper #17

Base-Aligned Collaboration

기반 모델의 다양성과 정렬 모델의 품질을 토큰 수준에서 결합한다.

Paper #18

Multi-Round Human–AI Collaboration

반사실적 피해와 상보성을 사용자 정의 제약으로 통제한다.

Paper #29

Bonsai

서사 가지의 성장·보존·가지치기를 통해 작가 의도를 누적한다.

Paper #31

Trajectory as Creative Intent

드래그 궤적을 단순 위치 명령이 아니라 시각적 창작 의도 표현으로 사용한다.

Paper #33

Object-Level SVG Access

래스터 영역과 SVG 객체 계층을 연결해 벡터 장면의 객체 단위 편집을 지원한다.

Paper #38

CHIEF

창작자 지시와 다중 페르소나 피드백을 반복 비디오 생성에 결합한다.

Paper #40

VendiEvolve

분포 수준의 다양성 지표를 진화 탐색에 결합한다.

Paper #43

SVG-BERT

SVG 소스코드의 구조를 직접 모델링하는 코드 네이티브 표현을 제안한다.

Paper #49

Creativity from Friction

기계적 마찰은 줄이고 성찰적 마찰은 보존하는 공창작 인터페이스를 제안한다.

Paper #51

JudgeBreak

보상모델의 점수보다 내부 표현에 잠재 취향 정보가 남아 있는지 검증한다.

Paper #53

Intermediate Representations

오디오 프로그래밍에서 그래프형 중간 표현의 사용성과 탐색 효과를 분석한다.

Paper #54

Post-training Diversity Collapse

표면적 다양성 보존만으로 깊은 서사 구조의 붕괴를 막을 수 있는지 질문한다.

Paper #60

NarrativeWorldBench

장기 오디오 드라마를 위한 잠재 세계상태 모델과 벤치마크다.

Paper #62

We Built a Salon

현재 취향을 최적화하는 미적 보상이 전위적 가능성을 제거할 수 있음을 논한다.

Paper #71

ArtMine

예술 작품의 결과가 아니라 제작 과정과 순서를 귀추적으로 복원한다.

Paper #72

MODA

모드 조건부 강화학습으로 서로 다른 고품질 출력 정책을 학습한다.

Paper #81

User-Orchestrated Teams

사용자가 인간–다중에이전트 팀의 역할과 상호작용을 직접 조직하도록 한다.

논문저자 보고 결과해석
CresOWLve사실형 문제에서 창의적 연결 문제로 갈 때 최대 약 17% 성능 하락지식 보유와 창의적 연결 능력은 다름
CreativityNeuroDAT 최대 14 인간 백분위점 향상, 인간평가 N=720가중치 공간에 조향 가능한 발산적 사고 성분이 존재할 가능성
BACo품질–다양성 공동지표 약 21.3% 개선기반 모델의 분포를 버리지 않는 정렬이 필요
Visual Aesthetic Benchmark최고 모델 순서 불변 판단 26.5%, 전문가 68.9%미적 판단은 프런티어 모델에도 미해결
GameDevBench333개 과제, 최고 방법 약 53.8% 해결코드 능력만으로 시각적 개발을 수행하기 어려움
CoTRACEAI가 목표 형성의 약 11–26%에 관여토큰 저자성보다 목표 저자성 측정이 필요
MODASBERT 다양성 29.1%, 일반 능력 17.3% 개선 보고모드 조건부 RL의 가능성
Beneath the Surface일부 환경에서 최고 모델도 지나치게 명시적인 단서를 60% 생성함의와 사회적 공통기반 추론이 취약
10

Key Applications

공창작 연구는 과학, 교육, 디자인, 게임, 영상, 구조설계, 오디오, 저자성 판정으로 확장된다.

과학·경제 연구

문헌 탐색, 가정 생성, 반례 탐색, 전문가 루브릭 추출, 이론 연구 에이전트.

창작 글쓰기·서사

다장르 생성, 함축, 장편소설, 인터랙티브 내러티브, 오디오 드라마.

교육

다양한 문제 생성, 학습자별 피드백, 창의적 사고 훈련, 과정 기반 평가.

그래픽·프레젠테이션

타이포그래피, SVG 객체 편집, 슬라이드 적응, 레이아웃 복구.

영상·게임

반복 비디오 생성, 시각 피드백 루프, 셰이더·스프라이트·UI 기반 게임개발.

건축·구조설계

후보 형태 자동화와 인간의 구조 논리·시공성·가치 판단을 결합한다.

오디오·음악

그래프형 중간 표현, 스타일 완성, 장기 오디오 서사.

저자성·출처

코드와 콘텐츠의 생성 출처, 목표 기여, 수정·선택 과정의 추적.

산업 디자인

평균 설계를 넘어 인간 의도와 탐색을 중심으로 다중 에이전트 협업을 조직한다.

11

Open Problems

현재 연구는 창의성의 통합이론, 인과평가, 사회적 다양성, 문화적 데이터 주권에서 초기 단계다.

창의성의 통합이론 부재

의미적 거리, 엔트로피, 전문가 평가, 놀라움, 일관성의 상호관계가 정립되지 않았다.

개인 창의성과 집단 창의성

개별 만족과 사회 전체의 아이디어 다양성이 서로 충돌할 수 있다.

과정 수준의 인과 평가

AI가 없었을 때의 인간 탐색과 비교하는 반사실적 측정이 필요하다.

창의적 실패의 보존

초기에는 낮은 점수지만 후속 조합에서 가치가 생길 후보를 저장해야 한다.

평가자 불일치 모델링

불일치를 노이즈로 제거하지 않고 취향 모드와 문화적 전통으로 해석해야 한다.

의도의 동적 변화

창작자는 상호작용 중 자신의 목표를 발견하고 수정하므로 고정 프롬프트 모델이 부족하다.

다중에이전트 권력 구조

역할 정의, 발언 순서, 메모리 기록, 최종 선택 권한이 명시되어야 한다.

문화적 다양성과 데이터 주권

비서구 미학, 지역 창작 관습, 공동체 저작권, 학습 데이터 동의를 포함해야 한다.

비아카이벌 결과의 재현성

데이터 오염, 모델 버전, 평가 프롬프트, 반복실험, 독립 재현 검증이 필요하다.

Subtractive Co-Creativity

AI가 추가하는 것뿐 아니라 망설임, 우연, 시행착오, 지역적 문체를 무엇을 지우는지 평가해야 한다.

12

Future Directions

미래 공창작 시스템은 의도 그래프, 다양성 예산, 다중 심판, 출처 그래프, 과정 파운데이션 모델을 결합해야 한다.

1. Intent Graph 기반 Creativity OS

Creative Goal ├─ Must Preserve │ ├─ central metaphor │ ├─ visual hierarchy │ └─ character motivation ├─ May Explore │ ├─ narrative order │ ├─ color system │ └─ interaction style └─ Must Avoid ├─ cliché ending └─ excessive symmetry

2. Diversity Budget

의미, 서사구조, 시각스타일, 사실 안정성, 브랜드 일관성의 탐색 폭을 독립적으로 제어한다.

3. Mode Ledger

각 후보가 사용한 관점, 구조, 미적 모드, 위험 수준, 제약을 기록한다.

4. Disagreement-Aware Judge Ensemble

유용성, 독창성, 공예성, 위험, 문화, 전위성을 담당하는 평가자의 불일치를 보존한다.

5. Creative Provenance Graph

Human Goal ↓ AI Counterproposal ↓ Human Rejection ↓ Agent Alternatives ↓ Constraint Revision ↓ AI Synthesis ↓ Human Final Selection

6. Friction-Adaptive Interface

전문성, 불확실성, 위험, 의도 성숙도에 따라 설명과 자동화 수준을 동적으로 조절한다.

7. World Model + Intent Model

zt = [zworld, zcharacter, ztheme, zintent, zaudience]

8. Process Foundation Model

완성본보다 초안, 스케치, 삭제 장면, 실패, 비평, 수정 전후, 선택 이유를 학습한다.

9. 사용자 주도 다중에이전트 헌법

Explorer, Historian, Dissenter, Craft Critic, Intent Guardian, Archivist 역할과 권한을 사용자가 정의한다.

10. 집단 수준 창의성 평가

수천 명이 동일한 모델을 사용할 때 사회적 산출물의 다양성과 문화적 대표성을 측정한다.

13

Conclusion

생성형 AI 창의성 연구는 결과물 중심에서 분포, 과정, 인간 행위주체성 중심으로 전환된다.

Shift 1

결과 → 분포·과정

독창적인 한 개의 출력보다 유의미한 가능성 모드를 유지하는 능력이 중요하다.

Shift 2

사용자 → 오케스트레이터

인간은 승인자가 아니라 목표, 역할, 갈등, 선택을 조직하는 주체가 된다.

Shift 3

선호 정렬 → 다원적 제약 관리

하나의 평균 취향보다 사용자 제약과 다중 미적 가치를 관리해야 한다.

Creative Intelligence = Useful Difference + Preserved Agency + Traceable Process

가장 유망한 시스템은 인간보다 더 창의적인 독립 생성기가 아니다. 인간이 발견하지 못한 가능성을 제시하되, 선택하고 의미를 부여할 권한은 인간에게 남기는 시스템이다.

14

Sources

공식 프로그램, 논문 PDF, OpenReview, 별도 arXiv 및 구현 저장소.