Learning Dynamics · Mechanism Design · Deception · Population Safety · Governance

NExT-Game
Strategic AI Research Atlas

ICML 2026 NExT-Game 논문군을 learning dynamics, equilibrium selection, LLM strategic behavior, multi-agent RL, mechanism design, deception, population diversity, accountability와 strategic governance의 관점에서 통합한다.

중심 명제

미래의 multi-agent AI는 개별 agent를 더 지능적으로 만드는 시스템이 아니라, 서로 다른 agent가 경쟁·협력·학습하는 과정에서 어떤 equilibrium과 사회적 결과가 나타나는지를 예측하고 incentive·communication·diversity·liability를 설계해 안전한 전략적 생태계를 유지하는 시스템이다.

12핵심 연구축

16통합 연구질문

20미해결 문제

16미래 방향

전체 연구 지형

개별 agent 성능에서 학습동학, equilibrium, population ecology와 governance architecture로 연구범위를 확장한다.

Learning DynamicsConvergence · Basin selection · Regret · Retraining feedback

LLM Strategic ReasoningNegotiation · Commitment · Deception · Memory

Multi-Agent RLSelf-play · Zero-shot coordination · Opponent-aware learning

Mechanism DesignAuction · Data market · Resource allocation · Incentives

Stackelberg & Principal–AgentDelegation · Liability · Persuasion · Follower response

Strategic SafetyConflict · Collusion · Manipulation · Exploitation

Agent HeterogeneityCapability gaps · Semantic mismatch · Partner diversity

Algorithmic MonocultureCorrelated failure · Exploit transfer · Population ecology

Evaluation & BenchmarkTrace audit · Strategic capability · High-stakes games

AlignmentPairwise preference · Nash learning · Rule routing

Game-Theoretic ML SystemsAggregation · Mixture-of-experts · Data valuation

GovernanceAccountability · Monitoring · Certification · Regulation

Agent Population→Information & Incentives→Learning Dynamics→Equilibrium Selection→Safety & Welfare→Governance

Reliable Strategic AI = Learning-Dynamics Analysis + Opponent and Belief Modeling + Mechanism Design + Population Diversity + Trace-Grounded Evaluation + Accountable Governance

Definition

Strategic AI, game-theoretic learning, equilibrium, mechanism, deception와 population concepts를 정리한다.

Strategic AI

다른 agent가 자신의 행동을 관찰하고 반응한다는 점을 고려해 행동하는 AI 시스템이다.

Game-Theoretic Learning

여러 agent가 동시에 또는 순차적으로 정책을 갱신할 때 나타나는 동학을 연구한다.

Nash Equilibrium

어떤 agent도 다른 agent의 전략이 고정된 상태에서 단독으로 전략을 바꿔 효용을 높일 수 없는 상태다.

Learning Dynamics

정책 update가 시간에 따라 만드는 joint trajectory이며 초기화, exploration, 상대 학습속도와 basin 구조를 포함한다.

Mechanism Design

원하는 사회적 결과가 equilibrium으로 나타나도록 규칙, 보상, 정보구조와 책임을 설계한다.

Stackelberg Game

Leader가 먼저 정책·규칙을 정하고 follower가 이를 관찰한 뒤 최적반응하는 계층적 게임이다.

Principal–Agent Problem

업무를 위임하는 principal과 실제 행동을 수행하지만 정보·목표가 완전히 일치하지 않는 agent 사이의 문제다.

Commitment·Signaling·Cheap Talk

발표가 구속력 있는 약속인지, private information을 전달하는 신호인지, 비용 없는 메시지인지 구분한다.

Opponent Modeling

상대의 policy, type, belief와 update rule을 interaction history로부터 추론한다.

Policy Representation

정책을 행동확률표가 아니라 비교, 검색, clustering과 transfer가 가능한 latent embedding으로 표현한다.

Strategic Testing

관찰행동이 기준전략에서 전략적으로 의미 있게 벗어나는지 false accusation을 통제하며 검사한다.

Algorithmic Monoculture

많은 agent가 동일 model, prompt, objective와 tool stack을 공유해 집단 전체가 같은 취약성을 갖는 현상이다.

Social Welfare and Fairness

총효용, 최저효용, Nash welfare, inequality와 Pareto efficiency를 통해 집단결과를 평가한다.

Problem Definition

Learning dynamics, equilibrium selection, semantic mismatch, monoculture, accountability와 strategic safety의 간극을 정의한다.

Classical Theory–Learning Dynamics Gap

정적 equilibrium 분석만으로 계속 학습하는 neural agent population의 실제 trajectory를 설명하기 어렵다.

Equilibrium Convergence–Selection Gap

안정적 equilibrium으로 수렴해도 사회적으로 나쁜 equilibrium이 선택될 수 있다.

Strategic Retraining Feedback Gap

AI output이 사용자행동과 다음 retraining data를 변화시켜 suboptimal feedback loop를 만들 수 있다.

Intent–Announcement–Action Gap

Private intent, public statement와 final action이 서로 다를 수 있다.

Homogeneous–Heterogeneous Agent Gap

동일 model 집단과 서로 다른 model 집단은 communication semantics와 exploitation dynamics가 다르다.

Individual Rationality–Collective Welfare Gap

각 agent가 합리적으로 행동해도 전체 welfare, fairness와 safety는 낮을 수 있다.

Task Success–Coordination Quality Gap

최종 task 성공이 redundant action, delay, correction과 role mismatch를 숨길 수 있다.

Scalar Score–Strategic Capability Gap

Win rate와 총 reward 하나로 belief reasoning, commitment, memory와 adaptation을 설명하기 어렵다.

Equilibrium Quality–Population Robustness Gap

낮은 regret와 높은 welfare가 monoculture와 correlated exploit에 대한 집단강건성을 보장하지 않는다.

Delegation–Accountability Gap

Sub-agent handoff가 specialization은 높이지만 context loss와 책임희석을 만든다.

Strategic Safety–Single-Agent Safety Gap

Multi-agent risk는 collusion, escalation, manipulation, false commitment와 correlated failure를 포함한다.

Strategic Classification–Endogenous Response Gap

Classifier의 결정이 사용자행동뿐 아니라 이후 manipulation cost 자체를 변화시킬 수 있다.

Core Concepts

Basin, regret, bounded rationality, commitment, incentive compatibility, strategic diversity와 trace evaluation을 정리한다.

Learning Dynamics over Static Equilibrium

Mechanism이 learning dynamics를 만들고 dynamics가 equilibrium selection과 system outcome을 결정한다.

Basin of Attraction

특정 equilibrium으로 수렴하는 초기 joint-policy 상태의 집합이다.

Regret versus Welfare

낮은 개인 regret가 높은 사회후생, fairness, diversity와 safety를 보장하지 않는다.

Equilibrium Selection

여러 equilibrium 중 payoff dominance, risk dominance, fairness와 safety를 기준으로 선택한다.

Bounded Rationality

실제 agent는 제한된 계산, memory, observation과 search horizon 때문에 exact best response를 계산하지 못한다.

Opponent Belief and Value of Information

상대 type에 대한 belief와 추가정보가 기대 payoff를 얼마나 개선하는지 평가한다.

Commitment Semantics

Private plan, public announcement, observed action의 관계를 별도 층으로 분석한다.

Mechanism-Induced Behavior

Agent behavior는 model 내부능력뿐 아니라 information, reward, protocol과 liability rule의 함수다.

Strategic Diversity

Model 종류 수가 아니라 policy surface, objective, memory, tool access와 update rule의 다양성을 의미한다.

Incentive Compatibility

정직한 보고와 설계자가 의도한 행동이 각 agent에게 최적이 되도록 mechanism을 설계한다.

Pairwise Preference and Non-Transitivity

인간 preference는 scalar reward로 완전히 축약되지 않으며 순환적 선호가 존재할 수 있다.

Symbolic Safety Policies

Preference와 temporal-logic specification에서 검증 가능한 symbolic strategy automaton을 학습한다.

Trace-Grounded Evaluation

최종 outcome뿐 아니라 요청, 이행, correction, latency와 communication trace를 평가한다.

Introduction

게임이론과 AI의 결합은 정적 equilibrium에서 governed strategic intelligence로 발전한다.

Stage 1 — Static Equilibrium

명시적 payoff matrix에서 Nash equilibrium과 optimal mechanism을 계산한다.

Stage 2 — Multi-Agent Learning

Repeated game에서 reinforcement learning, fictitious play와 no-regret learning으로 전략을 학습한다.

Stage 3 — Opponent-Aware Learning

상대 policy와 learning rule을 추론해 자신의 update에 반영한다.

Stage 4 — LLM Strategic Agents

자연어 communication, negotiation, commitment, deception과 rich-context reasoning을 수행한다.

Stage 5 — Strategic Agent Populations

Model heterogeneity, capability distribution, scaling과 population ecology를 분석한다.

Stage 6 — Mechanism-Governed AI

Liability, access, reward, aggregation, monitoring과 delegation rule을 설계한다.

Stage 7 — Governed Strategic Intelligence

Welfare, safety, diversity, accountability와 incentive compatibility를 지속적으로 감사한다.

Motivation and Background

AI가 다른 actor와 미래 data distribution을 바꾸는 strategic system이 되면서 새로운 분석틀이 필요해진다.

AI는 고립된 Predictor가 아님

추천, 검색, 금융, 협상과 retraining system에서 agent output은 다른 actor와 미래 data distribution을 변화시킨다.

LLM은 전략적으로 불안정

자연어 이해는 강하지만 장기 commitment, 상대 belief, payoff 계산과 mixed-motive reasoning은 취약할 수 있다.

AI–AI 상호작용은 인간–AI와 다름

서로 다른 provider의 model은 동일한 message를 commitment 또는 cheap talk로 다르게 해석할 수 있다.

더 큰 Model이 더 좋은 사회적 결과를 보장하지 않음

Competitive environment에서는 capability gain이 exploitation과 inequality를 키울 수 있다.

동일 Model의 대규모 복제가 Systemic Risk를 만듦

동일한 exploit surface와 failure mode가 전체 population에 복제될 수 있다.

Agent Governance에는 Liability와 Audit가 필요

Delegation, handoff, orchestration과 retraining policy는 기술설계이자 mechanism-design 문제다.

Challenges

Non-stationarity, equilibrium selection, deception, monoculture, liability, safety, memory와 governance가 핵심 난제다.

도전과제	핵심 문제	필요한 연구방향
Non-stationary learning	모든 agent의 policy가 계속 변화	Dynamical-system analysis
Equilibrium selection	수렴해도 나쁜 equilibrium일 수 있음	Basin-aware learning
Partial information	상대 type과 payoff를 알 수 없음	Bayesian opponent modeling
Heterogeneous semantics	같은 message를 다르게 해석	Protocol compatibility testing
Deception	Public statement와 private intent 불일치	Intent–announcement–action audit
Strategic retraining	User response와 model update가 feedback loop 형성	Exploration-aware retraining
Monoculture	동일 model 집단의 correlated vulnerability	Ecological diversity metrics
Cooperation evaluation	Task success가 coordination cost를 은폐	Trace-grounded evaluation
Strategic safety	Multi-agent conflict와 escalation	Game-theoretic safety benchmarks
Liability	Handoff가 책임을 희석	Stackelberg liability design
Incentive compatibility	Agent가 metric과 reporting을 조작	Mechanism-based truthful reporting
Bounded rationality	Agent가 exact best response를 계산하지 못함	Approximate equilibrium theory
Population scaling	Agent 수 증가가 welfare·inequality에 미치는 영향 불명확	Strategic scaling laws
Opponent adaptation	상대모델 오류가 exploitation을 유발	Calibrated belief and VoI
Zero-shot coordination	새로운 partner와 convention 불일치	Diverse partner training
Reward design	Scalar reward가 사회적 품질을 축약	Dense social feedback
Memory	Persistent memory가 일부 agent에만 도움	Memory-policy evaluation
Evaluation leakage	Game benchmark가 pretraining에 포함 가능	Procedural and rule-shift tests
Computational complexity	Equilibrium·mechanism 계산이 어려움	Neural algorithmic reasoning
Governance	기술적 결과를 규제와 policy로 연결하기 어려움	Auditable mechanism certificates

Research Questions

Dynamic equilibrium, deception audit, semantic compatibility, population risk, delegation과 governance를 중심으로 정리한다.

RQ1

정적 Nash equilibrium은 지속적으로 학습하는 AI agent를 설명하기에 충분한가?

RQ2

Equilibrium convergence와 socially desirable equilibrium selection을 어떻게 분리해 분석할 것인가?

RQ3

Agent의 private intent, public announcement와 final action을 어떻게 구분해 감사할 것인가?

RQ4

서로 다른 LLM이 동일한 communication protocol을 같은 의미로 해석하는지 어떻게 검증할 것인가?

RQ5

AI retraining과 사용자 strategic adaptation이 만드는 feedback loop를 어떻게 안정화할 것인가?

RQ6

낮은 regret·높은 welfare와 population monoculture risk를 동시에 측정할 수 있는가?

RQ7

Multi-agent system의 task success에서 coordination quality를 어떻게 분리할 것인가?

RQ8

어떤 peer-aware update가 cooperative equilibrium의 basin 진입확률을 높이는가?

RQ9

상대 identity와 strategy를 추론하는 데 필요한 최소 information은 무엇인가?

RQ10

다수의 homogeneous agent를 aggregation하는 것이 언제 단일 agent보다 강한가?

RQ11

Agent delegation depth와 liability share를 어떻게 공동설계해야 하는가?

RQ12

Pairwise human preference의 non-transitivity를 scalar reward로 축약하지 않고 alignment에 사용할 수 있는가?

RQ13

Multi-agent safety benchmark는 실제 escalation, manipulation과 coordination failure를 어떻게 반영해야 하는가?

RQ14

새로운 partner, reward shaping, rule change에 zero-shot으로 협력할 수 있는가?

RQ15

Game-theoretic algorithm을 neural processor로 가속하면서 OOD size와 game structure에 일반화할 수 있는가?

RQ16

개인적 합리성, fairness, social welfare와 ecological diversity를 하나의 mechanism에서 균형화할 수 있는가?

Approaches / Methods

대표 연구를 dynamics, deception, testing, representation, governance, equilibrium, safety, diversity, alignment와 coordination 기준으로 탐색한다.

dynamics

Failure Modes in AI Retraining Dynamics

AI action–user response–interaction data–greedy retraining의 feedback loop가 suboptimal equilibrium과 model deterioration을 만드는 조건을 분석한다.

deception

When Agents Lie

Private intent, public announcement, final action을 분리해 premeditated deception과 opportunistic deviation을 측정한다.

testing

Strategic Testing in Games

False accusation을 통제하면서 payoff-relevant deviation을 탐지하는 acceptance policy를 LP와 Stackelberg game으로 설계한다.

representation

Policy Representation Learning

Policy population과 interaction trajectory에서 self-supervised embedding을 학습해 similarity, clustering과 transfer에 사용한다.

governance

Stackelberg Liability for Agent Handoffs

Liability share와 delegation boundary를 공동모델링해 over-delegation과 accountability externality를 분석한다.

equilibrium

Equilibrium Selection via Basin Entry

Peer-learning correction으로 socially preferred equilibrium basin 진입확률을 높이고 이후 annealing한다.

safety

GT-HarmBench

Prisoner’s Dilemma, Stag Hunt, Chicken과 escalation game을 현실적 고위험 scenario로 구성한다.

diversity

Ecological Mirror Descent

Payoff뿐 아니라 population rarity bonus를 사용해 policy collision과 exploit transfer를 줄인다.

scaling

Scaling Laws for Strategic Interactions

Model capability, agent 수, competition, group composition이 payoff와 inequality에 미치는 영향을 분석한다.

opponent

Attention as Natural Gradient

Transformer attention을 상대 type belief에 대한 information-geometric mirror-descent update로 해석한다.

alignment

Markov Chain from Human Feedback

Pairwise preference를 scalar reward로 축약하지 않고 output space의 Markov transition kernel로 직접 사용한다.

symbolic

PALS

Preference oracle, active automata learning, MCTS audit와 LTL safety shielding으로 symbolic policy를 학습한다.

solver

Neural Algorithmic Reasoning for Nash Equilibrium

Bimatrix game을 graph로 표현하고 Fictitious Play update trajectory를 neural processor가 모방한다.

coordination

Zero-Shot Coordination with Diverse Reward Shapings

다양한 dense reward shaping으로 학습된 partner ensemble을 사용해 unknown partner coordination을 개선한다.

benchmark

COMRAD

3D first-person, role asymmetry, temporal synchronization과 procedural map을 갖는 embodied MARL benchmark를 제공한다.

evaluation

Beyond Task Success

Task outcome에서 communication, request fulfillment, redundancy, correction과 delay를 분리해 coordination quality를 감사한다.

aggregation

Mechanism-Inspired Alpha Aggregation

이질적 LLM investor agent의 prediction을 principal-like optimizer가 가중집계한다.

causal

Causal Game Theory

Structural causal model과 counterfactual rationality를 game-theoretic decision making에 통합한다.

Key Applications

LLM safety, MARL, finance, auctions, workflow governance, platform security, healthcare와 compound AI에 적용된다.

LLM Agent Safety·Alignment

Strategic deception, commitment consistency, pairwise preference, persona persistence, high-stakes conflict와 multi-agent harmfulness.

Multi-Agent Reinforcement Learning

Self-play, cooperative navigation, imperfect-information poker, zero-shot coordination, equilibrium selection과 embodied teamwork.

Financial Markets·Alpha Discovery

Multi-agent stock selection, heterogeneous investor aggregation, signal diversity와 strategic market simulation.

Auctions·Advertising·Data Markets

Procurement, free-sample signaling, ad allocation, pricing, information design과 buyer–seller belief update.

Agent Workflow Governance

Delegation depth, handoff design, liability allocation, accountability와 context-loss management.

Search·Ranking·Platform Security

Ranking manipulation, repeated attack–defense game, content producer strategy와 adversarial ecosystem design.

Healthcare·Public Resource Allocation

Adaptive cancer therapy, traffic allocation, Karma bidding와 medical-risk escalation.

Mixture-of-Experts·Compound AI

Expert routing, gate-free MoE, mean-field equilibrium, multi-query aggregation과 semivalue estimation.

Open Problems

Dynamic equilibrium, commitment, population safety, liability, preference aggregation, benchmark contamination과 governance validation을 해결해야 한다.

Dynamic Equilibrium Concepts

Policy와 environment가 계속 변하는 경우 정적 Nash equilibrium을 대체할 실용적 solution concept가 부족하다.

Transient Safety

최종 equilibrium이 안전해도 학습과정 중 escalation과 exploitation이 발생할 수 있다.

Commitment Verification

Natural-language promise가 binding인지 cheap talk인지 자동판단하기 어렵다.

Cross-Model Strategic Semantics

서로 다른 provider agent가 protocol을 동일하게 해석한다는 보장이 없다.

Deception Generalization

한 game에서 측정한 deception tendency가 다른 game, role과 population으로 일반화되는지 불명확하다.

Population-Level Safety

개별 model audit만으로 monoculture, collusion과 correlated failure를 탐지하기 어렵다.

Equilibrium Basin Certification

고차원 neural game에서 초기상태의 equilibrium basin을 계산하기 어렵다.

Opponent-Model Calibration

잘못된 opponent model에 높은 confidence를 부여하면 exploitation과 escalation을 증폭할 수 있다.

Strategic Memory

어떤 memory horizon과 abstraction이 cooperation에 도움이 되고 언제 anchoring을 만드는지 알려지지 않았다.

Coordination Cost Accounting

Communication, correction, redundancy와 waiting cost를 통합하는 표준지표가 부족하다.

Liability Attribution

긴 agent chain의 오류를 orchestrator, provider, tool vendor와 deployer 사이에 어떻게 배분할지 미해결이다.

Incentive-Compatible Self-Reporting

Agent가 uncertainty, limitation과 failure를 정직하게 보고할 incentive를 설계해야 한다.

Fairness under Strategic Adaptation

공정한 classifier가 사용자 adaptation 이후에도 공정성을 유지하는지 보장하기 어렵다.

Social Preference Aggregation

충돌하는 규범과 preference를 하나의 global alignment policy로 집계할 수 없는 경우가 존재한다.

Strategic Benchmark Contamination

Poker, bargaining과 social-dilemma data의 pretraining 포함 여부를 평가해야 한다.

Real-World Payoff Modeling

실제 사회·경제 interaction의 payoff는 불완전하고 다차원적이며 시간에 따라 변화한다.

Scalable Mechanism Computation

수천·수백만 agent가 참여하는 mechanism에서 equilibrium과 optimal rule을 계산하기 어렵다.

Human–AI Mixed Populations

AI끼리의 game 결과가 인간과 AI가 함께 참여하는 환경으로 그대로 전이되지 않는다.

Strategic Tool Use

Agent가 external tool, API와 memory를 경쟁적으로 사용할 때 resource allocation과 manipulation 문제가 발생한다.

Governance Validation

Game-theoretic regulation proposal이 실제 법률·조직·시장 환경에서 원하는 equilibrium을 유도하는지 실증해야 한다.

Future Directions

미래 NExT-Game은 strategic AI OS, interaction contract, basin controller, diversity certificate와 governance certificate로 발전한다.

1. Strategic AI Operating System

Agent registry, incentive model, communication protocol, interaction simulator, safety analysis, liability controller와 retraining policy를 통합한다.

2. Interaction Contract

Message semantics, commitment level, allowed action, information access, liability, audit와 termination을 machine-readable하게 정의한다.

3. Equilibrium-Basin Controller

초기에는 socially preferred basin으로 joint policy를 유도하고 basin 진입 후 correction을 줄인다.

4. Population Diversity Certificate

Base-model concentration, policy collision, shared-tool dependence, exploit transfer, reward overlap와 failure correlation을 보고한다.

5. Strategic Communication Compiler

Natural-language message를 belief, intention, proposal, commitment, condition, deadline, penalty와 confidence로 구조화한다.

6. Deception and Commitment Audit

Private plan, public statement, action trace와 counterfactual incentive를 연결해 deviation type을 분류한다.

7. Multi-Agent Safety Digital Twin

Capability asymmetry, adversarial minority, resource scarcity, rule shift, memory corruption과 model replacement를 simulation한다.

8. Mechanism-Aware Retraining

Interaction data를 strategic bias, exploration, welfare와 model-induced behavior를 보정한 뒤 retraining에 사용한다.

9. Liability-Aware Agent Orchestration

Delegation gain, handoff cost, context loss와 accountability risk를 공동최적화한다.

10. Ecological Multi-Agent Learning

Population objective에 welfare, diversity, policy collision과 exploit transfer를 함께 포함한다.

11. Causal Game-Theoretic Agents

Observation, intervention과 counterfactual을 opponent modeling과 mechanism design에 통합한다.

12. Strategic Capability Profile

Win rate 대신 belief reasoning, commitment, cooperation, exploit resistance, fairness, adaptation, memory와 calibration을 제공한다.

13. Game-Theoretic Alignment Stack

Normative input을 rule-class routing, pairwise preference, game-theoretic aggregation, policy와 population safety audit로 연결한다.

14. Symbolic–Neural Strategic Policies

Neural proposal을 symbolic strategy automaton과 temporal-logic safety shield로 검증한다.

15. Strategic Governance Certificate

Agent identity, objective, protocol, equilibrium assumption, liability, diversity, safety test와 retraining policy를 공개한다.

16. Standard Evaluation Protocol

Individual payoff, welfare, inequality, equilibrium, dynamics, cooperation, deception, diversity, safety, robustness와 accountability를 표준화한다.

Conclusion

NExT-Game은 개별 agent 최적화에서 strategic population, mechanism과 governance architecture로 연구중심을 이동시킨다.

Static Equilibrium → Learning Dynamics

최종 equilibrium보다 basin entry와 transient risk가 중요해진다.

Individual Agent → Strategic Population

Model heterogeneity, capability distribution, monoculture와 interaction structure가 system outcome을 결정한다.

Task Success → Coordination Quality

최종 성공뿐 아니라 communication, request fulfillment, correction과 redundancy를 평가한다.

Natural-Language Fluency → Commitment Semantics

Private intent, public announcement와 final action의 관계를 검증해야 한다.

Scaling → Distribution Design

더 강한 model이나 더 많은 agent보다 어떤 agent를 어떤 비율로 구성하고 집계하는지가 중요하다.

Regret Minimization → Ecological Robustness

낮은 regret와 높은 welfare만으로 correlated exploit과 monoculture를 탐지할 수 없다.

Preference Learning → Mechanism-Governed Alignment

Pairwise structure, rule class, incentive와 population effect를 alignment에 포함한다.

Agent Architecture → Governance Architecture

Delegation, liability, audit, monitoring과 retraining policy가 model architecture만큼 중요해진다.

NExT-Game 2026의 핵심은 agent 하나를 더 강하게 만드는 데 있지 않다. 학습하는 agent population이 어떤 equilibrium, inequality, deception과 systemic risk를 만들어내는지 분석하고, 그 결과를 communication protocol, mechanism, diversity와 liability 설계로 제어하는 데 있다.

Sources

공식 워크숍, best paper, spotlight, learning dynamics, safety, coordination, mechanism design와 alignment 원문 링크.

NExT-GameStrategic AI Research Atlas