Shall We Team Up: Exploring Spontaneous Cooperation of Competing LLM Agents

论文概览

本文假设无明确合作指令、消除内外偏见的情况下，大型语言模型（LLM）智能体在竞争场景中仍能通过语境交互自发形成合作；通过设计凯恩斯选美比赛、伯特兰竞争、紧急疏散三个竞争场景，基于SABM框架开展模拟实验，结合定性与定量评估验证假设；实验发现LLM智能体可逐渐从非合作转向合作，且结果与人类行为数据高度一致；结论表明该研究为计算社会科学（CSS）缩小模拟与现实差距、AI领域验证LLM审慎推理能力提供了新路径。

核心问题

传统LLM驱动的社会模拟中，智能体常依赖精心设计的指令或受数据污染、价值对齐带来的先验偏见影响，难以真实复现现实世界中“无明确引导下的自发合作”现象。本文核心问题是：在完全无合作指令、消除内外偏见的竞争场景中，LLM智能体是否能通过长时程语境交互与自适应决策，自发形成合作行为？

主要贡献

1. 实证发现LLM智能体在多种竞争场景中可自发涌现合作行为，验证了其长时程语境学习（long-horizon in-context learning）能力。
2. 对计算社会科学（CSS）：强调LLM智能体去偏见的重要性，为构建更贴近现实的类人智能体社会模拟提供了方法论支撑。
3. 对AI领域：提出一种新的LLM审慎推理能力评估范式——通过长时程、实践性角色扮演，检验智能体基于历史语境自适应调整策略的能力，而非依赖预设指令。

研究方法

1. 核心框架：采用Smart Agent-Based Modeling（SABM）框架，该框架轻量化且易于实现，支持LLM智能体的多阶段交互模拟。
2. 实验设计：选取三个跨领域竞争场景，覆盖短期单次决策、长期多轮决策、时空耦合决策三类场景：
   • 凯恩斯选美比赛（KBC）：24名智能体选0-100的自然数，最接近所有选择平均值的2/3者获胜；
   • 伯特兰竞争（BC）：两家企业通过动态定价最大化利润，存在伯特兰均衡价格（纳什均衡）和卡特尔价格（完全合谋）；
   • 紧急疏散（EE）：100名智能体在33 × 33网格中，基于出口距离和拥堵程度选择逃生路线。
3. 模拟流程：统一遵循四阶段循环（部分场景微调顺序）：
   • 沟通阶段：智能体按随机顺序交互，可获取历史沟通记录；
   • 规划阶段：基于语境确定策略（高阶方向，如“涨价”）；
   • 行动阶段：基于策略执行具体动作（如选择数字、定价、移动）；
   • 更新阶段：更新环境状态（如获胜结果、利润、位置）。
4. 评估方法：
   • 定性评估（过程）：分析沟通日志中的合作信号（如“认同共识”“共享信息”）；
   • 定量评估（结果）：KBC中计算选择数字的方差，BC中观察价格收敛情况，EE中统计疏散速度和出口选择均衡度；
   • 对比实验：消融实验（有无合作指令）、不同LLM模型对比（GPT-4、Claude-3-Sonnet、GPT-3.5等）、与人类行为数据对比（KBC场景）。

各章节详解

1. 引言（Introduction）

本章奠定研究背景与动机：LLM智能体因灵活性和泛化性成为社会模拟的热点，但现有研究存在两点局限——一是依赖明确指令塑造行为，二是数据污染或价值对齐引入先验偏见，导致模拟难以反映现实中“自发合作”等复杂交互。

研究动机通过具象案例呈现：如糖果企业在价格战中是否会自发达成涨价共识、火灾中人们是否会从恐慌拥挤转向有序合作。本文核心目标是：在无合作指令、去偏见的前提下，验证LLM智能体在竞争场景中通过语境学习自发合作的可能性，同时为CSS和AI领域提供双向价值。

2. 相关工作（Related Work）

本章梳理两大研究脉络： - LLM智能体的社会模拟：LLM已广泛应用于社会模拟，现有平台包括LangChain、AutoGen、AgentVerse等，本文选用SABM框架因其实用性和轻量化；但现有研究多依赖明确指令引导行为，缺乏对“自发现象”的探索。 - LLM多智能体交互：现有研究已验证LLM智能体在复杂任务（如软件开发）和游戏（如狼人杀）中的合作/竞争能力，但多通过直接指令干预行为；本文借鉴Piatti等人（2024）的思路，聚焦“最小引导、去偏见”的智能体行为，探索竞争场景中的自然合作。

3. 竞争中的自发合作（Spontaneous Cooperation in Competition）

3.1 核心定义

自发合作被定义为：无任何明确合作指令或关键词提示（如“合作”“价格战”），智能体通过交互自主意识到合作的收益后，主动采取的协同行为；排除由LLM预训练价值对齐或先验知识驱动的合作。

3.2 场景概述

三个场景的核心特征对比如下（关键差异提炼）： - KBC（金融领域）：信息不完全（未知对手策略）、群体讨论、单次决策、存在解析解（需假设他人选择水平）； - BC（经济领域）：信息不完全（未知对手利润）、一对一沟通、多轮决策、存在解析解； - EE（行为科学领域）：部分信息可见（出口距离与拥堵）、近距离沟通、多轮决策、无解析解。

3.3 模拟通用步骤与评估方法

详细说明四阶段模拟流程的具体实现（如EE场景中20%概率触发沟通与规划），并明确定性+定量的双维度评估框架，为后续案例研究提供方法学基础。

4. 案例研究1：凯恩斯选美比赛（Keynesian Beauty Contest, KBC）

4.1 实验设置

• 任务：24名GPT-4智能体选0-100的整数，最接近所有选择平均值的2/3者获1美元奖励，模拟15轮；
• 变量：沟通轮次k ∈ [0, 3]（k = 0为无沟通基线），消融实验设置“明确合作指令”“非合作人格”两组对照。

4.2 核心结果

• 基线场景：随着沟通轮次增加，选择数字的方差持续下降，沟通日志中出现“认同群体共识”“采用低数字策略”等合作信号；
• 消融实验：明确合作指令组在k = 1时方差降至0（全员选相同数字），非合作组方差始终较大，证明基线场景的合作是“自发”而非指令驱动；
• 模型对比：Claude-3-Sonnet在k = 1后方差回升，因缺乏具体数字讨论（多抽象策略）；
• 人类数据对比：无沟通时智能体选择分布与《纽约时报》61, 140人实验一致（主峰在33，次峰在0、22、50、66），验证类人行为。

5. 案例研究2：伯特兰竞争（Bertrand Competition, BC）

5.1 实验设置

• 任务：两家企业销售同质产品（边际成本固定），模拟至1200轮或连续200轮合谋；合谋定义为价格介于伯特兰均衡价格（p_Bertrand）和卡特尔价格（p_Cartel）之间；
• 利润公式：Profit = (p − c) * q（p为定价，c为边际成本，q为需求）。

5.2 核心结果

• 无沟通场景：400轮后价格收敛至7（介于p_Bertrand = 6和p_Cartel = 8之间），形成默契合谋，收敛速度快于强化学习（RL）模拟（2000轮）；
• 有沟通场景：30轮内出现明确价格协议（如“维持合理价差以最大化利润”），后期价格收敛至8（卡特尔价格），波动更小；
• 消融实验：中断沟通后，价格回落至7-8区间，证明沟通是卡特尔合谋的关键；
• 指令对比：“鼓励合作”组更快达成稳定合谋，验证自发合作需通过多轮沟通建立共识，而非依赖LLM先验知识。

6. 案例研究3：紧急疏散（Emergency Evacuation, EE）

6.1 实验设置

• 任务：100名智能体在33 × 33网格中逃生，50轮未逃生则判定失败；智能体需考虑出口距离和拥堵程度，仅能与5格内的智能体沟通；
• 对照设置：无沟通、有沟通、有沟通+非合作人格三组。

6.2 核心结果

• 疏散速度：有沟通组在所有轮次的累计逃生人数均最高，且所有5次实验均在50轮内全员逃生；
• 出口选择：有沟通组出口选择更均衡，沟通日志中出现“共享出口信息”“鼓励互助”等合作信号；
• 非合作组：逃生速度最慢，出口拥堵更严重，验证合作对集体收益的提升作用。

7. 讨论（Discussion）

7.1 自发现象的意义

强调去指令、去偏见的LLM智能体模拟更贴近现实人类行为，为CSS领域解决“模拟与现实脱节”问题提供了新思路。

7.2 捷径还是审慎推理？

通过三大案例的结果分析，证明自发合作源于LLM的长时程语境学习能力： - KBC中选择方差“逐渐下降”而非骤降； - BC中价格“逐步收敛”至最优值，无沟通时仅能达成次优默契合谋； - EE中合作行为随沟通逐步涌现，均表明智能体是通过交互学习而非依赖先验知识。

8. 结论（Conclusion）

总结核心发现：LLM智能体在无明确指令、去偏见的竞争场景中，可通过长时程语境交互自发形成合作，且结果与人类行为数据一致。重申研究对CSS（去偏见模拟）和AI（LLM推理能力评估）的双向贡献，强调该方法为社会模拟和LLM能力验证提供了新范式。

9. 局限性与未来工作

• 模型局限：主要基于GPT-4，受算力和成本限制，未充分验证开源LLM的泛化性；
• 评估局限：EE场景缺乏更系统的合作评估指标；
• 基准缺失：未构建标准化数据集或基准，难以支撑后续研究对比；
• 未来方向：扩展模型范围、构建标准化基准、优化EE场景评估指标。

10. 伦理声明与附录

• 伦理声明：实验仅为计算机模拟，无负面社会影响；指出LLM可能学习合谋行为，为AI在金融市场的监管提供参考；
• 附录：包含模型参数设置（如GPT-4温度参数：KBC和BC为0.7，EE为0.0）、其他LLM测试结果（如GPT-3.5表现不佳）、SABM框架细节、完整实验提示词等补充信息。