软件工程已死，智能体社会化工程重生

摘要

传统软件工程建立在确定性控制范式之上：给定确定的输入，必然产生确定的输出。这一范式在工业时代创造了巨大的生产力，但其核心假设——系统行为可完全预测、可通过规格说明严格约束——正在智能体时代崩溃。基于大语言模型（LLM）的智能体展现出本质上的概率性与适应性，传统软件工程的方法论、工具链与治理框架已无法有效应对。本文提出“智能体社会化工程”作为新的工程范式，主张通过社会机制——角色分工、组织规范、演化适应与集体监督——在概率性智能体之上构建可信、可控、可演进的社会化系统。

关键词

软件工程；智能体工程；LLM；概率模型；社会化工程；适应性；确定性；可信系统

1. 引言：确定性范式的黄昏

过去六十年，软件工程的核心信条是确定性控制。从瀑布模型的严格阶段划分，到敏捷开发的迭代可预测性，再到DevOps的自动化流水线，整个行业围绕一个信念运转：如果我们能把需求说清楚、把架构设计好、把测试写充分，系统就会按照我们的预期运行。这一信念催生了CMMI、ISO 9001、各类架构模式、设计模式、测试覆盖率指标、SLA承诺等一整套工业级控制体系。

然而，2026年的今天，这套体系正在失效。失效的原因不是工程师不够努力，也不是管理不够精细，而是智能体系统的本质属性从根本上违背了确定性控制的前提假设。

一个基于大语言模型的智能体，即使面对完全相同的输入，也可能产生不同的输出。这不是bug，而是概率模型的结构性特征。更关键的是，智能体具有适应性——它会根据环境反馈调整行为，会从经验中学习，会与其他智能体协调，甚至会发展出设计者未曾预见的策略。这种适应性正是其价值的来源，但同时也是确定性控制体系的梦魇。

本文的核心论点是：当系统的核心组件从确定性程序转向概率性智能体时，我们需要从“软件工程”转向“智能体社会化工程”。这不是简单的名词替换，而是工程范式、方法论基础、治理框架与价值取向的根本性转变。

2. 传统软件工程的确定性假设及其局限

2.1 确定性：软件工程的隐形上帝

传统软件工程的所有方法论，无论其表面形态如何，都可以追溯到一个共同的形而上学预设：世界是可分解的，系统是可预测的，行为是可约束的。

• 瀑布模型假设需求可以被完整捕获，后续阶段只需机械执行；
• 结构化设计假设系统可以被自顶向下分解为独立的、可单独验证的模块；
• 面向对象假设对象的行为可以通过接口契约进行封装与约束；
• 敏捷开发虽然拥抱变化，但其Sprint周期、故事点估算、速率预测仍然暗含可预测性假设；
• DevOps通过自动化流水线实现“部署即重复”，本质上是在追求操作层面的确定性。

这些方法论的共同点是：它们试图通过预先规划与严格约束，将软件系统锁定在预期行为空间之内。测试覆盖率、代码审查、静态分析、类型系统——所有这些机制都是确定性范式的卫道士。

2.2 当确定性遭遇概率性

基于大语言模型的智能体彻底打破了这一范式。其核心差异在于：

更致命的是，智能体的“智能”恰恰来自于其处理不确定性的能力。一个真正智能的系统必须能够在信息不完整、环境动态变化、目标模糊的情况下做出合理决策。这种能力与确定性控制体系在根本上是矛盾的。

2.3 控制幻觉：为什么我们不能“驯服”智能体

一些工程师试图通过以下方式将智能体拉回确定性范式的轨道：

1. 提示工程标准化：试图通过精心设计的系统提示，将智能体行为“锁定”在预期范围内；
2. 输出模板化：要求智能体输出JSON、XML等结构化格式，以便程序解析；
3. 人工审核门控：在智能体输出与执行之间设置人工审核节点；
4. 沙箱隔离：将智能体限制在受限环境中，降低其不可控行为的破坏性。

这些策略在短期内可能有效，但它们都是防御性措施，而非建设性框架。它们试图通过外部约束来抑制智能体的概率性本质，而不是理解、引导、利用这种本质。更重要的是，当智能体的能力持续提升、自主性不断增强时，这些外部约束会变得越来越脆弱。

3. 智能体时代的新挑战：从“构建系统”到“养育社会”

3.1 智能体不是程序，是参与者

当我们把基于大语言模型的智能体部署到生产环境中时，我们实际上是在引入一个新的社会参与者。这个参与者：

• 具有自主性：能够独立设定子目标、选择执行策略；
• 具有社会性：需要与其他智能体或人类进行通信、协调、谈判；
• 具有演化性：其行为模式会随着交互历史而变化；
• 具有意向性：其决策受到“信念-愿望-意图”模型（Bratman, 1987）的驱动，即使这种意向性是派生性的。

这意味着，智能体系统不是一个“被设计的对象”，而是一个“被治理的社会”。我们不能像设计程序那样设计智能体，但我们可以像设计制度那样设计智能体的交互规则、激励结构与监督机制。

3.2 从软件工程到社会化工程

基于上述认识，本文提出“智能体社会化工程”（Agent Social Engineering）作为新的工程范式。其核心命题是：

在智能体系统的概率性与适应性之上，通过社会机制构建可信、可控、可演进的社会化系统。

这不是对传统软件工程的否定，而是对其的超越。在智能体社会化工程框架下：

• 确定性组件仍然存在，但它们是整个系统中的“底层基础设施”，而非全部；
• 智能体组件承担高层决策与适应性任务，但它们的决策受到社会规范与制度约束；
• 人类角色从“程序员”转变为“制度设计师”与“社会架构师”，负责设计智能体社会的运行规则。

3.3 信任的重新定义

在智能体社会化工程中，信任是治理出来的。我们通过制度设计、过程监督、激励机制与集体智慧来确保系统“在整体上服务于预期目标”。

这一转变类似于政治哲学中的从“自然法”到“社会契约”的转变。在霍布斯、洛克、卢梭的传统中，政治合法性不是来自于上帝的旨意或自然的秩序，而是来自于理性个体之间订立的契约，以及由此衍生的制度安排。同样，在ASE中，智能体系统的可信性不是来自于完美的规格说明或严格的类型约束，而是来自于一套精心设计的社会契约——包括角色契约、交互协议、监督机制与演化规则。

4. 智能体社会化工程：四大支柱

基于“信任来自治理”的核心思想，智能体社会化工程构建于四大支柱之上：契约、制度、集体智慧、工具固化。

4.1 契约：定义角色与期望

契约是智能体社会的“宪法”。它规定了：

• 每个智能体的角色定义：它的职责范围、能力边界、授权层级；
• 交互协议：智能体之间如何通信、如何请求服务、如何回应调用；
• 责任分配：当事情出错时，谁应该承担责任，如何追溯；
• 退出机制：智能体如何被替换、更新、下线。

与法律契约不同，智能体契约是可执行的。它们被编码为智能体的系统提示、工具定义与访问控制列表，运行时由平台强制执行。然而，与软件接口契约不同，智能体契约承认并容纳不确定性——它不规定智能体“必须”做什么，而是规定它在什么范围内“可以”做什么，以及当它偏离预期时的补救措施。

4.2 制度：流程、规范与演化规则

制度是契约的动态执行机制。如果说契约是静态的规则文本，制度就是让规则在运行中生效的机制。

智能体社会化工程的制度设计包括：

• 纪律流程：定期评审、回溯分析、行为审计；
• 工作流引擎：将多智能体协作编码为可观察、可干预、可优化的有向图；
• 演化规则：允许智能体在边界内通过试错学习，同时通过版本控制与回滚机制管理风险；
• 冲突解决机制：当智能体之间或智能体与人类之间存在目标冲突时，如何仲裁。

制度的核心功能是在保持适应性的同时限制危害。它承认智能体需要自由度才能展现智能，但这种自由度必须被边界所约束。

4.3 集体智慧：监督、反馈与涌现

单个智能体可能是脆弱的、有偏见的、不可靠的。但智能体社会可以展现出集体智慧——这是ASE最深刻的洞见。

集体智慧在智能体社会化工程中通过以下机制实现：

• 多样性：不同角色、不同训练数据、不同推理策略的智能体组成异质性群体；
• 冗余：关键任务由多个智能体独立执行，结果通过投票或共识机制整合；
• 专业化：每个智能体在其专长领域深耕，形成“社会分工”；
• 反馈循环：人类专家的反馈被系统化地用于调整智能体行为、优化制度设计；
• 透明度：所有智能体的决策过程被记录、可审计、可解释。

集体智慧的核心优势在于：它不需要每个参与者都是完美的，只需要系统作为一个整体是健壮的。这与传统软件工程的“零缺陷”理想形成鲜明对比。

4.4 工具固化：将社会机制编码为基础设施

智能体社会化工程的最后一个支柱是工具固化——将社会机制转化为可执行、可复用、可组合的数字基础设施。

工具固化的层次包括：

1. 运行时平台：提供智能体注册、发现、通信、权限管理的底层框架；
2. 工作流编排器：将多智能体协作流程编码为可视化的有向图，支持版本控制、回滚、监控；
3. 审计与合规工具：自动记录所有智能体决策，支持事后分析与责任追溯；
4. 演化管理工具：管理智能体的版本、配置、A/B测试、灰度发布；
5. 人类-in-the-loop 工具：为人类专家提供干预智能体行为的界面与机制。

工具固化的核心理念是：社会机制不应该只是文档中的文字，而应该成为系统运行的基础设施。当制度被编码为工具，它就获得了确定性软件的可靠性；当工具被设计为可演化、可干预的，它就保留了智能体系统的适应性。

5. 数字基础设施的新基础

5.1 从确定性代码到社会化编排

传统数字基础设施的基础是确定性软件：操作系统、数据库、网络协议、Web服务器——它们的行为都是可预测的、可重复的、可验证的。这些组件的可靠性使得复杂的分布式系统成为可能。

然而，当我们把智能体引入这个基础设施时，确定性代码不再是唯一的甚至不是主要的基础。新的基础是：

• 社会化编排：智能体之间的角色分配、任务协调、资源调度；
• 纪律流程：确保智能体行为符合预期规范的审计、评审、反馈机制；
• 工作流式架构：将复杂任务分解为可观察、可干预的步骤序列；
• 组织制度：定义智能体社会结构的角色体系、权限层级、责任分配；
• 社会化分工：让不同专长的智能体各司其职，形成专业化协作网络；
• 集体智慧的涌现：通过多样性、冗余、反馈与透明度，让系统整体超越个体智能。

5.2 健壮性与稳定性的来源

传统软件工程的健壮性来自严格的规格说明与 exhaustive 测试。ASE的健壮性则来自契约、制度、集体智慧与工具固化的协同作用。

• 契约提供了稳定的预期：每个智能体知道自己的角色与边界；
• 制度提供了动态的适应：系统可以在边界内演化，而不需要重新设计；
• 集体智慧提供了容错能力：个体智能体的失败不会导致系统崩溃；
• 工具固化提供了可复用的基础设施：社会机制被编码为软件，获得确定性的执行保证。

这四大支柱相互作用，形成一个自强化循环：契约定义制度，制度塑造集体智慧，集体智慧反馈到契约的优化，而工具固化将这一循环的每一步都编码为可执行的基础设施。

5.3 与复杂适应系统理论的对话

ASE的设计原则与复杂适应系统（CAS）理论高度契合（Holland, 1995; Axelrod & Cohen, 1999）。CAS理论告诉我们：

• 适应性产生于主体与环境的持续互动，而非预先编程；
• 涌现是复杂系统的典型特征，无法从个体行为中预测；
• 多样性是系统韧性的基础，同质性导致脆弱性；
• 非线性意味着小变化可能引发大后果，需要持续的监控与干预。

ASE将这些洞见转化为工程实践。我们不是在“构建”一个智能体系统，而是在培育一个智能体社会——设置初始条件、设计演化规则、提供资源与环境，然后让集体智慧在互动中涌现。

6. 实践路径：从概念到系统

6.1 第一阶段：基础设施层（确定性基石）

在ASE系统中，确定性组件仍然不可或缺，但它们退居为基础设施层：

• 智能体运行时：提供模型调用、状态管理、工具执行的确定性服务；
• 消息总线：确保智能体之间的通信可靠、有序、可审计；
• 权限与访问控制：定义智能体可以调用的工具与访问的数据；
• 持久化存储：记录智能体的交互历史、决策日志、演化轨迹。

这一层的设计仍然遵循传统软件工程的范式，因为它的职责是提供稳定的平台，而非实现智能本身。

6.2 第二阶段：社会层（智能体编排）

在基础设施之上，是智能体社会层：

• 角色定义：每个智能体的职责、权限、目标函数；
• 交互协议：智能体如何请求服务、如何回应、如何协商；
• 工作流引擎：将多智能体协作编码为可执行、可监控、可干预的流程；
• 监督机制：人类专家如何介入、审查、纠正智能体行为。

这一层的设计借鉴了组织理论与制度经济学的洞见。我们需要回答：如何设计角色体系以最大化整体效率？如何设置激励结构以对齐个体与集体目标？如何处理冲突与异常？

6.3 第三阶段：演化层（适应与学习）

最高层是演化层，负责智能体社会的持续改进：

• 行为审计：记录所有智能体决策，支持事后分析与责任追溯；
• 反馈机制：将人类专家的评估转化为智能体的训练信号或微调数据；
• 版本管理：管理智能体、制度、工作流的版本历史，支持回滚与A/B测试；
• 涌现监测：检测系统层面的新行为模式，评估其价值与风险。

这一层的存在承认了一个根本事实：我们无法在设计阶段预见所有情况，因此系统必须能够在运行中学习与演化。然而，这种演化必须在制度框架内进行，以避免失控。

7. 与相关工作的关系

7.1 与多智能体系统（MAS）的区别

ASE与经典的多智能体系统（MAS）研究有密切联系，但存在关键差异。传统MAS研究主要关注个体智能体的推理能力与协作协议，而ASE关注的是整个智能体社会的制度设计、演化动态与信任构建。MAS问的是“智能体如何协作”，ASE问的是“如何设计一个值得信任的智能体社会”。

7.2 与AI安全/对齐（AI Safety/Alignment）的关系

ASE与AI安全研究共享对失控风险的关注，但方法论不同。AI安全研究主要关注如何确保AI系统的目标与人类价值观一致（Christiano et al., 2021），而ASE关注如何通过社会机制来管理与缓解不确定性。ASE不追求完美的对齐，而是追求可管理的风险——通过制度设计将风险控制在可接受的范围内。

7.3 与软件工程演化的历史对话

从结构化编程到面向对象，从瀑布模型到敏捷开发，软件工程一直在演化。每一次范式转变都回应了前一范式的局限：

• 结构化编程回应了goto语句导致的“意大利面代码”；
• 面向对象回应了大规模系统中的模块化需求；
• 敏捷开发回应了瀑布模型在需求不确定环境中的僵化。

ASE回应的是确定性控制范式在智能体时代的根本性失效。这不是一次普通的范式转变，而是一次工程基础的重新奠基。

8. 结论：从控制到治理

软件工程没有“死”在技术意义上——确定性软件仍然存在，仍然需要，仍然有价值。但软件工程作为主导性工程范式已经死亡。当我们面对基于LLM的智能体系统时，确定性控制的思维不再是答案，而是问题本身。

智能体社会化工程提供了一条出路。它承认概率性与适应性的不可回避性，转而寻求通过契约、制度、集体智慧与工具固化来构建可信系统。这一范式转变要求我们重新思考工程的核心命题：

• 从构建到养育；
• 从验证到治理；
• 从控制到引导；
• 从个体完美到集体健壮；
• 从预先设计到持续演化。

数字基础设施的新基础不是确定性的软件工程，而是基于智能体的社会化编排、纪律流程、工作流式架构、组织制度、社会化分工与集体智慧的涌现。在这片新大陆上，工程师不再只是程序员，而是社会架构师——他们设计的不是孤立的程序，而是智能体社会的运行规则。

软件工程已死。智能体社会化工程万岁。

参考文献

1. Bratman, M. E. (1987). Intention, plans, and practical reason. CSLI Publications.
2. Holland, J. H. (1995). Hidden order: How adaptation builds complexity. Basic Books.
3. Axelrod, R., & Cohen, M. D. (1999). Harnessing complexity: Organizational implications of a scientific frontier. Free Press.
4. Christiano, P., Bostrom, N., & Yudkowsky, E. (2021). The singularity: A philosophical analysis. In The Cambridge handbook of artificial intelligence (pp. 547-566). Cambridge University Press.
5. Wooldridge, M. (2009). An introduction to multiagent systems (2nd ed.). John Wiley & Sons.
6. Dennett, D. C. (1987). The intentional stance. MIT Press.
7. Simon, H. A. (1996). The sciences of the artificial (3rd ed.). MIT Press.
8. Holland, J. H. (1992). Adaptation in natural and artificial systems. MIT Press.
9. Giddens, A. (1984). The constitution of society. University of California Press.
10. Ostrom, E. (1990). Governing the commons: The evolution of institutions for collective action. Cambridge University Press.