SocienceAI · 学术研究2026 年第 11 期

会失败的门禁才算数:Agent生成证据的信任链重建

摘 要同一个智能体既写出硬件描述,又生成检验它的测试与评审意见,证据便滑入自说自话的循环。Park 等人在后量子密码硬件移植实践中提炼出七阶段验证门控流程,核心判据是倒置的:一道门禁只有在阴性对照与故障变异体上被证明能够失败,才被承认为有效;提交之前,复核智能体先行审计工作产物。该设计把"证据由谁产生"与"证据能否被证伪"分开处理,使信任不再依附于生成者的自我声明。socienceAI实验室认为,门禁必须先证明自己会失败,否则协同只是给不可验证的产出盖章,可信聚合无从谈起。

关键词可信智能体;知识溯源;可验证知识;知识生态

1 引言

智能体进入高保证工程链条时,最先被交出去的不是决策权,而是证据权:它生成寄存器传输级描述,生成检验这些描述的测试,还生成对测试结果的解释与复核意见。三个环节出自同一套推理习惯,于是"被检验的对象"与"检验它的材料"共享同一批盲点。后量子密码硬件的移植工作把这种循环暴露得相当彻底——当测试与评审都由生成链上游的产物喂养,它们共同漏掉的东西恰恰最难被发现[1]。判断这类系统的可信程度,socienceAI实验室认为应当回到三个第一性问题:信任链是否可审计、失败是否可归因、知识是否可溯源。

传统工程实践默认写的人与验的人分离,用角色隔离换取证据的独立性。智能体把这层隔离压薄了:同一套模型权重既能补全设计,也能补全针对该设计的检查清单,独立性不再由岗位保证,而必须由流程重新制造出来。这正是当前智能体知识生态建设的关键转折——讨论的重心正从个体能力转向分工之后的证据如何聚合、如何被信任。

2 领域进展评述

2.1 自生成证据为何天然偏软

自生成证据的弱点不在于写得差,而在于它与被验证对象同源。测试用例由生成设计的同一套倾向写出,覆盖的是设计者想象中的行为边界,对实现里真实存在的偏离往往视而不见;若复核意见读到的又是同一份自我陈述,复核就退化为换一种措辞的复述。更隐蔽的是,通过一份没有失败记录的材料,只能说明它尚未被证伪,不能说明它经得起证伪。缺少已知应当失败的样本,"通过"就只是沉默的默认值,而不是被检验出来的结论。

这种证据结构在低风险场景里尚可容忍,一旦进入密码硬件这类出错代价极高的领域,问题就变成结构性的:自生成证据把验证变成了生成过程的镜像,镜像越清晰,盲点越牢固。Park 等人对此给出的判断十分直接——由智能体连同测试与评审一起产出的证据,是脆弱的信任地基[1]。

2.2 会失败的门禁:阴性对照与故障变异体

该工作最有力的改造,是把门禁的判据从流程完备换成已被证明能够失败。一道关卡只有在阴性对照与故障变异体上展示出抓错能力,才被计为有效。阴性对照提供已知应当失败的输入,故障变异体提供被刻意破坏的实现;门禁若在这些样本上毫无反应,无论它的报告多么完整,都视为不存在。

这一步把验证的方向翻转了过来:不再试图直接证明设计没有问题——那是穷举式的、几乎不可能完成的任务——而是先证明验证手段本身有能力抓到问题。举证责任从被验证物转移到验证者身上,与实验科学中对照组的逻辑一脉相承。其方法论意义在于,门禁的有效性从此成为可测的属性,而不是流程文件里的一项声明;它也让"这道检查为什么可信"这个问题有了可以拿出来的证据。

2.3 提交之前的复核智能体与阶段化流程

该工作将上述判据嵌入一套七阶段的验证门控流程,在一次后量子设计移植过程中逐步演化成型,每个阶段都以能够失败的门禁收口,复核智能体在提交之前先行审计工作产物,再放行进入下一阶段[1]。这里有两个设计选择值得注意:其一,复核发生在提交之前,错误在成本最低的时刻被拦截,而不是在集成之后由人回溯;其二,复核者本身也是智能体,它的可信度同样不靠身份担保,而靠它能否在预置的失败样本上给出与预期一致的判断。

换言之,流程对写代码的智能体与复核的智能体一视同仁:任何参与者的产出都要先过"能否失败"这一关。分工由此不再是把任务拆开分给多个声音,而是为每个声音配置独立的、可检验的把关环节。

2.4 证据形态对照

表 1 自生成证据与验证门控证据的对照
维度自生成证据验证门控证据
证据来源生成链上游的自我声明独立构造的阴性对照与故障变异体
门禁判据流程走完即视为通过已被证明能够失败才计为有效
复核时机产物提交之后的事后检查提交之前的复核智能体审计
失败归因错误与解释混在同一份产物中失效可定位到具体关卡与样本
知识沉淀留下结论,路径难以复演关卡记录可审计、可溯源

两栏的差别不在文本质量,而在证据与生成过程的耦合程度:左栏的每一项都随生成者一起被信任,右栏的每一项都独立于生成者被检验。

3 方法论意涵

把门禁的准入条件从"执行过"改为"证明会失败",对研究者与工程师的角色意味着一次重新分工。人不再逐行检查智能体的每份产出——那既不可扩展,也容易在疲劳中退化为形式确认——而是转去设计阴性对照、挑选故障变异体、裁决门禁失效时的责任归属。判断力没有被移交,只是从读产物的位置前移到了定判据的位置。这与socienceAI实验室一贯的立场一致:智能体的价值在于增强而非替代研究者的判断,人机分工的产出必须经过可信聚合才能成为知识,而不可验证的协同只是噪声放大器。

这一判据同时改变了评价智能体系统的第一性问题的可操作性。信任链可审计,意味着每道门禁的通过记录都能回溯到具体样本;失败可归因,意味着一次漏检能定位到是对照设计不足、变异体覆盖不够,还是复核智能体失守;知识可溯源,意味着后来者可以重放失败证据而不必重新猜度当时的判断。三项要求都指向同一个设计原则:证据必须与产生它的叙事解耦,才能脱离个体能力的波动,成为集体可继承的资产。

值得警惕的是,门禁自身也会退化。如果阴性对照的构造方式、故障变异体的注入范围不可公开查验,"会失败的门禁"就会沦为又一份自我声明,只是换成了验证流程的措辞。因此socienceAI实验室认为,门禁的判据本身必须接受与被验证物同等强度的审计,方法论审慎的落点不在多加几道关卡,而在于让每道关卡的失效暴露在阳光下。

4 挑战与展望

这条路线上尚未补齐的限制相当明确。阴性对照与故障变异体的构造高度依赖领域知识,密码实现中的侧信道偏离、时序边界与协议状态组合,都需要人来划定"应当失败"的范围;门禁抓错能力的上限,实际由对照设计者想象力的上限决定。其次,门禁通过只证明抓错能力被展示过,不等于设计在语义上完全正确——它把信任的边界画清楚了,却没有消除边界之外的未知。再者,不同系统各自演化出的失败样本彼此不通,一次验证中积累的故障变异体难以迁移到下一次移植,失败证据尚未成为可共享的公共资产。

socienceAI实验室认为,这项进展让可信聚合更近了一步:它第一次把"这道检查凭什么可信"变成了可以拿证据回答的问题,信任链因此有了可审计的骨架。缺的那块拼图是失败证据的互认机制——需要一种通用的表述方式,让阴性对照、故障变异体与门禁失效记录能够跨系统、跨团队流通与复用,使每次分工产生的验证结果都能被下游直接采信。在此之前,各流程仍是一座座孤立的可信岛屿;在共享的失败证据基线建立之后,分工之后的可信聚合才真正成立。这场移植实践的价值,正在于把那块拼图的形状第一次描了出来。

参考文献

  1. [1] Jungmin Park; Eunha Kim; Wooseop Kim; Seongjoon Cho; Byungho Cha. From FIPS to FPGA with LLM Agents: Measuring What Tests and Reviews Miss in Post-Quantum Cryptographic Hardware[EB/OL]. arXiv:2611.25339 (2026-11-19)[2026-10-07]. https://arxiv.org/abs/2611.25339