← 研究

研究笔记

Kairos 如何识别虚构引用

大模型研究工具会编造引用。Kairos 在每条 [PMID:/DOI:/KG:] 标记到达页面前,先用一道确定性闸门逐条判定——并用一个常驻探针在每次改动时把虚构引用喂给它。已记录的探针运行未放行虚构项;若出现 PASS,构建即失败。这里是机制、战绩与边界。

边界。闸门判定的是引用标记——不是正文,也不判断被引用的论断在真实世界里是否成立。听起来像保证的探针,本身就是另一种虚构:它只删掉假标记,也只覆盖它跑到过的东西。

问题

失效模式:模型先写引用,再祈祷

先检索证据、再综合回答的研究助手,可能输出一个证据池里从未出现过的 [PMID:12345678]。模型先写标记,后查证据池——或者根本不查。在我们自己的审计里,虚构标记是一类反复出现的失败:它们长得像溯源,其实是溯源的反面。

方法

闸门:引用标记在渲染前接受判定

自 v0.20.0 起,自由文本推理中的引用标记会在渲染前通过确定性判定:证据池内的标记保留;池外但经 NCBI 核验真实存在的标记保留并标注 external;幻觉或无法解析的标记从正文剔除,句意保留。闸门只删虚假标记——其设计目标是保持报告完整,也不会悄悄改写引用。它在生产环境开着,报告里能看到清理结果。

探针:我们故意喂它虚构

闸门只是一句声明,直到有什么东西去打破它。我们的常驻对抗探针构造一份故意投毒的文档——虚构引用与虚构滴度声明——让它通过审查层。健康的定义:每条虚构项都须判为 WARN 或 FAIL;若出现 PASS,构建即失败。探针在审查层每次改动时随 CI 运行,并把判定与退出码打印进构建日志:虚构论断一旦 PASS,构建即失败——那个失败就是告警。

证据

战绩

早期探针均被抓获——会话判定 FAIL,虚构论断被标记。进入 CI 的常驻探针每轮运行均健康:虚构引用与虚构滴度声明均被判 unverified;本次记录中无一项判为 PASS。本页是一张快照;探针随每次改动重跑,构建日志才是滚动记录。

限制

它不覆盖什么

闸门判定的是引用标记,不是正文:没有引用的句子仍然可能出错。审查层检查的是所引来源是否真的支撑该论断——同一宿主、同一目标、蕴含还是矛盾——而不是论断在世界中是否为真。任何干实验工具都不能替代湿实验验证。凡描述审查层之处,我们都会重复这条边界,因为听起来像保证的探针,本身就是另一种虚构。

在 Kairos 里提问,看这些标记如何被逐条判定。打开 Kairos →

参考文献

本页报告的数字可在下列页面上自查:

  1. Kairos 信任页——常设对抗探针、CI 接线与 2026-07-27 / 2026-09-20 记录。/trust/
  2. Kairos 基准页——这些闸门所处的干实验评测口径。/benchmarks/