BENCHMARK · 快照 ri-20261025-1526

这份判断到底准不准

把「带证据的判断」当成产品,第一件事是把它的错误率公开。下面是 28 个案例的真实运行结果,不是挑选过的演示;错的、弃权的、够不着的都留在表里。

28可复核案例
15/15直接撤稿全部命中
0受污染论文误判为干净
8证据不足时弃权
2,158 ms延迟 p50
2,987 ms延迟 p95
0.46平均引用覆盖率

01 方法

标签不是我们打的,是从库里按构造规则算出来的:

  • A — 论文本身有 A 级(登记在 DOI 系统的)撤稿通知,判定应为 CONTESTED。
  • B — 论文的参考文献里有撤稿论文,判定应为 CONTESTED 或弃权;判成 SUPPORTED 就是假阴性。
  • C — 快照内两跳都碰不到撤稿论文的对照。判成 SUPPORTED 才算正确。

每个案例都是对生产端点 retraction_propagation 的真实调用(2026-10-28,快照 ri-20261025-1526),延迟是客户端墙钟时间,包含公网往返。

02 案例(点开看图谱)

组DOI判定Conf.覆盖撤稿根ms
DEPTH010.1016/j.saa.2015.02.011CONTESTED0.500.0011817
DEPTH010.1083/jcb.200501040CONTESTED0.500.0012050
DEPTH010.1182/blood-2008-01-133710CONTESTED0.500.0012019
DEPTH010.1016/s0092-8674(03)00436-7CONTESTED0.500.0012024
DEPTH010.1016/j.jacc.2011.12.043CONTESTED0.500.0011921
DEPTH010.2337/db13-1526CONTESTED0.500.0012289
DEPTH010.1074/jbc.m611728200CONTESTED0.500.0012125
DEPTH010.1073/pnas.0610590104CONTESTED0.500.0011781
DEPTH010.1038/nature26142CONTESTED0.500.0012026
DEPTH010.1038/s41417-022-00501-1CONTESTED0.500.0011736
DEPTH010.1016/j.jcrysgro.2005.05.065CONTESTED0.500.0012060
DEPTH010.1001/jama.293.9.1082CONTESTED0.500.00124704
DEPTH010.1128/jvi.76.13.6815-6824.2002CONTESTED0.500.0011657
DEPTH010.1038/ncb942CONTESTED0.500.0012197
DEPTH010.1038/35099527CONTESTED0.500.0011922
DEPTH110.1161/cir.0000000000001052ABSTAINED0.501.00102542
DEPTH110.1161/cir.0000000000000558ABSTAINED0.501.0022327
DEPTH110.1161/cir.0000000000000485ABSTAINED0.501.0032430
DEPTH110.4158/ep161365.glCONTESTED0.990.9932368
DEPTH110.1161/cir.0000000000000350ABSTAINED0.501.0032244
DEPTH110.1161/cir.0000000000000152CONTESTED1.001.00224640
DEPTH110.1161/cir.0000000000000152CONTESTED1.001.0022987
DEPTH110.1161/01.cir.0000441139.02102.80ABSTAINED0.500.9921979
DEPTH110.1097/01.hjh.0000431740.32696.ccCONTESTED1.000.9942226
DEPTH110.1161/str.0000000000000046ABSTAINED0.501.0042530
DEPTH110.36660/abc.20201238ABSTAINED0.480.9782370
DEPTH110.1161/str.0000000000000024ABSTAINED0.501.0042192
CLEAN10.3748/wjg.11.7461SUPPORTED1.001.0001595

03 它做不到什么

没有干净的对照组。这个快照是「撤稿邻域」抽样——从撤稿论文出发抓它们的引用文献,所以几乎每一篇都在污染范围内。28 个案例里只有 1 个真正的对照。因此这份基准能证明「抓得到」和「不乱判」,不能证明在干净文献上的精确率。补对照组需要重新采集(约 1 天的抓取额度),这是下一版的事。

弃权不是失败。12 个引用撤稿论文的案例里有 8 个弃权,原因全是 single_aggregator_source:只有 C 级(聚合器)声称撤稿,没有 A 级通知。我们选择不下结论,而不是拿聚合器当事实。

覆盖度是硬上限。平均引用覆盖率 0.46,低于 0.5 一律弃权。想让结论更硬,先补数据,不是调模型。

04 自己复现

判断层是确定性的图查询,同一个 DOI 在同一快照上永远返回同一个结果。

匿名 MCP(无需密钥,20 次/分钟/IP):

curl -s -X POST https://mcp.ashesborn.cloud/mcp \
  -H 'content-type: application/json' \
  -H 'accept: application/json, text/event-stream' \
  -d '{"jsonrpc":"2.0","id":1,"method":"initialize","params":{"protocolVersion":"2025-06-18","capabilities":{},"clientInfo":{"name":"bench","version":"1"}}}'

免费状态查询(无需密钥): ashesborn.cloud/datasets · GET https://pay.ashesborn.cloud/api/v1/judge/paper?doi=<doi>

Raw run output — 28 records, verdicts, roots, coverage and latency as measured.

完整判断(含逐跳证据路径)按次计费 $0.02 / $0.10,无需注册: POST https://pay.ashesborn.cloud/api/v1/judge