Files
Jyotisha/docs/testing/consult-prep-parallel-ab-20261013.md
T
jesse-uxandGrok (agent loop) a0e223e20c 发问准备可以并行,三个开关先保持关闭(BUG-1337~1339)
开流前的注销检查可以和读会话、解析模型同时进行;审核改到扣点前等待,不再挡住第一行;模型版本可以短缓存;两个领域可以一起算。本机没有数据库中位数,也没有带星盘网络库的镜像,所以默认仍是关闭、缓存 0、领域逐个算。

自测:tsc 0 错;lint 0 error;相关测试失败 0、取消 0。test:db 未跑。

Co-Authored-By: Grok (agent loop)
2026-10-14 07:23:58 +08:00

1.9 KiB

发问准备并行:本轮量到的和没量到的(2026-10-14)

开关都还关着。用户发问后的第一行,这轮不会变快。

进程内假时钟

命令:node node_modules/tsx/dist/cli.mjs scripts/research/consult-prep-parallel-ab.mts(在 frontend 目录)。

假延迟:注销检查 50 毫秒,读会话 80 毫秒,解析模型 80 毫秒。这不是数据库实测。

逻辑耗时 同时进行的步数
串行 210 1
并行 160 2

并行比这三条假延迟的相加更短。它不能代替「首帧中位数下降两成」的开启条件,因为本机没有量 Postgres。

审核密钥不在这台机器上。测试里把审核挂起 1500 毫秒,第一小段在 400 毫秒内已经写出,然后才收到拦截。这是假等待,不是供应商的真实时间。

版本缓存

行为测试:15 秒内第二次解析不再查库、不再做地址检查;清缓存后会再查;缓存关掉后每次都查;查库失败和空结果不会被记住。没有量到真实「准备模型」那一段快了多少,所以缓存时间保持 0。

两个领域一起算

命令:.venv\Scripts\python.exe frontend\scripts\research\consult-domain-concurrency-ab.py

本轮没有启动计算服务,也没有带星盘网络库的镜像。任务书起草时的试算大约只快一成,热缓存时反而更慢,达不到快两成五。默认仍是一个一个算。

仍然关闭的原因

开关 现在 要打开还缺什么
发问准备并行 关 本机 Postgres 上鉴权、注销检查、读会话、读模型各 30 次的中位数,并且首帧中位数至少快两成
模型版本缓存 0 毫秒 同上,准备模型那一段至少快一半
两个领域一起算 1 带星盘网络库的镜像上墙钟至少快两成五,争用时 429 不增加,响应除约定字段外一致