Files
Jyotisha/docs/research/holdout_v4_build_2026_09_14.md
T
jesse-ux 2d2467dca1
Independent Staging Quality Gate / validate (push) Failing after 9m27s
Independent Staging Quality Gate / publish (push) Skipped
docs(research): measure minute-resolution scoring; no variant clears all radii
Build holdout v4 from the public AA set, correct the two v3 dates, and sweep
R1–R5 plus pairs offline. No production scoring defaults change. No
implementation brief: delivered width stays the full window on every radius.
2026-09-14 20:43:27 +08:00

2.7 KiB
Raw Blame History

Holdout v4 构建说明(2026-09-14

  • 口径:ayanamsa ramannode mode mean
  • 父集:references/real_case_calibration/minute_rectification_holdout_v3.json20 例公开 Rodden-AA)。
  • 产物:references/real_case_calibration/minute_rectification_holdout_v4.json
  • 生成脚本:scripts/research/holdout_v4_build.py
  • 隐私:只用公开名人传记,不用真实用户资料。

为什么 v3 不能当尺度改动的否决门

v3 真实会话 / 本产品
每例事件 恰好 3 518
每例领域 23 ≥4 才像一次问完的会话
搜索半径 全部 ±10 产品有 ±15/30/60/120
来源审计 invalidated_after_replay(两处日期错) 应用工作日期必须是核实过的
事件精度 多为 year 会话里 year 也多,但 3 条 year 事件几乎没有分钟方差

BUG-560 用 v3 否决 offset(覆盖 12/20)时,窗口本身只有 21 分钟、每例 3 件事。底座 11.5 对变化项 2.1 的比例在这种样本上几乎看不到差异。v4 用来量尺度,不是新的封存盲测门。

v3 日期修正(任务 0

事件 提交值 核实值 来源
robbins_marriage_1968 1968(年) 1967-03-10 Wikipedia John Robbins (author)
takamoto_joined_disney_1947 1947(年) 1945(年) Wikipedia Iwao Takamoto

v3 的 source_audit_status 改为 corrected_known_date_errors。它仍是每例 3 件事,不是发布门

v4 协议

  1. 出生时间与地点原样继承 v3 的 Astro-Databank AA 记录。
  2. 每例补到 ≥7 件带年月事件、≥4 个领域。事件来自 Wikipedia / Britannica / 奥斯卡官方 / 白宫档案等公开页,且 independent_of_birth_source=true
  3. 工作日期用核实过的公历,不再保留已被审计否定的盲测错年。
  4. 三档半径 ±10 / ±30 / ±60 写在数据集上,由测量脚本分别跑。真实分钟所在簇随打分方案变,记在 sweep 结果里,不写死在 holdout 里。
  5. truth_hidden_from_ranker=false:这是开放评价集,用来看尺度,不是第二份封存盲测。

与 v3 的差异

  • 20 例名单不变。
  • 事件从 3 增到 ≥7,领域从 2–3 增到 ≥4。
  • 两处错年按核实值改正,并进入 v4 工作日期。
  • 明确三档半径和本仓口径。

基线成绩单

当前线上算法在 v4 上的五个指标见 docs/research/minute_resolution_2026_09_14.md。那份表才是后续改法的对照,不是 v3 的 12/20。

摘要:±10 / ±30 / ±60 头名簇命中 0.35 / 0.15 / 0.10,区间覆盖 1.00,宽度中位等于整窗(21 / 61 / 121),并列率 0.05 / 0.05 / 0.00。