research(rectification): add reported-offset evaluation and frozen rerun integrity
Preserve closed confirmation gates and previously-exposed dataset boundaries. Add auditable 900-trial sensitivity results, current scorer freshness checks, and the v5 collection protocol. Co-Authored-By: Claude Code <noreply@anthropic.com>
This commit is contained in:
@@ -12870,3 +12870,52 @@
|
||||
- 相关记录:BUG-970
|
||||
- 复发自:无
|
||||
- 修复版本:`8dc460da`
|
||||
|
||||
## BUG-978 | 封存契约当前打分身份与资料审计状态过期
|
||||
|
||||
- 状态:resolved/partial
|
||||
- 首次发现:2026-09-20
|
||||
- 最近更新:2026-09-20
|
||||
- 影响面:封存 holdout 契约、当前实现评测身份与离线成绩归属。
|
||||
- 用户现象:历史冻结值、历史 sidecar 当前值、当前代码实测哈希互不相同;契约仍写旧资料审计状态与评测日期,当前成绩无法正确归属。
|
||||
- 触发条件:打分文件发生变化而契约未刷新,再读取契约判断当前引擎验证状态。
|
||||
- 根因:人工维护契约;既有测试仅与旧报告相互核对,没有断言真实当前树身份与数据集状态。
|
||||
- 修复:本轮新增固定口径重跑与 freshness 回归;执行与证据见 `docs/tasks/PROGRESS-rectification-validation-20260920.md`。保持发布六键与确认门不变。
|
||||
- 验证:freshness 与确认门相关定向通过;独立复算逐例结果及汇总与冻结重跑 JSON 一致,六个 runtime 键未变。新增测试通过既有快速门 glob 桥接实际收集。旧 v2 哈希测试与 quick 环境失败与基线相同,详见进度。独立盲测因案例曾曝光仍 blocked,固定实现重跑不恢复未见性;resolved 仅指元数据过期与可追溯缺口,partial 指新独立盲测未完成。
|
||||
- 防复发:当前打分文件 SHA-256、源审计状态与契约必须一致;新鲜度检查须进入实际快速门收集范围,不能仅存在于测试目录。新盲测还必须有未曝光样本和独立标注审核。
|
||||
- 相关记录:BUG-098、BUG-427、BUG-428。
|
||||
- 复发自:BUG-098 的独立 holdout 边界与 BUG-427 的身份绑定缺口;前者要求未被落实为独立封存流程,后者没有当前树 freshness 检查,旧 sidecar 自洽仍可过测试。
|
||||
- 修复版本:本轮执行分支,未交付。
|
||||
|
||||
## BUG-979 | 真值中心候选窗掩盖申报偏差导致的真值出窗
|
||||
|
||||
- 状态:resolved
|
||||
- 首次发现:2026-09-20
|
||||
- 最近更新:2026-09-20
|
||||
- 影响面:离线候选窗评测与生产申报中心搜索窗的可比性。
|
||||
- 用户现象:离线评测真值永在候选窗中心,无法衡量真实申报偏差大于搜索半径时的失败模式。
|
||||
- 触发条件:用户申报偏离独立记录且偏差超过候选窗半径。
|
||||
- 根因:旧评测从真值构窗,缺少独立的申报偏移变量和真值在窗覆盖指标。
|
||||
- 修复:并行新增偏移敏感性评测,不修改历史候选函数;排名后才揭示真值,用既有 opaque 哈希破同分。
|
||||
- 验证:完整修正版 900 组合、45 格,排除 0;新增偏差与 freshness/桥接回归 28/28 通过(包含桥接重复收集),真实引擎跨日分组与逐候选重算相同。报告见 `docs/research/reported_offset_2026_09_20.md`,口径与哈希见同名 JSON。resolved 仅指离线缺少偏差维度的缺口,不代表产品分钟准确或生产跨日问题已修。
|
||||
- 防复发:锁定零偏移、窗外、口径字段、非真值破同分与跨日行为;窗口覆盖与排序命中分开记录,不以敏感性代替真实用户准确率。
|
||||
- 独立审查追加:首版偏差评测的矩阵为全窗共用一个日期,跨日时辅助 transition proximity 有偏差。已在离线适配层按候选日期分组计算并与逐候选真实引擎结果对照,不修改生产打分;原初扫统计作废。生产同类日期处理不在本单修复范围,记入 BLOCKED,不能声称生产端到端等价。
|
||||
- 相关记录:BUG-098、BUG-978。
|
||||
- 复发自:BUG-098;既有防复发聚焦候选公开门与同案稳定性,没有离线与生产窗心可比性的测试。
|
||||
- 修复版本:本轮执行分支,未交付。
|
||||
|
||||
## BUG-980 | 缺少事件丰富且从未曝光的独立封存集
|
||||
|
||||
- 状态:investigating
|
||||
- 首次发现:2026-09-20
|
||||
- 最近更新:2026-09-20
|
||||
- 影响面:分钟级评测可推广性与独立发布证据。
|
||||
- 用户现象:旧封存集事件少;事件丰富的开放集用于调参、成绩已见,不能替代新的独立验证。
|
||||
- 触发条件:把开放评价集或真值方向最佳答案回放当成产品分钟级准确率。
|
||||
- 根因:开放集建设之后未建立独立采集、未曝光、独立人审的封存孪生集。
|
||||
- 修复:本轮仅制定 v5 采集协议与不重叠公开候选池,不采事件、不生成新成绩。
|
||||
- 验证:协议含事件/领域目标、独立来源、人审封存、曝光日志、工作量和发布边界;备选池与旧集去重通过(仅候选资格筛查,原文准入仍需复核)。v5 未建成,保持 investigating。
|
||||
- 防复发:采集、标注、评分权限分隔,调参前封存,首次揭晓前不得以事件内容调参;拒绝自动置真人审标志和重新封存已曝光案例。
|
||||
- 相关记录:BUG-098、BUG-428、BUG-978、BUG-979。
|
||||
- 复发自:BUG-098;原记录明确延期独立分区与校准,本轮仍无真正独立样本,不能将文档协议写成验证完成。
|
||||
- 修复版本:协议执行分支;数据集未就绪,不标 resolved。
|
||||
|
||||
Reference in New Issue
Block a user