Jyotisha/docs/tasks/PROGRESS-content-moderation-20260930.md

# PROGRESS · 敏感内容审核 · 2026-09-30

> 合规轮四项之一（产品 2026-09-30「合规与法律的前四个你可以帮我做吗」）。执行：Claude fork D，直接执行。分支 `codex/content-moderation-20260930`，基于 `codex/compliance-base-20260930`（= origin/staging `5208f19b` + `lib/legal-entity.ts`）。
> 产品决定：输入命中 → 不发模型、不扣点、固定一句；输出命中 → 整段替换并退点；命中留脱敏日志。

## 做了什么

| 部分 | 位置 | 说明 |
|---|---|---|
| 审核接口 | `src/lib/moderation/index.ts` | `moderate(text, side, context)` → `{verdict, categories, ruleIds, providerId}`；本地词表先跑，命中即终判；配置了阿里云再跑远端（≤1.5 s）；远端失败/超时 → 沿用本地判定（输入：本地兜底不放空；输出：不因服务不可用而扣下回答） |
| 本地词表 | `src/lib/moderation/lexicon.ts` | 12 条规则、5 类（政治 3 / 暴恐 3 / 涉未成年色情 1 / 自伤 2 / 违法交易 3），均为多字短语；归一化去空格标点零宽、全角转半角 |
| 阿里云适配 | `src/lib/moderation/aliyun-provider.ts` | TextModerationPlus（llm_query_moderation / llm_response_moderation），RPC 签名 v1；high → 拦，medium → 待复核（放行并记录）；endpoint 限定 `*.aliyuncs.com`；超 2000 字分段，最多 4 段 |
| 日志 | `src/lib/moderation/log.ts` + 迁移 `20260930040000_moderation_events.sql` | 只记类别、规则编号/服务标签、方向、入口、模型、request、user_id；不存原文；仅 service_role |
| 普通咨询 | `app/api/consult/route.ts` | 输入：在 prompt-extraction 守卫之后、预留点数之前；输出：三条 agentic 流 `moderateOutput` + `completeResponse` 兜底（覆盖旧 text/plain 运行时）；命中走新函数 `complete_consultation_moderated`（复制自免费结算，释放预留） |
| 流式替换 | `lib/stream-agent-response.ts`、`lib/consultation-agent-events.ts`、`lib/consultation-run-timeline.ts`、`hooks/use-consultation-run.ts` | `answer.delta` 增加可选 `replace: true`；客户端时间线与发送钩子遇到即整段替换 |
| 生时校正 | `v9/agent-route-request.ts`（输入）、`v9/agent-run-finish.ts`（输出） | 输出命中：`skipBilling` → `billing.release()`，spoken 换成撤下提示，走既有 replace |
| 出生时间引导 | `app/api/birth-time-guide/route.ts` | `draft_evidence.message` / `reframe_unmatched.note` 输入审核 |
| 后台 | `app/api/admin/moderation-events`、`components/admin/moderation-events-resource.tsx`、菜单「内容审核」 | 只读、`audit.read`、14 天分类计数 |

未接入（无用户自由文本进模型）：报告生成、今日星语、合盘、星盘 / 星历。Python API 未发现把用户自由文本送进模型的端点（模型调用都在 Next.js 侧）。

## 既有断言改动（原值 / 新值 / 原因）

| 文件 | 原值 | 新值 | 原因 |
|---|---|---|---|
| `tests/test_api_server_security.py` app_routes 列表 | admin/models 后直接 admin/orders | 中间加 admin/moderation-events | 新增只读后台页 |
| `frontend/tests/admin-contracts.test.ts` 只读资源 | 四个 | 加 moderation-events | 同一只读约束覆盖新页 |

## 验证（Claude fork 实跑，Linux，Node 22.14）

| 项 | 结果 |
|---|---|
| `tsc --noEmit` | 0 错 |
| `npm run lint` | 0 error，126 warning（同基线） |
| 新增 `content-moderation.test.ts` | 10/10：占星用语 8 句全部放行；五类各自拦截含空格/全角/零宽规避；自伤给求助句；阿里云 high→拦、medium→待复核、none→放行，签名与表单校验；本地拦截不调远端；远端超时（50 ms）/500 → 沿用本地；无钥匙/非 aliyuncs.com 只用本地且只警告一次；日志不含原文、写失败不抛；流式回答被整段替换且 onComplete 收到提示句、时间线最终文本为提示句；路由里输入审核在预留点数之前、校正输出审核在结算之前 |
| `npm test` 全量 | 4,428 / fail 26。与基线（24 条环境失败）相比多 2 条：`a lookup does not reset the answer clock…` 与 `a refresh inside a rectification conversation stays in it…`，均为并发负载下超时（后者等待 16.8 s 超时），单独各跑两次全部通过，且不涉及本次改动文件。新增 10 条，消失 0 条 |
| `next build` | `/` 仍 `○ Static`；首屏 gzip-9 646,505 B（基线 646,480 B，+25 B） |
| Python | `tests/test_api_server_security.py::test_capability_audit_scans_registry_and_local_sources` 通过；快速门 Python 步 1000 passed / 2 skipped（门内 `npm test` 步走系统 Node 20，属已知环境失败） |

未验证：阿里云真实调用；迁移在真实 PostgreSQL 上执行（无 Docker）；浏览器中被拦与被替换的表现；遗留 text/plain 运行时（无法就地替换，只保证存档与结算为提示句）。