回到第 16 页
经前台转 vs 按话题直送
播放 5 条后续消息
经路由转达
0
路由模型调用
0
路由读入 token(示意单位)
0
经手次数
代码直送(Thread 订阅)
0
路由模型调用
0
路由读入 token(示意单位)
0
经手次数
另一面:一个两分钟的小改动,值得单开一个会话吗?
派给新会话
派单
加载背景
执行
汇报
转述
主会话顺手做
执行
已经做完了
四指标拆开看 · 合成负载仅供参考
指标
有直送
无直送
怎么读
cache-read
23.2M
31.8M
+37% · Router 反复读长前缀
完成时间 p50
12.4′
12.6′
几乎不变
完成时间 p95
15.7′
15.5′
时间瓶颈不在 Router 转发
路由决策次数
基线
≈+30%
多的是模型轮次,不是 Worker
省下来的是前台反复读上下文和多做的决策;任务本身花多久,主要看 Worker 干活的时间。
数字来自 DeepSeek 的合成负载实验,当方向看