姓名或自用标记: 日期、Python版本、系统: 自己的代码位置:
1. 先预测,不先运行参考解
填写两个只改一个变量的比较:固定负载、budget、max_active,只改chunk;或固定负载、budget、chunk,只改max_active。写出预计谁的首输出更早、依据与可能推翻预测的条件。把“由固定tick保证TPOT=1”和“预计TTFT改善”分开。
2. 六个实现检查点
| 台阶 | 自己的运行输入/命令 | 预期 | 实际 | 是否能解释 |
|---|---|---|---|---|
| A 空输入及参数验证 | 待填 | 合法为空;非法仍报错 | 待填 | 待填 |
| B 单请求单输出 | 待填 | 首输出在1,立即完成 | 待填 | 待填 |
| C 长prompt再长输出 | 待填 | [2,3,4],工作量5 | 待填 | 待填 |
| D 等待者下轮补位 | 待填 | A=[1],B=[2] | 待填 | 待填 |
| E 同到达与十亿tick空闲 | 待填 | 只记录4个有效轮 | 待填 | 待填 |
| F 历史快照隔离 | 待填 | 改第0张不污染以后 | 待填 | 待填 |
3. 完整A/B/C轨迹和守恒
粘贴README基准的实际四轮轨迹,逐列核对准入、计划、输出、完成、active和waiting。解释为什么B在1→2完成,C却要等2→3才能执行。列出每轮预算消耗、总prompt工作、总decode工作、总输出数。用自己的话推导prompt+output−1,而不是只引用公式。
4. 一次调试或反例设计
原始输入: 预期与实际: 第一张不同的快照: 缩小后的最小反例: 原因、修复、回归测试:
若首次通过,诚实写“未出现此类失败”,再设计一个能击穿错误实现的反例;不编造调试过程。至少覆盖单输出、FIFO、空闲跳跃、快照别名。
5. 18组实验与单变量解释
命令及自己的原始CSV保存位置: 结果中的单位: 观察窗口起止及是否包含空闲:
选两行只改变一个参数,抄录原始TTFT、TPOT、吞吐和goodput。先写观察到什么,再写模型内的原因。补一条“不支持的结论”,例如不能由tick吞吐推出GPU加速比。解释单输出TPOT为何排除,而不是填0。
6. 架构边界与口头验收
用一条新输入逐轮解释准入→计划→执行→指标。画出未来KV预留、失败撤销、结束释放的位置,但明确现在尚未集成。说明为什么max_active不等于显存上限,为什么固定tick及预算覆盖decode会使TPOT恒为1。最后列出仍未实现的抢占、模型执行、校准成本和在线失败/未完成统计。网页完成率不替代测试与解释。