← 返回周历 报告模板 视频 DeepInfer 101
Phase2 报告

Project2 Phase2 报告模板

浏览文字约 2 分钟 · 手算与练习请按正文分段完成 源文件:Markdown 本地渲染版 · 无需联网
本页目录 · 6 节

姓名或自用标记: 日期、Python版本、系统: 自己的代码位置:

1. 先预测,不先运行参考解

填写两个只改一个变量的比较:固定负载、budget、max_active,只改chunk;或固定负载、budget、chunk,只改max_active。写出预计谁的首输出更早、依据与可能推翻预测的条件。把“由固定tick保证TPOT=1”和“预计TTFT改善”分开。

2. 六个实现检查点

台阶自己的运行输入/命令预期实际是否能解释
A 空输入及参数验证待填合法为空;非法仍报错待填待填
B 单请求单输出待填首输出在1,立即完成待填待填
C 长prompt再长输出待填[2,3,4],工作量5待填待填
D 等待者下轮补位待填A=[1],B=[2]待填待填
E 同到达与十亿tick空闲待填只记录4个有效轮待填待填
F 历史快照隔离待填改第0张不污染以后待填待填

3. 完整A/B/C轨迹和守恒

粘贴README基准的实际四轮轨迹,逐列核对准入、计划、输出、完成、active和waiting。解释为什么B在1→2完成,C却要等2→3才能执行。列出每轮预算消耗、总prompt工作、总decode工作、总输出数。用自己的话推导prompt+output−1,而不是只引用公式。

4. 一次调试或反例设计

原始输入: 预期与实际: 第一张不同的快照: 缩小后的最小反例: 原因、修复、回归测试:

若首次通过,诚实写“未出现此类失败”,再设计一个能击穿错误实现的反例;不编造调试过程。至少覆盖单输出、FIFO、空闲跳跃、快照别名。

5. 18组实验与单变量解释

命令及自己的原始CSV保存位置: 结果中的单位: 观察窗口起止及是否包含空闲:

选两行只改变一个参数,抄录原始TTFT、TPOT、吞吐和goodput。先写观察到什么,再写模型内的原因。补一条“不支持的结论”,例如不能由tick吞吐推出GPU加速比。解释单输出TPOT为何排除,而不是填0。

6. 架构边界与口头验收

用一条新输入逐轮解释准入→计划→执行→指标。画出未来KV预留、失败撤销、结束释放的位置,但明确现在尚未集成。说明为什么max_active不等于显存上限,为什么固定tick及预算覆盖decode会使TPOT恒为1。最后列出仍未实现的抢占、模型执行、校准成本和在线失败/未完成统计。网页完成率不替代测试与解释。