bench/ball_float 设计
设计目标
分别测量区间栈每一层的开销,所用输入使所有层都必须得到相同结果,这样某一层的变化就会体现为某一个报告百分比的变化。
数学背景
对于一个数据集,令 、 和 分别为区块 中 kernel、core 和 checked 路径的每次调用时间(没有 kernel 路径的情形只报告第二个量)。报告的量为
即某一层相对于其下一层的相对中位数配对开销。估计量、配对方式和 bootstrap 区间的推导见 bench 设计。
设计决策
工作负载
| 用例 | 数据集 | 实现 | 协议 |
|---|---|---|---|
ball-float/add, ball-float/mul, ball-float/div | 53、128、512、2048 位 | kernel/bin-float (BinFloat), core/ball-float (BallFloat), full/checked (BallFloatResult) | Development |
输入是由固定位模式构造的精确单点区间;精度为各操作数位长之和加 4,div 的被除数为这些模式的乘积,因此每个结果都是精确的,每个区间结果都必须保持为单点区间。
正确性预言
kernel 的输出必须等于精确的 BinFloat 结果;区间输出必须是中心等于该结果的单点区间。与预言不符的输出计为失败,且性能测试断言不存在失败,因此比较永远不会发生在计算不同结果的路径之间。
精确输入
精确结果使各路径的算术工作完全相同:没有哪条路径能靠更早舍入而胜出,测得的差异即表示、上下文处理和检查的开销。
正确性 / 不变式
- 计划测试在普通测试运行中编译每个规格,因此基准不会在无人察觉的情况下失效。
- 性能测试断言
failed_count == 0:每个输出都与其预言一致。 - 种子是固定的(
20260715),因此测量顺序和 bootstrap 重抽样都可复现。
被否决的替代方案
- 每个样本使用随机输入。 这会把输入方差混入计时方差;每个数据集使用固定模式可以隔离代码本身的开销。
- 只做端到端计时。 单个数字无法分辨回归发生在 kernel、core 还是 checked 包装层。
边界
- 仅限 native 目标;不对其他目标作任何结论。
- 没有公共 API;该包为
tools/benchmark.py而存在。 - 测量结果是性能页面的证据,绝不是正确性的证据。