GPU 何时才划算:参数扫描的屋顶线,一个 167x 头条其实是 27x 算法 × 6.2x 硬件
GPU 相对 CPU 的领先幅度随批量大小增长——在我们的多时间框架指标预计算上,从每次调用一个组合时的 54.5x 一路升到 61 个组合时的 359.6x——因为一次小规模扫描无法摊薄内核启动和传输开销。我们把一个 167x 的头条数字拆解为一个同样惠及 CPU 的 27x 算法收益,乘以一个 6.2x 的硬件收益,指出 GPU 相对最佳 CPU 的真实领先在单时间框架下只有 3.2x、在多时间框架下只有 6.2x,并给出一份决策指南:一次扫描要宽到什么程度,才值得为 GPU 掏钱。