GPU 何時才划算:參數掃描的屋頂線,一個 167x 頭條其實是 27x 演算法 × 6.2x 硬體
GPU 相對 CPU 的領先幅度隨批次大小增長——在我們的多時間框架指標預計算上,從每次呼叫一個組合時的 54.5x 一路升到 61 個組合時的 359.6x——因為一次小規模掃描無法攤薄核心啟動和傳輸開銷。我們把一個 167x 的頭條數字拆解為一個同樣惠及 CPU 的 27x 演算法收益,乘以一個 6.2x 的硬體收益,指出 GPU 相對最佳 CPU 的真實領先在單時間框架下只有 3.2x、在多時間框架下只有 6.2x,並給出一份決策指南:一次掃描要寬到什麼程度,才值得為 GPU 掏錢。