单设备的吞吐量与延迟帕累托曲线
Ho 表示，单个设备可以在高吞吐量与低延迟之间帕累托曲线的任一端运行，也可以在两者之间的任意点运行。他将这一能力与降低基础设施成本联系起来。
支持这项说法
OpenAI 首款芯片内幕
我们在单个设备中所拥有的——我认为这对我们的基础设施以及降低基础设施成本的能力至关重要——是一个可以在这两个端点或该曲线上任意点运行的单一设备。我们称之为高吞吐量与低延迟之间的帕累托曲线。
原始摘录
What we have in a single device—and I think this is really critical for our infrastructure and being able to lower the cost of the infrastructure—is a single device that can operate at both points, or at any point along that curve. We call it the Pareto curve between high throughput and low latency.
分享观点验证此主张