截至目前，我们都知道一件事：AI并没有放缓。 全球AI推理经济正在迅速超过2500亿美元，但支撑推理的基础设施开始出现问题。 始终在线的高容量推理工作负载成本正在激增。 集中式云并不是为这种现实而构建的，推理正成为一种限制。