速度提升 10 倍的 DSP 背后的基础设施优势

在云原生已成为行业标配的今天，Aarki 却特立独行。我们的四个数据中心遍布全球，地理位置优越，毗邻 Google AdX、Unity 和 Fyber 等顶级交易平台。这些数据中心每秒可处理超过 500 万次竞价请求，响应时间最快可达 20 毫秒。如此强大的吞吐量并非徒有其表，而是确保我们的 DSP 在压力下依然能够保持快速、精准和响应迅速的关键所在。. 

过去两年，我们已将其转化为战略优势。从模型训练、推理到广告投放，所有环节都在同一个平台上完成。. 这种基础设施使得 DSP 的竞价速度比基于云的 DSP 快 4 到 10 倍。.

消除实验成本

拥有我们自己的基础设施带来的直接好处之一是：实验的边际成本为零。.

与受每次查询定价和出口费用限制的云托管机器学习和分析团队不同，我们的团队不受成本驱动的摩擦影响：

• 竞标者工作负载：高 QPS 不予处罚；我们的基础设施已针对峰值吞吐量进行了配置。.
• 模型训练/推理：我们利用专用 GPU 进行训练和实时推理。.
• 数据仓库查询：分析师和机器学习工程师可以自由查询，无需担心每扫描 TB 的成本。.

其结果是加速了实验循环，这意味着更多的迭代、更深入的洞察、更快的学习。.

投标响应时间是盈利杠杆

程序化竞价本质上是一场竞赛，而延迟决定胜负。响应竞价请求的速度越快，就能赢得越多的展示机会。我们专门为此构建了基础设施：

• 我们四个数据中心之间采用低延迟骨干网，并在硬件层面进行了优化。.
• 对我们的关键系统（例如 Aerospike、Kafka 和竞价服务）进行位置感知路由。.
• 针对特定情况优化网卡设置，以减少中断开销和网络抖动。.
  

我们的平均竞价响应速度比基于云的DSP快4到10倍。更快的响应速度能为我们的客户带来更高的中标率和更好的投资回报率。.

克服复杂性，掌握基础设施技术

拥有技术栈意味着我们的工程师不会回避复杂性；他们会积极参与其中。.

部署新服务并非“一键启动”。它涉及容量规划、部署位置决策、性能调优，以及对实际 IOPS 或每秒数据包传输量限制的理解。我们相信，这能培养出更优秀的工程师，让他们深入了解性能、成本权衡以及系统故障的原因。.

它伴随着挑战，我们欣然接受。

也有缺点：

• 内存、磁盘或计算能力的交付周期更长；这里没有“向上扩展”按钮。.
• 人才短缺，因为招聘能够胜任裸机级别操作的熟练基础设施和网络工程师并非易事。.

但这些都是我们设计时会考虑的已知限制，而不是阻碍因素。.

云托管 vs 数据中心托管：并非教条之争，而是数据之争

我们每年都会重新评估这项策略。云计算技术正在不断进步，我们的下一个数据中心很可能就是虚拟的。届时，我们会将两种环境并排运行并进行比较：

• 竞价延迟：指我们的系统响应广告交易平台竞价请求的速度。延迟越低，竞价次数越多，中标率越高。.
• 机器学习吞吐量：我们可以同时通过系统进行多少模型训练和推理，而不会减慢交付速度。.
• 查询性能：分析师和机器学习工程师能够多快、多自由地运行数据查询来提取见解，而不会遇到成本或速度瓶颈。.
• 每产生$收入的成本：产生1美元收入所需的全部基础设施成本。每美元成本越低，利润率越高。.

在此之前，我们现有的基础设施将继续保持优异性能。.

金属的受益者是营销人员。

拥有自己的基础设施并不光鲜亮丽，难以扩展，招聘也更加困难。但当效果营销的成败取决于毫秒级的投入和利润率时，我们坚信，掌控那些决定成败的关键因素至关重要。.

我们的基础设施赋予我们三大核心优势：速度、控制和自由。它使我们能够快速行动、快速训练和快速响应，而无需等待其他云资源。这最终体现在您的营销活动中，例如更高的胜率、更低的每次安装成本 (CPI) 和更智能的优化。.

这套基础设施不仅能提高每秒竞标次数，还能让我们每天重新训练模型，使其持续学习、适应并超越昨天的版本。它为我们的深度学习流水线提供动力，其中GPU训练的模型每天都会更新，并直接在我们的技术栈中运行。.

引擎盖下的部件实际上已经彻底重建了—— 更快、更智能的引擎驱动着从培训到竞标的一切。.

我们并非反对云计算。关键在于选择最适合实际应用场景的方案。目前，裸机部署仍然具有优势。在数据表明需要改进之前，我们将继续使用裸机部署。.

对这篇博客有什么想法吗？别让你的好想法埋没。随时可以给图沙尔发邮件： tusharpatel@aarki.com.