Cedana

是什么

Cedana 是一个面向 GPU 和 CPU 工作负载的计算编排平台。它专为运行 AI 推理、AI 训练、智能体、游戏基础设施以及 HPC 工作负载的团队设计，帮助其提升吞吐量、降低中断风险，并更灵活地使用本地和多云基础设施。

该产品并不替代 Kubernetes 和 SLURM 等现有编排环境，而是在其基础上进行扩展。根据页面介绍，其核心工作流是依据价格、性能、SLA 和资源可用性，实时对有状态工作负载进行调度、检查点保存、迁移、恢复和故障切换，并高度关注可靠性与资源利用率。

功能

• 实时工作负载调度与迁移：Cedana 根据价格、性能、SLA 和容量将工作负载匹配到可用资源，以提升吞吐量和响应速度。
• 系统级检查点保存与恢复：它会持续保存工作负载状态，使任务在 GPU 或 CPU 故障后无需从头开始即可恢复。
• 支持有状态工作负载故障切换：自动故障切换有助于保留长时间运行和关键任务的进度，例如训练、推理和智能体任务。
• 扩展现有编排器：该平台被描述为可与 Kubernetes、Kueue、KServe、Kubeflow、SLURM 和 Ray 协同工作，帮助团队在当前环境中采用它。
• 弹性扩容与缩容：Cedana 可对工作负载和集群进行扩缩容，包括抢占并保存工作负载，从而在不丢失进度的情况下减少资源使用。
• 实时迁移与动态调整大小：网站强调 GPU 实时迁移，以及在不中断的情况下将工作负载调整到更合适的实例上，这可以提升资源利用率和调度效率。

实用建议

• 按工作负载类型验证适配度：Cedana 似乎最适合有状态、长时间运行或对中断敏感的计算任务，这类任务中检查点和迁移机制能带来明确的运营价值。
• 先评估编排成熟度：已经在使用 Kubernetes、SLURM 或相关 ML/HPC 工具的组织，通常会有更快的评估路径，因为 Cedana 被定位为扩展层。
• 在受控环境中验证其声明：网站展示了性能和利用率提升，但采购方仍应结合自身的工作负载组合、故障模式和基础设施拓扑来确认预期收益。
• 将采用路径映射到运营痛点：最强的应用场景似乎包括竞价实例使用、故障切换、零停机升级和动态调整大小，因此应优先从成本最高或最容易出故障的工作流入手。
• 仔细审查检查点行为：对于分布式训练和推理系统，实施团队应结合自身技术栈，评估检查点频率、恢复行为和运维开销。