Qué

Cedana es una plataforma de orquestación de cómputo para cargas de trabajo de GPU y CPU. Está diseñada para equipos que ejecutan inferencia de IA, entrenamiento de IA, agentes, infraestructura de gaming y cargas de trabajo de HPC que necesitan mayor rendimiento, menor riesgo de interrupciones y un uso más flexible de infraestructura local y multicloud.

El producto amplía entornos de orquestación existentes como Kubernetes y SLURM en lugar de reemplazarlos. Según la página, su flujo de trabajo principal consiste en programar, crear checkpoints, migrar, reanudar y realizar failover de cargas de trabajo con estado en tiempo real según el precio, el rendimiento, los SLA y la disponibilidad de recursos, con un fuerte enfoque en la confiabilidad y la utilización.

Funcionalidades

Programación y migración de cargas de trabajo en tiempo real: Cedana asigna las cargas de trabajo a los recursos disponibles según el precio, el rendimiento, los SLA y la capacidad para mejorar el rendimiento y la capacidad de respuesta.
Checkpointing y restauración a nivel de sistema: Guarda continuamente el estado de las cargas de trabajo para que los trabajos puedan reanudarse después de fallos de GPU o CPU sin tener que empezar de nuevo.
Compatibilidad con failover de cargas de trabajo con estado: El failover automático ayuda a preservar el progreso de trabajos de larga duración y de misión crítica, como entrenamiento, inferencia y agentes.
Extensión de orquestadores existentes: La plataforma se describe como compatible con Kubernetes, Kueue, KServe, Kubeflow, SLURM y Ray, lo que ayuda a los equipos a adoptarla dentro de sus entornos actuales.
Escalado y reducción elásticos: Cedana puede escalar cargas de trabajo y clústeres hacia arriba o hacia abajo, incluida la interrupción preventiva y el guardado de cargas de trabajo para reducir recursos sin perder el progreso.
Migración en vivo y redimensionamiento dinámico: El sitio destaca las migraciones en vivo de GPU y el redimensionamiento de cargas de trabajo hacia instancias más adecuadas sin interrupción, lo que puede mejorar la utilización y la eficiencia de asignación.

Consejos útiles

Verificar la adecuación según el tipo de carga de trabajo: Cedana parece especialmente relevante para trabajos de cómputo con estado, de larga duración o sensibles a interrupciones, donde el checkpointing y la migración aportan un valor operativo claro.
Evaluar primero la madurez de la orquestación: Las organizaciones que ya usan Kubernetes, SLURM o herramientas adyacentes de ML/HPC probablemente tendrán una vía más rápida de evaluación, ya que Cedana se posiciona como una capa de extensión.
Validar las afirmaciones en un entorno controlado: El sitio presenta mejoras de rendimiento y utilización, pero los compradores deben confirmar las ganancias esperadas frente a su propia combinación de cargas de trabajo, patrones de fallo y topología de infraestructura.
Vincular la adopción a los puntos de dolor operativos: Los casos de uso más sólidos parecen ser el uso de capacidad spot, failover, actualizaciones sin tiempo de inactividad y redimensionamiento dinámico, por lo que la priorización debe comenzar con los flujos de trabajo más costosos o propensos a fallos.
Revisar cuidadosamente el comportamiento del checkpointing: Para sistemas de entrenamiento distribuido e inferencia, los equipos de implementación deben examinar la frecuencia de checkpoints, el comportamiento de reanudación y la sobrecarga operativa en su stack específico.