DatAcademy

Infraestructura de IA: Serving, Kubernetes y Costos

Opera modelos a escala: clústeres de GPU, autoscaling, edge y FinOps de IA.

24 h
duración
9
lecciones
Avanzado
nivel
En vivo onlineIn-company
Sobre el curso

La plataforma detrás de la IA: Kubernetes con GPUs, Ray para cómputo distribuido, autoscaling por demanda, inferencia en el borde con ONNX y llama.cpp, despliegues on-prem, observabilidad y control de costos de GPU y tokens.

Dirigido a: Ingenieros de plataforma, DevOps y ML Engineers.

Lo que tu equipo podrá hacer

Operar cargas de IA en Kubernetes con GPUs
Escalar inferencia según demanda
Llevar modelos al borde y on-prem
Medir y reducir el costo por predicción

Temario

4 MÓDULOS · 9 LECCIONES

  1. Kubernetes y operadores de GPU
  2. Ray para entrenamiento e inferencia distribuidos

Herramientas

Kubernetes
Ray
Docker
ONNX Runtime
llama.cpp
Prometheus

Próximas cohortes en vivo

  1. Inicio 8 de junio de 2027Mar y jue · 19:00 a 21:30próxima

¿Ninguna fecha le acomoda a tu equipo? En modalidad in-company definimos el calendario contigo.

También en AI Systems e Inferencia