Infraestructura de IA: Serving, Kubernetes y Costos
Opera modelos a escala: clústeres de GPU, autoscaling, edge y FinOps de IA.
- 24 h
- duración
- 9
- lecciones
- Avanzado
- nivel
En vivo onlineIn-company
Sobre el curso
La plataforma detrás de la IA: Kubernetes con GPUs, Ray para cómputo distribuido, autoscaling por demanda, inferencia en el borde con ONNX y llama.cpp, despliegues on-prem, observabilidad y control de costos de GPU y tokens.
Dirigido a: Ingenieros de plataforma, DevOps y ML Engineers.
Lo que tu equipo podrá hacer
Operar cargas de IA en Kubernetes con GPUs
Escalar inferencia según demanda
Llevar modelos al borde y on-prem
Medir y reducir el costo por predicción
Temario
4 MÓDULOS · 9 LECCIONES
- Kubernetes y operadores de GPU
- Ray para entrenamiento e inferencia distribuidos
Herramientas
Kubernetes
Ray
Docker
ONNX Runtime
llama.cpp
Prometheus
Próximas cohortes en vivo
- Inicio 8 de junio de 2027Mar y jue · 19:00 a 21:30próxima
¿Ninguna fecha le acomoda a tu equipo? En modalidad in-company definimos el calendario contigo.
Este curso es parte de
