powered by

  • Code

MLOps

#Kubernetes #CI/CD #AutomatedAI #CloudAI

Tools:

Azure ML, Vertex AI, GitHub Actions, Kubernetes, Kubeflow

In de module MLOps leren we AI modellen, ontwikkeld in Deep Learning en Advanced AI, in productie te brengen. Getrainde AI modellen moeten namelijk uit de ontwikkelingsfase richting een productie omgeving komen. Ze worden in een applicatie geintegreerd op allerlei manieren. Wij leren de best practices rond deployment. Hiervoor werken we met de laatste nieuwe technologieen op vlak van Web API’s, Docker en Kubernetes, op cloud en lokale servers.

Daarnaast is het ook belangrijk dat een AI-ontwikkelaar hun modellen constant verbeteren en hertrainen. In deze module stellen we een pipeline op die het hele trainingsproces zal automatiseren. Aan de hand van een Continuous Integration pipeline wordt het trainingsproces deel van het deployment proces van je software applicatie. Gebruik makend van Cloud AI oplossingen, en krachtige GPU machines is het trainingsproces nu in handen van geautomatiseerde machines. De automatisatie gebeurt d.m.v. Python en CLI tools binnen Azure Machine Learning Service en Google Cloud Platform (Vertex AI).

Met een diepgaand onderzoek naar Kubeflow en MLflow, twee bekende MLOps tools, wordt deze pipeline in een mum van tijd opgestart. Zo wordt een volledige data pipeline, AI pipeline en deployment pipeline opgezet, beheerd en onderhouden.

Samenwerken in een team met een MLOps-Engineer was nog nooit zo eenvoudig!