MGL7320

MGL7320 - Ingénierie logicielle des systèmes d’IA

07 - Infrastructure(s), Outils et Plateformes

Prelude

• Quizz - https://ahaslides.com/ https://kahoot.it

Présentations du jour

ML & GenAI : Quel(s) environnement(s), plateforme(s) et outil(s) utiliser ?

=> The Fundamentals Of MLOps

=> How do you evaluate MLOps platforms?

=> MLOps Infrastructure & Tooling

=> MLOps Landscape in 2024: Top Tools and Platforms

Quelle(s) infrastructure(s) ?

• Ordinateur individuel
• Infonuagique
  • Serverless ?
• On-premise (serveurs sur site)
  • Architecture hybride ?

Avantages et inconvénients de ces environnements ?

Quels processeur ?

• GPU vs CPU vs TPU vs NPU vs QPU…
• Do we really need NPUs now?
• Pour aller plus loin… CPU vs GPU vs TPU vs DPU vs QPU

Préparation des données

• Snorkel
  • Revolutionizing Machine Learning with Weak Supervision & Snorkel
  • Introduction to Snorkel Flow
• What Is a Feature Store?
  • What is a Feature Store for Machine Learning?

Entraînement des modèles

• Jupyter Notebook
• H2O Stacked Ensembles
  • How the H2O AutoML platform works

Déploiement des modèles

• What is MLflow?
  • What is MLflow?
• NVIDIA NIM for Developers
  • How to self-host and hyperscale AI with Nvidia NIM

Sauvegarde et manipulation des données

• Database vs Data Warehouse vs Data Lake - What is the Difference?
• Intro to Data Lakehouse

Environnements intégrés

• Dataiku
  • Dataiku - End to End Demo 2024
• Databricks
  • Lakehouse ML on Databricks Demo

Travail personnel pour la semaine prochaine

• Compléter la constitution des équipes !
• Préparer la présentation (15 minutes + questions) du plan du projet en équipe

Prochaine séance

• Présentations par équipes
• Travaux en équipe pour raffiner les plans de développement

Copyright (c)Laurent Magnin / UQÀM 2023-2024