Architectures de calcul soutenables et de confiance pour l’IA

Les réseaux neuronaux profonds (DNN) comptent parmi les modèles prédictifs les plus intensément et les plus largement utilisés dans le domaine de l'intelligence artificielle (IA). Néanmoins, une vitesse de calcul et des ressources de mémoire accrues, ainsi qu'une consommation d'énergie importante, sont nécessaires pour atteindre le plein potentiel des réseaux neuronaux profonds. À titre d'exemple, on estime que la consommation d'énergie pendant l'entraînement de ChatGPT équivaut à celle d'un ménage américain pendant plus de 700 ans. Ce cours vise à présenter les principales raisons de cette consommation d'énergie extrêmement élevée et à discuter des dernières architectures matérielles (TPU, GPU, conceptions personnalisées) conçues pour permettre une IA durable. En outre, le cours se concentrera sur la fiabilité de l'IA du point de vue du matériel. En effet, tout comportement inattendu peut avoir des conséquences graves allant jusqu'à l'endommagement de personnes physiques dans le cas des véhicules autonomes.

• Introduction aux algorithmes d’apprentissage profond (CNN, Transformers)
• Architecture de calcul Von Neumann : pourquoi n’est pas adaptée à l’IA
• Architecture de calcul spécialisée : dataflow, systolic array et GPUs
• Sobriété énergétique pour l’IA et architectures de calcul
• IA de confiance : le rôle du matérielle
• TP : Prise en main d’un accélérateur matérielle de calcul
• TP : Adaptation du modèle IA à l’accélérateur et benchmarking des performances
• BE/TP : Travail Bibliographique/Projet