Qu'est-ce que l'inférence IA ?

L'inférence IA est un élément clé du développement des technologies d'intelligence artificielle et soutient ses applications les plus innovantes, notamment l'IA générative, qui est le moteur de l'application à succès ChatGPT. Ces mêmes modèles IA s'appuient sur l'inférence pour imiter la façon dont les gens pensent, raisonnent et répondent aux requêtes.

L’inférence IA repose sur l’entraînement d’un modèle IA avec des algorithmes de prise de décision à partir d’un large jeu de données. Les modèles IA reposent sur des algorithmes de prise de décision, entraînés grâce à des réseaux neuronaux, c’est-à-dire de grands modèles de langage (LLM ) dont la structure s’apparente à celle du cerveau humain. Prenons l’exemple d’un modèle IA conçu pour la reconnaissance faciale : il peut être entraîné sur des millions d’images de visages. Au fur et à mesure, il apprend à identifier précisément des caractéristiques comme la couleur des yeux, la forme du nez et la couleur des cheveux, ce qui lui permet ensuite de reconnaître un individu sur une image.

L’inférence IA et le machine learning (ML), bien que proches, constituent deux étapes différentes du cycle de vie d’un modèle IA.

• Le machine learning est un processus utilisant des données d’apprentissage et des algorithmes, grâce à l’ apprentissage supervisé, pour permettre à l’IA d’imiter l’apprentissage humain et d’améliorer graduellement sa précision.
  
  
• L'inférence IA est le processus d'application de ce que le modèle IA a appris grâce au ML pour décider, prédire ou conclure à partir des données.

Sans un entraînement sur un jeu de données robuste et approprié à leur application, les modèles IA sont tout simplement inefficaces. Compte tenu de la nature sensible de la technologie et de l'attention médiatique dont elle fait l'objet¹, les entreprises doivent faire preuve de prudence. Mais avec des applications qui couvrent de nombreux secteurs et offrent le potentiel de transformation numérique et d'innovation évolutive, ses avantages sont nombreux :

• Des résultats précis et exacts : les modèles IA gagnent en précision et en exactitude à mesure que la technologie progresse. Ainsi, les nouveaux LLM sont capables de choisir des mots, des tournures de phrases et des structures grammaticales afin d'imiter le style d'un auteur donné. Dans les domaines artistique et vidéo, ils sont capables de sélectionner couleurs et styles pour retranscrire une ambiance, un ton ou un style artistique spécifique.

• Amélioration du contrôle qualité : L'une des extensions les plus récentes et potentiellement les plus intéressantes de l'IA se situe dans le domaine de la surveillance et des inspections des systèmes. Des modèles IA, entraînés sur des jeux de données allant de la qualité de l'eau aux conditions météorologiques, sont utilisés pour surveiller l'état des équipements industriels sur le terrain.

• Robotique et apprentissage : Des robots et systèmes robotiques avec des capacités d'inférence IA sont mis en œuvre pour réaliser diverses tâches et créer de la valeur ajoutée pour l'entreprise. Les voitures sans conducteur sont probablement l'application la plus connue de l'apprentissage robotique. Les entreprises de voitures autonomes comme Tesla, Waymo et Cruz utilisent beaucoup l'inférence IA pour apprendre aux réseaux neuronaux à comprendre et à suivre les règles de la circulation.

• Apprentissage sans supervision : L'inférence IA s'entraîne sur des données sans programmation préalable, réduisant ainsi l'intervention humaine et les ressources nécessaires à son fonctionnement efficace. Par exemple, un modèle IA peut apprendre à reconnaître les mauvaises herbes et les cultures malades à partir d'images, ce qui peut aider les agriculteurs.

• Orientation et prise de décision éclairées :  L'une des applications les plus passionnantes de l'inférence IA est sa capacité à comprendre les nuances et la complexité, et à offrir des conseils basés sur les jeux de données sur lesquels elle a été formée. Par exemple, des modèles IA formés sur des principes financiers peuvent offrir des conseils d'investissement judicieux et identifier des activités potentiellement frauduleuses. De même, l'IA peut éliminer le potentiel d'erreur humaine dans des procédures risquées comme le diagnostic d'une maladie ou le pilotage d'un aéronef.

• Capacités de edge computing : L'inférence IA et l'edge computing offrent tous les avantages de l'IA en temps réel, sans nécessiter de déplacer les données vers un centre de données pour les traiter. Le potentiel de l'inférence IA en périphérie a des répercussions de grande portée, allant de la gestion et de la surveillance des niveaux de stock dans un entrepôt aux réactions à la vitesse de la milliseconde requises pour le fonctionnement sûr d'un véhicule autonome.

Si les avantages de l'inférence par l'IA sont nombreux, cette technologie jeune et en plein essor n'est pas sans poser de problèmes. Voici quelques-uns des défis que les entreprises doivent relever avant d'investir dans l'IA :

• Conformité : la tâche de réglementer les applications d’IA et l’inférence de l'IA est ardue et en constante évolution. Un exemple est la notion de souveraineté des données, qui stipule que les données sont régies par les lois du pays ou de la région où elles ont été créées. Les multinationales qui collectent, stockent et traitent des données pour l'IA dans plusieurs pays ont du mal à jongler avec les différentes lois et à rester compétitives tout en innovant.

• Qualité : Pour que les modèles IA soient performants, la qualité des données qu'on leur donne à apprendre est essentielle. De même que l'apprentissage humain dépend de la qualité de l'enseignement, la performance d'un modèle IA est étroitement liée à la qualité des données sur lesquelles il est formé. La qualité de l'apprentissage d'un modèle IA dépend de la clarté et de la pertinence des données sur lesquelles il est formé. Un défi majeur de l'IA, en particulier pour la précision de l'inférence de l'IA, est le choix du modèle approprié à entraîner.

• Complexité : La complexité des données, au même titre que leur qualité, peut constituer un obstacle pour les modèles IA. Comme pour un étudiant humain, encore une fois, la complexité de la tâche à apprendre influe sur la facilité d'apprentissage d'un modèle d'IA. Les modèles IA destinés à des tâches simples, comme le chatbot de service client ou les voyages virtuels, sont généralement plus faciles à former que ceux conçus pour des problèmes complexes, comme l'imagerie médicale ou la finance.

• Formation continue : Si l'IA offre des perspectives passionnantes, la création d'applications d'IA efficaces et d'inférences précises exige un niveau d'expertise qui demande du temps et des ressources. Tant que l'offre de talents ne rattrapera pas le rythme de l'innovation, les experts dans ce domaine resteront en forte demande et coûteux à embaucher.

• Concentration à Taïwan :  La production de 60 % des semi-conducteurs mondiaux et de 90 % des puces avancées (dont les accélérateurs IA nécessaires à l'inférence IA) est concentrée à Taïwan.² Par ailleurs, Nvidia, la plus grande entreprise mondiale de matériel et de logiciels d'IA, est fortement dépendante de Taiwan Semiconductor Manufacturing Corporation (TSMC) pour la production de ses accélérateurs d'IA. Des catastrophes naturelles ou d'autres événements inattendus pourraient compromettre la production et la distribution des puces essentielles au fonctionnement de l'inférence de l'IA et de ses applications.

L'inférence de l'IA est un processus complexe qui implique d'entraîner un modèle IA sur des jeux de données appropriés jusqu'à ce qu'il puisse inférer des réponses exactes. Ce processus, très gourmand en ressources de calcul, requiert du matériel et des logiciels spécifiques. Avant d'examiner le processus d'entraînement des modèles IA pour l'inférence, explorons quelques-uns des matériels spécialisés qui le permettent :

L' unité centrale de traitement (CPU) est le principal composant fonctionnel d'un ordinateur. Dans l'entraînement et l'inférence de l'IA, le CPU exécute le système d'exploitation et aide à gérer les ressources de calcul nécessaires aux fins d'entraînement.

Les processeurs graphiques (GPU), ou circuits électroniques conçus pour les graphiques informatiques et le traitement d'images haute performance, sont utilisés dans divers appareils, notamment les cartes vidéo, les cartes mères et les téléphones portables. Cependant, en raison de leurs capacités de traitement parallèle, ils sont également de plus en plus utilisés dans l'entraînement des modèles IA. Une méthode consiste à connecter plusieurs GPU  à un seul système d'IA pour augmenter la puissance de traitement de ce système.

Les réseaux de portes programmables in situ (FPGA) sont des accélérateurs d'IA hautement personnalisables qui nécessitent des connaissances spécialisées pour être reprogrammés à des fins spécifiques. Contrairement aux autres accélérateurs d'IA, les FPGA ont une conception unique qui convient à une fonction spécifique, souvent liée au traitement des données en temps réel, ce qui est essentiel pour l'inférence de l'IA. Les FPGA sont reprogrammables au niveau matériel, ce qui permet un niveau de personnalisation plus élevé.

Les ASIC sont des accélérateurs d'IA conçus pour un objectif ou une charge de travail spécifique, comme l'apprentissage profond dans le cas de l'accélérateur ASIC WSE-3 produit par Cerebras. Les ASIC aident les data scientists à accélérer les capacités d'inférence de l'IA et à réduire les coûts. Contrairement aux FPGA, les ASIC ne peuvent pas être reprogrammés, mais comme ils sont construits dans un but unique, ils surpassent généralement les autres accélérateurs à usage plus général. À titre d'exemple, citons le Tensor Processing Unit (TPU) de Google, développé pour le machine learning  sur réseaux neuronaux à l'aide du logiciel TensorFlow de Google.

Les entreprises qui envisagent d'investir dans des applications d'intelligence artificielle dans le cadre de leur transition numérique ont intérêt à bien comprendre les bénéfices et les enjeux de l'inférence IA. Pour ceux qui ont étudié en profondeur ses différentes applications et qui sont prêts à les mettre en pratique, voici cinq étapes pour mettre en place une inférence IA efficace :

Selon le type d’application d’IA dont les entreprises ont besoin, il existe différents types d’inférence d’IA parmi lesquels elles peuvent choisir. Si une entreprise souhaite créer un modèle IA à utiliser avec une application Internet des objets (IdO), l’inférence en streaming (avec ses capacités de mesure) est probablement le choix le plus approprié. Toutefois, si un modèle IA doit interagir avec des humains, l’inférence en ligne (avec ses capacités LLM) sera plus adaptée. Voici les trois catégories d’inférence en IA ainsi que les traits qui les distinguent.

L'inférence dynamique, ou inférence en ligne, représente le type d'inférence IA le plus rapide et est employée dans les applications LLM d'IA les plus populaires, comme ChatGPT d'OpenAI. L'inférence dynamique fournit des résultats et des prédictions immédiatement après qu'on les lui demande et nécessite ensuite une latence minimale et un accès rapide aux données pour fonctionner. Une autre spécificité de l'inférence dynamique se traduit par le fait que les résultats peuvent être fournis si rapidement qu'il n'y a pas le temps de les vérifier avant qu'ils n'arrivent à l'utilisateur final. Cela incite certaines entreprises à instaurer une couche de contrôle entre les résultats et l'utilisateur final pour veiller à la qualité.

L'inférence par lots génère des prédictions d'IA hors ligne en utilisant de grands ensembles de données. Avec une approche d'inférence par lots, les données préalablement collectées sont ensuite appliquées aux algorithmes ML. Même si l'inférence par lots n'est pas adaptée aux situations nécessitant des résultats en quelques secondes ou moins, elle est bien adaptée aux prédictions d'IA qui sont actualisées régulièrement durant la journée ou sur une semaine, comme les tableaux de bord de ventes ou de marketing, ou les évaluations de risques.

L'inférence par flux de données s'appuie sur un pipeline de données, généralement fourni par des mesures régulières de capteurs, et les alimente dans un algorithme qui utilise ces données pour effectuer des calculs et des prédictions en continu. Les applications IdO, comme l'IA utilisée pour surveiller une centrale électrique ou le trafic urbain à l'aide de capteurs connectés à Internet, reposent sur l'inférence par flux de données pour prendre leurs décisions.