ia genérative mic belgique
IA

En quoi l’IA générative est un saut technologique

L’IA générative est un ensemble de modèles qui apprennent à reproduire les régularités de grandes quantités de données (textes, images, sons, code) pour ensuite produire de nouveaux contenus simlaires. Elle produit des contenus nouveaux et complexes : textes, images, code, musique, vidéo. Ce grand saut technologique repose sur la création de contenu, la généralité des capacités et l’accessibilité par le langage courant.

Avant l’irruption dans le grand public, l’IA « classique » (ou prédictive) était conçue pour une tâche précise : classer des images, détecter une fraude, recommander un film, prévoir une demande, prédire une panne d’un équipement. Elle collectait une donnée en entrée et produisait une action mesurable. Ce type d’IA faisait suite à ce qu’on a appellé « l’hiver » de l’IA. Le terme « hiver de l’IA » désigne les périodes, notammment depuis la fin des années 1980 jusqu’au milieu des années 1990 où l’enthousiasme, les financements et les résultats se sont effondrés. Le renouveau de l’IA classique s’explique par plusieurs raisons.

D’abord, un basculement vers l’apprentissage statistique. Plutôt que d’écrire des règles, on a fait apprendre aux machines à partir de données : régression, arbres de décision, machines à vecteurs de support, méthodes probabilistes. Des objectifs plus modestes et mesurables comme le filtrage du spam, la reconnaîssance des caractères, etc. En bref, des applications réellement utiles.

L’abondance des données dues à internet, puis la numérisation massive des activités, a crée de très grandes masses de données que le marketing a designé par les termes Big Data censé être l’or noir des entreprises. Une promesse abusive qui n’a été que partiellement tenue.

La puissance de calcul a rendu les ordinateurs beaucoup plus rapides. Surtout, les cartes graphiques (GPU), conçues pour le jeu vidéo, se sont révélées parfaites pour les calculs matriciels des réseaux de neurones.

Des avancées algorithmiques. La rétropropagation, connue depuis les années 80, corrige automatiquement dans les réseaux neuronaux, les écarts entre la prédiction du modèle et la bonne réponse pour ajuster ses paramètres internes. Le saut technique du Deep Learning date de 2012 avec le réseau AlexNet.

Des débouchés économiques de ces réseaux neuronaux sont devenus possibles pour les grandes entreprises du numérique (moteurs de recherche, réseaux sociaux, commerce en ligne). Elles avaient des données, des besoins et des moyens financiers, ce qui a entretenu un cycle vertueux d’investissement.

L’avènement d’ l’IA générative dans le grand public en novembre 2022

Auparavant réservée aux spécialistes de l’IA qui choisissaient les paramètres et les données qui leur était fournis, l’IA est désormais interrogée en langage naturel. C’est ce qui explique son irruption dans le champ public Vous faites des fautes d’orthographe ou de syntaxe ? Pas de problèmes, l’IA générative se charge de les corriger. Le résultat est classé, structuré et pertinent si vous avez posé la question dans votre domaine d’expertise. Un des intérêts majeurs est de trouver des sources auxquelles vous n’auriez pas pensé et qu’elle découvre en quelques secondes dans l’immensité numérique d’Internet. Si vous êtes spécialiste, vous saurez si elles sont sérieuses et pertinentes.

Comment l’IA générative apprend t-elle ?

Le modèle des IA génératives est un réseau de neurones artificiels, c’est-à-dire une immense suite de calculs mathématiques réglés par des milliards de paramètres (des nombres). Au départ, ces paramètres sont aléatoires. On présente ensuite une quantité énorme de données aux modèle d’IA, et il ajuste progressivement ses paramètres pour mieux prédire ce qui vient. Ce processus s’appelle la rétropropagation du gradient : un nom barbare qui signifie que le modèle fait une prédiction. On mesure son erreur, puis on corrige légèrement les paramètres pour réduire cette erreur. Répété des milliards de fois, cela lui permet de capter la grammaire, les faits, les styles, les raisonnements, etc.

Désormais, on lui parle en langage naturel. Cela a fait passer l’IA des mains des spécialistes à celles du grand public, ce qui explique l’adoption fulgurante depuis 2022.

Le texte est d’abord découpé en « tokens » (des morceaux de mots). Le modèle apprend à prédire le token suivant à partir de tous ceux qui précèdent. Pour cela, il s’appuie sur l’architecture dite « transformer », dont le mécanisme d’attention permet de déterminer quels mots du contexte sont les plus importants pour comprendre ou prédire le suivant. Pour générer une réponse, le modèle choisit un token, l’ajoute au texte, puis recommence, mot après mot.

Avec l’augmentation de la taille des modèles, des données et de la puissance de calcul, des capacités inattendues sont apparues : apprendre à partir de quelques exemples donnés dans la consigne, suivre des instructions complexes, raisonner par étapes. Ces comportements n’étaient pas programmés explicitement. C’est le plus surprenant.

Certains le comparent à l’arrivée du web ou du smartphone, d’autres jugent encore trop tôt pour mesurer son impact réel, notamment sur la productivité et le travail. Ce débat est ouvert.