Qu'est-ce que l'IA, vraiment ? Comment elle apprend, génère et se trompe

Vous avez peut-être utilisé l'intelligence artificielle plusieurs fois avant de finir votre petit-déjeuner. Un service de messagerie a déplacé un message suspect hors de vue. Une carte a comparé des itinéraires possibles. Un appareil photo de téléphone a trouvé un visage ou une plante. Un service de musique a réorganisé une liste. Aucun de ces moments ne ressemblait à une machine de science-fiction. Ils ressemblaient à des logiciels ordinaires prenant une petite décision pour vous.

C'est une raison pour laquelle l'IA peut sembler plus difficile à comprendre qu'elle ne devrait l'être. L'interface montre la réponse mais cache la mécanique : l'objectif choisi, les exemples utilisés pour construire le modèle, les signaux fournis en entrée et les tests qui ont déterminé si le résultat était assez bon. L'IA générative ajoute une couche de confusion supplémentaire car elle peut s'expliquer dans un langage soigné, même lorsque l'explication est incomplète ou erronée.

Ce guide ouvre cette mécanique sans prétendre que tous les systèmes d'IA fonctionnent de la même manière. Il suit une question pratique du début à la fin : que doit-il se passer avant qu'une machine puisse transformer une entrée en sortie, et que devez-vous vérifier avant de faire confiance au résultat ?

Une définition utile de l'IA

La définition actualisée de l'OCDE décrit un système d'IA comme un système basé sur une machine qui déduit de son entrée comment générer des sorties, telles que des prédictions, du contenu, des recommandations ou des décisions, pouvant influencer des environnements physiques ou virtuels. Différents systèmes varient en autonomie et dans le fait de continuer à s'adapter après le déploiement.

Le verbe important est déduire. Une calculatrice traditionnelle suit des règles qui spécifient entièrement comment transformer des nombres en une réponse. Un modèle d'IA gère souvent une situation où écrire chaque règle à la main serait peu pratique. Il estime une sortie utile à partir de modèles, de contraintes ou de relations apprises. Cette sortie peut être excellente, médiocre ou dangereusement trompeuse selon la tâche et les conditions.

L'IA n'est donc pas un produit, un algorithme ou un esprit numérique. C'est un parapluie couvrant de nombreux systèmes. Un classificateur de spam, un reconnaisseur de parole, un prédicteur de structure de protéines et un modèle de langage peuvent tous correspondre à la définition tout en partageant peu de choses au-delà du schéma général entrée-modèle-sortie.

Chaque système d'IA est plus qu'un modèle

La discussion publique traite souvent le modèle comme la machine entière. En pratique, le modèle est un composant dans un système. Cinq parties méritent d'être séparées :

• Objectif : ce que le système est optimisé pour prédire, classer, générer ou décider.
• Entrée : les informations disponibles au moment de l'utilisation, telles que les pixels, les mots, les lectures de capteurs, l'emplacement ou le comportement passé.
• Modèle : le mécanisme appris ou conçu qui mappe l'entrée à un résultat.
• Sortie et interface : l'étiquette, le score, l'itinéraire, l'image, la phrase ou l'action montrée à une personne ou transmise à un autre système.
• Évaluation et retour : les tests, la surveillance, les corrections et les décisions humaines utilisés pour juger si le système fonctionne dans des conditions réelles.

Considérez la planification d'itinéraire. L'objectif peut être de minimiser le temps de trajet estimé. Les entrées incluent le réseau routier, l'emplacement actuel, les fermetures et les signaux de circulation. Un modèle estime le coût des itinéraires possibles. L'interface présente un ou plusieurs choix. Le retour arrive lorsque le trafic change et que les trajets sont terminés. Le résultat utile provient de toute la chaîne, pas d'un algorithme isolé.

L'objectif mérite également un examen. Un système peut optimiser sa cible assignée et produire un résultat que les gens n'aiment pas. Un itinéraire le plus rapide en moyenne peut inclure un virage stressant. Une recommandation optimisée pour les clics peut ne pas être celle qui laisse quelqu'un le mieux informé. Les ordinateurs ne découvrent pas automatiquement le bon objectif humain. Les gens définissent la cible, choisissent ce qui peut être mesuré et acceptent les compromis.

Comment une machine apprend à partir d'exemples

Supposons qu'un distributeur de pommes veuille identifier les fruits meurtris à partir d'images de caméra. Un programme basé sur des règles pourrait vérifier la couleur et la forme en utilisant des seuils écrits par un ingénieur. Cela peut fonctionner dans un cadre contrôlé, mais les vraies pommes varient en variété, maturité, éclairage, angle et texture de surface. Une approche d'apprentissage automatique utilise de nombreux exemples et ajuste un modèle pour que ses prédictions correspondent de plus en plus aux résultats connus.

Pendant l'entraînement, le modèle fait des prédictions sur des exemples, mesure à quel point ces prédictions sont éloignées du résultat souhaité et met à jour les paramètres numériques pour réduire cette erreur. Les détails diffèrent selon les algorithmes, mais la boucle est reconnaissable : prédire, mesurer, ajuster, répéter. Le modèle ne stocke pas une règle verbale telle que chaque tache sombre est une ecchymose. Il ajuste une relation mathématique qui peut combiner de nombreux signaux visuels.

Entraînement, validation, test et inférence

Ces termes décrivent différents moments et ne doivent pas être confondus en un seul :

• Les données d'entraînement sont utilisées pour ajuster les paramètres du modèle.
• Les données de validation aident à choisir les réglages et à comparer les versions pendant que le développement est encore en cours.
• Les données de test sont mises de côté pour estimer comment le modèle choisi gère des exemples qu'il n'a pas appris directement.
• L'inférence est le moment où un modèle entraîné reçoit une nouvelle entrée et produit une sortie.

Un modèle qui fonctionne brillamment sur des exemples familiers mais mal sur de nouveaux n'a pas appris le modèle prévu assez bien. Il peut avoir surajusté des détails accessoires dans son ensemble d'entraînement. Le Machine Learning Crash Course de Google traite les ensembles de données, la généralisation, le surajustement, l'évaluation, les systèmes de production et l'équité comme des parties distinctes de l'apprentissage automatique pratique pour exactement cette raison. Un score d'entraînement seul n'est pas une description fiable du comportement réel.

Même un bon test peut être trop étroit. Un classificateur de pommes testé sous une caméra et une lumière d'entrepôt peut échouer après le déploiement sous une autre. C'est un changement de distribution : les conditions entourant les nouvelles entrées ne ressemblent plus aux conditions représentées pendant le développement. Les systèmes réels ont besoin d'une surveillance car le monde ne promet pas de rester comme l'ensemble de test.

Réseaux de neurones et apprentissage profond, sans la mythologie

Un réseau de neurones est un modèle construit à partir de couches connectées d'opérations numériques. Chaque couche transforme une représentation en une autre. Les premières couches d'un modèle d'image peuvent répondre à une structure visuelle simple ; les couches ultérieures peuvent combiner ces signaux en modèles plus spécifiques à la tâche. L'apprentissage profond fait référence à des réseaux de neurones avec de nombreuses couches de ce type, entraînés à apprendre des représentations utiles à partir de données.

Le vocabulaire biologique est une inspiration historique, pas une preuve que le modèle pense comme un cerveau humain. Un réseau peut contenir des millions ou des milliards de paramètres ajustables et n'avoir toujours aucune expérience personnelle, intention ou compréhension au sens humain ordinaire. Il effectue des calculs façonnés par son architecture, son objectif d'entraînement, ses données et son entrée actuelle.

L'apprentissage profond a été particulièrement efficace là où l'entrée brute est complexe, y compris les images, l'audio, le langage et les structures scientifiques. Sa force a un coût : il peut être difficile d'expliquer quelle combinaison de signaux appris a produit une sortie particulière, et les performances peuvent dépendre de grands ensembles de données, de calculs étendus et d'une évaluation minutieuse.

Ce que l'IA générative change

Un classificateur choisit parmi des catégories définies. Un modèle génératif produit de nouveaux éléments qui ressemblent à des modèles dans sa distribution d'entraînement. Selon le modèle, ces éléments peuvent être du texte, une image, de l'audio, une vidéo, du code ou une structure scientifique. La génération rend l'IA plus créative et conversationnelle, mais elle ne supprime pas la mécanique statistique sous-jacente.

Un grand modèle de langage, ou LLM, traite le texte comme des jetons. Un jeton peut être un mot, une partie de mot, une ponctuation ou une autre petite unité. Étant donné les jetons déjà dans le contexte, le modèle estime une distribution sur les prochains jetons possibles, en sélectionne un selon les paramètres de décodage du système, l'ajoute et répète. L' introduction aux grands modèles de langage de Google décrit directement cette prédiction de séquence.

Les LLM modernes utilisent couramment l'architecture Transformer introduite dans l'article de 2017 Attention Is All You Need. Son mécanisme d'attention permet au modèle de peser les relations entre les jetons dans le contexte plutôt que de traiter chaque mot comme un élément isolé. L'entraînement sur de grandes collections de textes permet au modèle de capturer la grammaire, le style, des faits récurrents, des modèles de raisonnement et des relations entre concepts dans ses paramètres.

Cela ne transforme pas le modèle en base de données conventionnelle. Ses paramètres encodent des relations statistiques distribuées, pas une bibliothèque soignée de documents sources qu'il peut toujours citer avec précision. Le texte dans l'invite et tous les documents fournis au moment de l'exécution deviennent un contexte, mais le contexte a des limites. Certaines applications ajoutent la recherche, des outils, des calculatrices ou la récupération de documents autour du modèle. Ces ajouts peuvent améliorer l'ancrage, mais la réponse finale peut toujours combiner des preuves récupérées avec un texte généré et une inférence non étayée.

L'IA la plus impressionnante est souvent hautement spécialisée

Les modèles conversationnels reçoivent de l'attention car n'importe qui peut les tester en quelques secondes. Mais la valeur de l'IA ne se limite pas à la conversation. Des systèmes étroitement cadrés peuvent résoudre des problèmes avec des entrées, des sorties et des critères d'évaluation plus clairs :

• Un reconnaisseur optique de caractères mappe les pixels d'une image de document en caractères modifiables.
• Un modèle de fraude classe les transactions pour un examen plus approfondi plutôt que de déclarer chaque cas signalé criminel.
• Un modèle météorologique estime les futurs états atmosphériques à partir d'observations et de la structure physique.
• Un modèle scientifique prédit une propriété ou une structure moléculaire que les chercheurs peuvent comparer avec des expériences.

L'outil de conversion d'image en texte de PetexSpace outil image-texte de PetexSpace illustre le premier type de tâche ciblée. L'entrée est une image, la sortie souhaitée est un texte modifiable et le résultat peut être vérifié directement par rapport à la source. Les photographies floues, les mises en page inhabituelles, l'écriture manuscrite et les paramètres de langue incorrects peuvent encore réduire la précision. La tâche est utile en partie parce que le succès et l'échec sont visibles.

Un exemple scientifique concret : AlphaFold

Les protéines se replient en structures tridimensionnelles qui aident à déterminer leur fonctionnement. La détermination expérimentale de la structure est essentielle mais peut être lente et difficile. Dans une évaluation en aveugle connue sous le nom de CASP14, le système AlphaFold a prédit de nombreuses structures de protéines avec une précision compétitive par rapport aux structures expérimentales et a considérablement surpassé les autres méthodes computationnelles. L' article AlphaFold évalué par les pairs dans Nature explique le modèle, l'évaluation et ses estimations de confiance.

L'exemple compte pour deux raisons. Premièrement, il montre que l'IA peut contribuer à un problème scientifique difficile sans imiter un chatbot. Deuxièmement, le système indique où sa prédiction est plus ou moins fiable. Un modèle scientifique utile ne produit pas seulement une belle structure. Il donne aux chercheurs des preuves sur l'incertitude et un résultat qui peut être testé dans un processus expérimental plus large.

Pourquoi les systèmes d'IA capables échouent encore

L'échec n'est pas un défaut mystérieux ajouté après la vraie intelligence. Il découle de la façon dont le système est construit et utilisé. Plusieurs modes de défaillance peuvent exister en même temps.

1. L'objectif est incomplet

Une cible mesurable est généralement un proxy pour le résultat que les gens veulent réellement. Optimiser un proxy peut créer un comportement étrange aux limites. Le modèle peut améliorer correctement son score tout en manquant des qualités qui n'ont jamais été représentées dans ce score. Le jugement humain entre avant l'entraînement par le choix de l'objectif, pas seulement après qu'une erreur se produit.

2. Les données omettent quelque chose

Les exemples d'entraînement reflètent les décisions de collecte et les conditions historiques. Certains groupes, environnements, langues, appareils ou cas rares peuvent être mal représentés. Le NIST note que les biais nocifs peuvent être intégrés dans les systèmes automatisés et peuvent être accélérés ou amplifiés. Son travail sur l'identification et la gestion des biais dans l'IA souligne que le biais est plus large qu'un problème de données purement technique et doit être considéré à travers le système.

3. Un modèle génératif peut produire des faussetés convaincantes

Le NIST utilise le terme confabulation pour un contenu génératif faux ou erroné présenté avec assurance. Son profil d'IA générative explique que ce comportement découle naturellement de modèles générant des sorties qui se rapprochent des modèles de leurs données d'entraînement. Une phrase peut être statistiquement plausible sans être factuellement étayée. Les citations fabriquées sont particulièrement dangereuses car elles donnent à une réponse non étayée l'apparence d'une recherche.

4. Le monde change

Un modèle évalué hier peut rencontrer de nouveaux produits, un nouveau langage, un nouveau comportement ou de nouvelles tactiques adverses demain. La précision n'est pas une propriété permanente imprimée sur le modèle. C'est une mesure effectuée sur des données particulières, à un moment particulier, dans des conditions particulières.

5. Les gens peuvent faire plus confiance à l'interface qu'aux preuves

Une réponse fluide, un ton confiant ou un pourcentage précis peuvent créer une autorité que les preuves sous-jacentes ne méritent pas. La conception de l'interface peut cacher l'incertitude ou rendre une recommandation impérative. Le risque final dépend donc à la fois du comportement du modèle et de la manière dont les gens sont invités à utiliser la sortie.

Quel niveau de vérification une sortie d'IA nécessite-t-elle ?

La réponse devrait dépendre du coût d'une erreur. Traiter chaque utilisation comme également dangereuse est peu pratique. Traiter chaque sortie comme également digne de confiance est pire. Un modèle simple à trois zones aide.

Exploration à faible enjeu

Le brainstorming de noms, le changement de ton d'un brouillon, la génération de questions pratiques ou l'exploration de plusieurs façons d'organiser des notes ont généralement un faible coût d'erreur. Vous pouvez inspecter le résultat directement et rejeter les suggestions faibles. Le modèle est utile comme source d'options, pas comme autorité.

Travail nécessitant une vérification

Les résumés de recherche, les traductions, le code, les calculs, les comparaisons de produits et les explications factuelles peuvent faire gagner du temps, mais des erreurs peuvent survivre à une lecture rapide. Vérifiez les affirmations par rapport aux sources primaires, exécutez le code, reproduisez le calcul, comparez la traduction avec le contexte et confirmez que le matériel cité dit ce que la réponse prétend.

Décisions importantes

Les décisions médicales, juridiques, financières, d'emploi, de sécurité, d'identité et d'accès exigent un examen qualifié et un processus responsable. Une réponse d'IA à usage général ne devrait pas devenir la seule base d'action simplement parce qu'elle est rapide ou articulée. Dans ces contextes, l'incertitude, l'appel, la documentation, la confidentialité et les conséquences pour la personne concernée comptent autant que la performance prédictive brute.

Un processus de vérification qui prend quelques minutes

1. Séparez les faits des suggestions. Un plan proposé nécessite du jugement ; une affirmation sur une loi, une étude, un prix ou un événement nécessite des preuves.
2. Demandez d'où vient chaque affirmation importante. Ensuite, ouvrez la source plutôt que de vous fier au texte de la citation.
3. Privilégiez le matériel primaire lorsque c'est possible : l'article de recherche, la documentation officielle, l'ensemble de données original, le régulateur, la norme ou le dossier direct.
4. Vérifiez si la source est à jour et si elle soutient l'affirmation exacte, pas seulement le même sujet général.
5. Reproduisez les calculs et exécutez le code généré dans un environnement sûr avec des tests représentatifs.
6. Comparez une conclusion importante avec une source indépendante ou une personne qualifiée responsable de ce domaine.
7. Si les preuves ne peuvent pas être vérifiées, réduisez votre confiance ou n'utilisez pas le résultat pour cette décision.

La documentation peut aider avant même de commencer. L'article de recherche sur Model Cards for Model Reporting propose d'enregistrer les utilisations prévues, les procédures d'évaluation, les limites et les performances dans des conditions pertinentes. Une démo soignée vous dit ce que le modèle peut faire une fois. Une bonne documentation aide à révéler où il a été testé et où il ne devrait pas être utilisé.

Sept questions à poser sur tout système d'IA

1. Quel résultat spécifique ce système produit-il ?
2. Quel objectif a-t-il été construit ou réglé pour optimiser ?
3. Quelles informations reçoit-il maintenant, et quelles informations manquent ?
4. Comment a-t-il été testé sur des cas différents de ses exemples d'entraînement ?
5. Expose-t-il l'incertitude, les sources, les limites ou un moyen de contester le résultat ?
6. Puis-je vérifier indépendamment le résultat avant d'agir ?
7. Qui supporte le coût si le système se trompe ?

Ces questions sont plus révélatrices que de demander si un outil est intelligent. Elles déplacent l'attention d'une étiquette marketing vers le système réel : sa tâche, ses preuves, ses limites et ses conséquences.

Le modèle mental à retenir

L'IA est une méthode pour transformer des entrées en sorties inférées sous un objectif. L'apprentissage automatique construit cette cartographie à partir d'exemples. L'apprentissage profond utilise des réseaux de neurones en couches pour apprendre des représentations complexes. L'IA générative crée de nouveaux contenus, et les modèles de langage le font en prédisant à plusieurs reprises des jetons à partir du contexte. Aucun de ces mécanismes ne garantit la vérité, l'équité, la pertinence ou le bon jugement.

La partie remarquable n'est pas qu'une machine soit devenue une personne. C'est que des systèmes mathématiques soigneusement conçus peuvent découvrir des modèles utiles à une échelle qu'aucune personne ne pourrait inspecter manuellement. La réponse responsable n'est ni l'adoration ni le rejet. C'est la curiosité avec des normes : comprendre la tâche, chercher des preuves, respecter l'incertitude et garder la responsabilité humaine là où les conséquences sont réelles.

Références primaires et techniques

• OCDE, Mémorandum explicatif sur la définition actualisée d'un système d'IA, 2024.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
• Vaswani et al., Attention Is All You Need, 2017.
• Jumper et al., Highly accurate protein structure prediction with AlphaFold, Nature, 2021.
• Mitchell et al., Model Cards for Model Reporting, 2019.
• Google for Developers, Machine Learning Crash Course and Introduction to Large Language Models.