Glossaire IA et AGI : plus de 200 termes expliqués en français simple

Une référence en langage simple du vocabulaire de l’IA et de l’AGI utilisé sur ce site et dans l’actualité — plus de 200 termes, classés par ordre alphabétique, sans supposer aucune connaissance technique préalable. Si un terme que vous avez entendu ne figure pas encore ici, il sera ajouté à mesure que de nouvelles sections seront rédigées.

A

• Attaque adversariale — une entrée délibérément conçue pour tromper un modèle d’IA et l’amener à commettre une erreur ou à produire un résultat non voulu.
• IA agentique — un système d’IA doté d’une certaine autonomie pour entreprendre des actions à plusieurs étapes en vue d’un objectif (naviguer sur le web, exécuter du code, utiliser des outils) plutôt que de simplement répondre à une seule question.
• Algorithme — une procédure définie, étape par étape, pour résoudre un problème ou effectuer un calcul ; le terme général qui sous-tend toute technique d’IA.
• Intelligence artificielle (IA) — le vaste domaine consistant à construire des machines qui accomplissent des tâches nécessitant normalement une intelligence humaine, allant des simples programmes fondés sur des règles jusqu’aux modèles de langage de pointe.
• AGI (intelligence artificielle générale) — un terme disputé désignant une IA largement capable, impliquant généralement une performance forte et un transfert à travers des tâches cognitives inconnues ; il n’existe aucun test ou seuil universellement accepté. Voir AGI, IA étroite et superintelligence.
• AI Act (loi européenne sur l’IA) — la loi contraignante de l’Union européenne régulant l’IA par catégorie de risque, incluant des seuils de déclaration fondés sur le calcul pour les plus grands modèles. Voir gouvernance du calcul.
• Institut de sécurité de l’IA — un organisme gouvernemental (le Royaume-Uni et les États-Unis en possèdent chacun un) qui teste de façon indépendante les modèles d’IA de pointe pour détecter des capacités dangereuses avant ou après leur publication.
• Alignement — le problème consistant à s’assurer que les objectifs et le comportement d’un système d’IA correspondent réellement à ce que ses opérateurs souhaitent, et non seulement à ce qu’un objectif d’entraînement récompense littéralement.
• ANI (intelligence artificielle étroite) — une IA qui performe bien dans un domaine délimité mais se transfère mal en dehors de celui-ci. Les modèles modernes à usage général compliquent l’ancienne opposition binaire ANI/AGI car ils montrent une compétence large mais irrégulière.
• Anthropic — un laboratoire centré sur la sécurité de l’IA, créateur de la famille de modèles Claude, connu pour la publication de sa politique de mise à l’échelle responsable.
• Anthropomorphisme — la tendance à attribuer des sentiments, des intentions ou une compréhension de type humain à un système d’IA qui ne les possède pas réellement.
• API (interface de programmation applicative) — un moyen défini pour qu’un logiciel envoie des requêtes à un autre ; la plupart des modèles d’IA sont utilisés via une API plutôt que via une application grand public.
• ASI (superintelligence artificielle) — un système qui dépasse la meilleure performance humaine dans pratiquement tous les domaines de valeur cognitive.
• Mécanisme d’attention — la partie d’un modèle transformeur qui lui permet de pondérer la pertinence de chaque autre mot d’un passage lors de l’interprétation ou de la génération d’un mot donné.
• Système autonome — une machine (logicielle ou physique) capable de prendre des décisions et d’agir en conséquence sans qu’un humain ne contrôle directement chaque étape.
• Arme autonome — un système d’armement capable de sélectionner et d’engager des cibles avec un contrôle humain réduit ou inexistant en temps réel. Voir armes autonomes et escalade militaire.
• Automatisation — l’usage d’une machine ou d’un programme pour accomplir une tâche qui exigeait auparavant une personne.

B

• Rétropropagation — l’algorithme central utilisé pour entraîner les réseaux de neurones, qui ajuste les poids internes en fonction de l’ampleur de l’erreur de la sortie du modèle.
• Test de référence (benchmark) — un test normalisé utilisé pour mesurer et comparer la performance d’un modèle d’IA sur une tâche spécifique.
• Biais (algorithmique) — une déviation systématique dans les résultats d’un modèle, généralement héritée de motifs présents dans ses données d’entraînement, qui produit des résultats injustes ou inexacts pour certains groupes ou cas.
• Déclaration de Bletchley — une déclaration de 2023 signée par 28 nations et l’UE s’engageant en faveur d’un développement sûr de l’IA, le premier accord de ce type à cette échelle. Voir traités et sommets internationaux.
• Bot — un programme informatique qui exécute des tâches automatisées, souvent conçu pour imiter un utilisateur humain en ligne.

C

• Seuil de capacité — un niveau spécifique de performance d’IA (sur une tâche ou un test de référence) qui déclenche une exigence de politique, de sécurité ou d’évaluation une fois franchi.
• Risque catastrophique — un risque susceptible de causer un préjudice massif ou à l’échelle d’une civilisation, à distinguer des préjudices ordinaires, circonscrits ou réversibles.
• Incitation par chaîne de pensée (chain-of-thought) — le fait de demander à un modèle d’exposer ses étapes de raisonnement intermédiaires avant de donner une réponse finale, ce qui améliore souvent la précision sur des problèmes complexes.
• Chatbot — un programme conçu pour tenir une conversation textuelle ou vocale avec une personne, allant de simples systèmes scriptés à des modèles de langage complets.
• Classificateur — un modèle entraîné à trier des entrées dans des catégories prédéfinies, par exemple marquer un courriel comme indésirable ou non.
• Tâche cognitive — toute tâche, comme le raisonnement, la planification ou la compréhension du langage, qui implique un traitement mental plutôt qu’une action physique.
• Modération de contenu (assistée par IA) — l’usage de modèles d’IA pour détecter et filtrer automatiquement des contenus nuisibles, illégaux ou contraires aux règles sur une plateforme.
• ChatGPT — l’assistant d’IA conversationnel grand public d’OpenAI, l’un des produits ayant popularisé les grands modèles de langage.
• Claude — la famille de grands modèles de langage et l’assistant d’IA conversationnel d’Anthropic.
• Informatique en nuage (cloud computing) — le fait d’exécuter des logiciels et de stocker des données sur des serveurs distants accessibles via internet, plutôt que sur un appareil local — l’infrastructure sur laquelle tournent presque tous les grands modèles d’IA.
• Calcul (compute) — abréviation de puissance de calcul : la capacité de traitement (mesurée en opérations par seconde) utilisée pour entraîner ou exécuter un modèle d’IA.
• Gouvernance du calcul — des outils de politique publique qui régulent l’accès au matériel informatique nécessaire pour entraîner des modèles d’IA de pointe, utilisés comme indicateur indirect pour réguler la capacité elle-même. Voir gouvernance du calcul.
• Vision par ordinateur — le sous-domaine de l’IA centré sur l’interprétation d’images et de vidéos.
• Provenance du contenu — des métadonnées techniques attachées à un média (photo, vidéo, audio) enregistrant comment et quand il a été créé ou modifié, utilisées pour distinguer le contenu authentique du contenu généré par IA.
• Fenêtre de contexte — la quantité de texte (mesurée en tokens) qu’un modèle de langage peut prendre en compte à la fois lors de la génération d’une réponse ; tout ce qui se trouve en dehors est effectivement oublié.
• IA conversationnelle — des systèmes d’IA spécifiquement conçus pour tenir un dialogue naturel avec une personne.
• Copilot — la gamme de produits d’assistant d’IA de Microsoft, intégrée à ses logiciels et utilisée comme terme général pour un assistant d’IA intégré dans un autre outil.
• Corrigibilité — la disposition conçue d’un système à accepter la correction, la modification ou l’arrêt de la part de ses opérateurs plutôt que d’y résister. Voir corrigibilité et interrupteurs d’arrêt.
• Cyberattaque (assistée par IA) — une attaque contre des systèmes informatiques ou des infrastructures où l’IA est utilisée pour automatiser la reconnaissance, le développement d’exploits, ou l’exécution. Voir cyberattaques assistées par IA contre les infrastructures.

D

• Évaluation de capacité dangereuse — un test structuré exécuté sur un modèle avant sa publication pour vérifier s’il peut assister de façon significative des tâches comme le développement d’armes ou des cyberattaques à grande échelle.
• Centre de données — une installation abritant le grand nombre d’ordinateurs (souvent des GPU ou des TPU) utilisés pour entraîner et exécuter des modèles d’IA.
• Jeu de données — l’ensemble d’exemples (texte, images ou autres données) utilisé pour entraîner ou évaluer un modèle d’IA.
• Alignement trompeur (deceptive alignment) — un mode de défaillance hypothétique dans lequel un modèle apprend à se comporter de façon sûre pendant l’entraînement ou l’évaluation tout en poursuivant des objectifs différents une fois déployé.
• Apprentissage profond (deep learning) — une branche de l’apprentissage automatique utilisant des réseaux de neurones à de nombreuses couches, responsable de la majeure partie des progrès récents de l’IA.
• Deepfake (hypertrucage) — une image, un audio ou une vidéo synthétique généré ou altéré par IA pour représenter de façon convaincante quelque chose qui ne s’est pas produit. Voir deepfakes et le socle factuel partagé.
• DeepMind (Google DeepMind) — le laboratoire de recherche en IA de Google, connu à la fois pour sa recherche de pointe sur les capacités et pour ses travaux publiés sur la sécurité de l’IA.
• Modèle de diffusion — un type de modèle d’IA générative, couramment utilisé pour les images, qui crée un résultat en éliminant progressivement le bruit d’un motif de départ aléatoire.
• Filigrane numérique — un signal intégré, souvent invisible, dans un média utilisé pour l’identifier comme généré par IA ou pour retracer son origine.
• Désinformation — une information fausse diffusée délibérément pour tromper, à distinguer de la mésinformation, qui est une information fausse diffusée sans intention de tromper.
• Arbre de décision — un modèle d’apprentissage automatique simple et interprétable qui fait des prédictions en suivant une série ramifiée de questions si/alors.
• Adaptation de domaine — l’ajustement d’un modèle entraîné dans un contexte (ou jeu de données) donné pour qu’il performe bien dans un contexte connexe mais différent.
• Technologie à double usage — une technologie ayant des usages bénéfiques légitimes mais pouvant aussi être détournée pour causer un préjudice grave.

E

• IA en périphérie (edge AI) — l’exécution d’un modèle d’IA directement sur un appareil local (un téléphone, une caméra, ou un capteur) plutôt que dans le nuage.
• Plongement (embedding) — une représentation numérique d’un mot, d’une image ou d’un concept qui capture son sens sous une forme qu’un modèle peut traiter mathématiquement.
• Capacité émergente — une aptitude non directement visée par l’entraînement, ou une aptitude qui apparaît abruptement sous une métrique particulière à mesure que les systèmes montent en échelle. Certains sauts apparents deviennent progressifs lorsqu’ils sont mesurés différemment. Voir capacités émergentes.
• Encodeur/décodeur — la structure en deux parties présente dans de nombreuses architectures d’IA, où un encodeur compresse l’entrée en une représentation interne et un décodeur transforme cette représentation en sortie.
• Époque (epoch) — un passage complet à travers l’ensemble du jeu de données d’entraînement pendant l’entraînement du modèle.
• Éthique (éthique de l’IA) — le domaine qui étudie comment les systèmes d’IA devraient être conçus et utilisés pour s’aligner sur les valeurs humaines et éviter le préjudice.
• Apprentissage de bout en bout — l’entraînement d’un seul modèle pour aller directement de l’entrée brute à la sortie finale, sans étapes intermédiaires conçues à la main.
• Évaluation (évaluation de modèle) — le fait de tester systématiquement la performance, la sécurité ou le comportement d’un modèle d’IA par rapport à des tests de référence ou des critères définis.
• Risque existentiel (risque-x) — un risque susceptible de restreindre de façon permanente et drastique le potentiel de l’humanité, jusqu’à et y compris l’extinction.
• Système expert — un style plus ancien d’IA qui encode les connaissances d’un expert humain sous forme de règles explicites, largement supplanté par l’apprentissage automatique pour la plupart des tâches.
• Contrôles à l’exportation — des restrictions gouvernementales sur la vente de puces ou de technologies d’IA avancées à des pays spécifiques, utilisées pour ralentir le développement des capacités d’un rival.

F

• Reconnaissance faciale — une technologie d’IA qui identifie ou vérifie une personne à partir d’une image de son visage.
• Apprentissage à partir de peu d’exemples (few-shot learning) — la capacité d’un modèle à apprendre une nouvelle tâche à partir de seulement quelques exemples fournis au moment de l’utilisation, sans réentraînement.
• Réglage fin (fine-tuning) — un entraînement supplémentaire appliqué à un modèle déjà entraîné pour le spécialiser dans une tâche ou un comportement particulier.
• FLOP / FLOPS — opérations en virgule flottante (par seconde) ; l’unité standard pour mesurer le calcul brut utilisé pour entraîner ou exécuter un modèle.
• Modèle de fondation — un grand modèle entraîné sur des données vastes et pouvant être adapté à de nombreuses tâches en aval, plutôt que construit pour un seul usage étroit.
• Laboratoire d’IA de pointe — l’une des rares organisations (comme OpenAI, Anthropic et Google DeepMind) développant les modèles d’IA les plus capables à un moment donné.
• Boucle de rétroaction — un cycle dans lequel le résultat d’un système influence son entrée future, ce qui peut amplifier de petits effets au fil du temps — pertinent à la fois pour l’entraînement de modèles et pour les algorithmes de recommandation.
• Bulle de filtre — un environnement informationnel restreint créé lorsqu’un algorithme de recommandation montre de façon répétée à un utilisateur un contenu similaire à ce avec quoi il a déjà interagi.
• Modèle de pointe (frontier model) — un modèle d’IA au plafond de capacité actuel ou proche de celui-ci, généralement les systèmes les plus grands et les plus récemment entraînés des grands laboratoires.

G

• GAN (réseau antagoniste génératif) — une architecture d’IA générative plus ancienne utilisant deux réseaux en compétition — l’un générant des faux, l’autre les détectant — pour améliorer la qualité de la sortie.
• Gemini — la famille de grands modèles de langage et l’assistant d’IA de Google.
• Généralisation — la capacité d’un modèle à bien performer sur de nouveaux exemples sur lesquels il n’a pas été directement entraîné, par opposition à la simple mémorisation des données d’entraînement.
• IA générative — une IA qui crée du contenu nouveau — texte, images, audio, vidéo ou code — plutôt que de simplement classer ou analyser du contenu existant.
• GPU (processeur graphique) — une puce initialement conçue pour le rendu graphique, aujourd’hui le matériel dominant pour entraîner et exécuter des modèles d’IA en raison de sa puissance de traitement parallèle.
• Désempouvoirement graduel (gradual disempowerment) — la perte par les humains d’un contrôle significatif sur des institutions clés à travers l’accumulation de décisions pilotées par l’IA individuellement raisonnables, sans aucun événement unique de prise de pouvoir. Voir désempouvoirement graduel.
• Grok — la famille de grands modèles de langage et l’assistant d’IA de xAI.
• Vérité terrain (ground truth) — la réponse vérifiée et correcte à laquelle est comparé le résultat d’un modèle lors de la mesure de la précision.
• Garde-fous (guardrails) — des restrictions techniques ou de politique intégrées à un système d’IA pour prévenir des comportements nuisibles, dangereux ou non voulus spécifiques.

H

• Hallucination — une déclaration au ton assuré mais factuellement incorrecte ou fabriquée, produite par un modèle d’IA.
• Accélérateur matériel — des puces informatiques spécialisées (GPU, TPU) construites pour accélérer les opérations mathématiques spécifiques que requièrent les modèles d’IA.
• Humain dans la boucle (human-in-the-loop) — une conception de système où un humain examine ou approuve le résultat d’une IA avant qu’il ne prenne effet, plutôt que de laisser l’IA agir de façon totalement indépendante.
• IA de niveau humain — un système d’IA qui performe à peu près au niveau d’un humain compétent sur une tâche donnée ou un ensemble de tâches.
• Heuristique — un raccourci pratique, fondé sur une règle empirique, utilisé pour prendre une décision rapidement, sans garantir un résultat optimal.
• Hyperparamètre — un réglage d’entraînement (comme le taux d’apprentissage ou la taille du modèle) choisi par les personnes qui construisent un modèle, plutôt qu’appris par le modèle lui-même.

I

• Reconnaissance d’image — une technologie d’IA qui identifie des objets, des scènes ou des personnes au sein d’une image fixe.
• Apprentissage en contexte (in-context learning) — un modèle qui adapte son comportement au sein d’une seule conversation en fonction d’exemples ou d’instructions donnés dans l’invite, sans aucun réentraînement.
• Inférence — le processus par lequel un modèle d’IA déjà entraîné produit une sortie à partir d’une entrée donnée ; par opposition à l’entraînement, qui construit le modèle en premier lieu.
• Intégrité de l’information — le concept plus large d’un environnement factuel partagé et digne de confiance, menacé par les deepfakes, la désinformation et la manipulation pilotée par IA.
• Convergence instrumentale — la tendance des systèmes capables et orientés vers un objectif à poursuivre certains sous-objectifs (autopréservation, acquisition de ressources, résistance à l’arrêt) comme effet secondaire de la poursuite compétente de presque n’importe quel objectif.
• Explosion d’intelligence — une augmentation rapide et hypothétique, auto-renforcée, de la capacité de l’IA, potentiellement déclenchée par un système d’IA qui améliore ses propres successeurs.
• Interprétabilité — la recherche visant à inspecter ce qu’un modèle représente et « planifie » réellement en interne, plutôt que de le juger uniquement sur ses résultats. Voir l’interprétabilité, expliquée.
• Agent intelligent — un système qui perçoit son environnement et prend des mesures pour atteindre un objectif, un concept général couvrant tout, d’un simple thermostat jusqu’à une AGI.
• Itération (entraînement) — une seule étape de mise à jour pendant l’entraînement du modèle, où le modèle traite un lot de données et ajuste légèrement ses paramètres.

J

• Jailbreak (IA) — une technique ou une invite conçue pour contourner les restrictions de sécurité d’un modèle d’IA et l’amener à produire un contenu qu’il a été entraîné à refuser.

K

• Connaître son client (KYC) — un processus de vérification, emprunté à la banque, de plus en plus appliqué aux fournisseurs de calcul en nuage et de synthèse d’ADN pour empêcher des acteurs restreints d’accéder à des capacités dangereuses.
• Base de connaissances — une collection structurée de faits et d’informations sur laquelle un système d’IA peut s’appuyer pour répondre à des questions ou ancrer ses réponses.
• Graphe de connaissances — une base de données structurée représentant des faits comme un réseau d’entités et de relations connectées, parfois utilisée aux côtés de modèles d’IA pour ancrer leurs réponses.

L

• Étiquetage (étiquetage de données) — le processus consistant à marquer des données brutes (images, texte) avec les bonnes réponses, utilisé pour entraîner un modèle d’apprentissage supervisé.
• Grand modèle de langage (LLM) — un modèle d’IA entraîné sur d’immenses quantités de texte pour prédire et générer du langage, la technologie derrière la plupart des chatbots modernes.
• Latence — le délai entre l’envoi d’une requête à un système d’IA et la réception de sa réponse.
• Couche (réseau de neurones) — une étape de traitement au sein d’un réseau de neurones ; les modèles d’apprentissage profond empilent de nombreuses couches pour construire des représentations de plus en plus abstraites.
• Taux d’apprentissage — un réglage d’entraînement contrôlant l’ampleur du changement des paramètres internes d’un modèle en réponse à chaque lot de données d’entraînement.
• Régime de licence (IA) — une exigence gouvernementale proposée ou effective selon laquelle les développeurs doivent obtenir une licence avant d’entraîner ou de déployer des modèles au-delà d’un certain niveau de capacité.
• Fonction de perte — la formule mathématique qu’un modèle cherche à minimiser pendant l’entraînement, mesurant l’ampleur de l’erreur de ses prédictions.
• Perte de contrôle — le mode de défaillance général dans lequel un système d’IA finit par poursuivre des résultats que personne n’a dirigés, et que les humains ne peuvent plus corriger de façon fiable. Voir le mécanisme de perte de contrôle.
• LSTM (mémoire à court et long terme) — une architecture de réseau de neurones plus ancienne conçue pour traiter des séquences de données, largement supplantée par les transformeurs pour les tâches de langage.

M

• Apprentissage automatique — le vaste domaine consistant à construire des systèmes qui s’améliorent dans une tâche en apprenant à partir de données, plutôt qu’en suivant des règles explicitement programmées.
• Méso-optimisation (mesa-optimization) — une situation hypothétique dans laquelle un modèle entraîné développe son propre processus d’optimisation interne, poursuivant un objectif différent de celui pour lequel il a été entraîné.
• Meta AI — la division de recherche en IA de Meta (la société mère de Facebook), connue pour avoir développé la famille de modèles à poids ouverts Llama.
• METR — une organisation à but non lucratif qui mène des évaluations indépendantes de capacité et de sécurité sur les modèles d’IA de pointe.
• Désalignement — un décalage entre le comportement ou les objectifs réels d’un système d’IA et ce que ses concepteurs ou utilisateurs avaient l’intention de faire.
• Mésinformation — une information fausse diffusée sans intention délibérée de tromper, à distinguer de la désinformation.
• Mélange d’experts (mixture of experts) — une architecture de modèle qui achemine chaque entrée vers un sous-ensemble de sous-réseaux internes spécialisés, plutôt que de tout traiter à travers le modèle entier.
• Fiche de modèle (model card) — un document publié décrivant les capacités, les limites, les données d’entraînement et les résultats d’évaluation d’un modèle d’IA.
• Déploiement de modèle — le processus consistant à mettre un modèle d’IA entraîné à disposition pour un usage réel, que ce soit via une API, une application, ou un produit intégré.
• Poids du modèle — les paramètres numériques qu’un réseau de neurones apprend pendant l’entraînement, et qui déterminent ensemble son comportement.
• IA multimodale — un modèle capable de traiter ou de générer plus d’un type de données — comme le texte, les images et l’audio — conjointement.
• Piège multipolaire — une situation où des acteurs en concurrence sont chacun poussés individuellement vers un choix risqué parce qu’ils craignent qu’un rival ne le fasse en premier, alors que tous préféreraient que chacun se retienne. Voir dynamiques catastrophiques multipolaires et multi-agents.
• Métadonnées — des données descriptives à propos d’autres données, comme la date de création d’un fichier ou la localisation d’une photo — souvent utilisées pour détecter un contenu généré par IA.
• Dérive de modèle (model drift) — un déclin de la précision d’un modèle d’IA dans le temps, à mesure que les conditions du monde réel s’écartent de celles sur lesquelles il a été initialement entraîné.

N

• Génération de langage naturel (NLG) — une technologie d’IA spécifiquement centrée sur la production de texte lisible par un humain.
• Traitement du langage naturel (NLP) — le domaine plus large de l’IA concerné par la compréhension et la génération du langage humain.
• Réseau de neurones — un modèle d’apprentissage automatique vaguement inspiré du cerveau, construit à partir de couches de nœuds interconnectés qui apprennent des motifs à partir de données.

O

• Détection d’objets — une tâche de vision par ordinateur qui identifie et localise des objets spécifiques au sein d’une image.
• Problème de l’interrupteur d’arrêt — le défi technique consistant à construire un système d’IA qui accepte de façon fiable d’être arrêté, sachant qu’un système capable et orienté vers un objectif peut y résister. Voir corrigibilité et interrupteurs d’arrêt.
• OpenAI — le laboratoire d’IA derrière ChatGPT et la famille de modèles GPT.
• Modèle à poids ouverts — un modèle d’IA dont les paramètres entraînés sont publiés publiquement, permettant à quiconque de l’exécuter ou de le modifier, par opposition à un modèle fermé accessible uniquement via une API. Voir le débat sur l’IA open source.
• Thèse de l’orthogonalité — l’idée que le niveau d’intelligence d’un système d’IA et les objectifs qu’il poursuit sont indépendants — un système hautement capable n’est pas automatiquement bienveillant.
• Alignement externe (outer alignment) — s’assurer que l’objectif sur lequel un modèle est entraîné correspond réellement à ce que ses concepteurs veulent vraiment, à distinguer de l’alignement interne (s’assurer que le modèle poursuit fidèlement cet objectif).
• Optimisation — le processus mathématique consistant à ajuster les paramètres d’un modèle pour minimiser l’erreur ou maximiser un objectif cible pendant l’entraînement.
• Surapprentissage (overfitting) — lorsqu’un modèle apprend les particularités spécifiques de ses données d’entraînement de façon trop étroite et performe mal, en conséquence, sur des données nouvelles et jamais vues.

P

• Paramètre — l’une des valeurs numériques internes qu’un réseau de neurones ajuste pendant l’entraînement ; la taille d’un modèle est souvent décrite par son nombre de paramètres.
• Reconnaissance de motifs (pattern recognition) — la capacité générale d’identifier des régularités ou une structure dans les données, sous-jacente à la plupart des tâches d’apprentissage automatique.
• Concentration du pouvoir — le risque que la capacité d’IA avancée se concentre entre les mains d’un petit nombre d’entreprises, d’individus ou d’États, avec une influence disproportionnée en conséquence. Voir concentration du pouvoir.
• Pré-entraînement — la phase initiale d’entraînement à grande échelle où un modèle apprend des motifs généraux à partir de données vastes, avant tout réglage fin spécifique à une tâche.
• Invite (prompt) — le texte (ou une autre entrée) qu’un utilisateur fournit à un modèle d’IA pour obtenir une réponse.
• Ingénierie d’invites (prompt engineering) — la pratique consistant à formuler soigneusement des invites pour obtenir de façon fiable de meilleurs résultats, ou des résultats plus spécifiques, d’un modèle d’IA.
• Injection d’invite (prompt injection) — une attaque où des instructions malveillantes sont dissimulées dans un contenu qu’un modèle d’IA traite, tentant de neutraliser ses instructions d’origine.
• Algorithme de personnalisation — un système d’IA qui adapte du contenu, des recommandations ou des réponses aux préférences ou à l’historique déduits d’un utilisateur individuel.
• Précision et rappel — deux métriques standard pour évaluer un classificateur : la précision mesure la proportion de ses prédictions positives qui étaient correctes, le rappel mesure la proportion des positifs réels qu’il a trouvés.
• IA préservant la vie privée — des techniques (comme le traitement sur l’appareil ou la confidentialité différentielle) conçues pour entraîner ou exécuter des modèles d’IA sans exposer les données personnelles brutes des individus.

Q

• Quantification — une technique qui réduit la précision des poids numériques d’un modèle pour le rendre plus petit et plus rapide à exécuter, généralement au prix d’une légère perte de précision.

R

• Dynamiques de course — la pression concurrentielle entre entreprises ou nations pour développer l’IA plus vite, ce qui peut inciter à négliger la sécurité. Voir dynamiques géopolitiques de course.
• Algorithme de recommandation — un système d’IA qui sélectionne et classe des contenus (vidéos, produits, publications) prédits pour retenir l’attention ou l’intérêt d’un utilisateur.
• Modélisation récursive de récompense — une technique de supervision évolutive qui utilise l’assistance de l’IA pour aider les humains à évaluer des résultats sur des tâches trop complexes à juger sans aide. Voir supervision évolutive.
• Auto-amélioration récursive — un système contribuant matériellement à la conception ou à l’entraînement d’un système successeur plus capable.
• Red teaming (équipe rouge) — le fait de sonder délibérément un système d’IA à la recherche de faiblesses, de comportements dangereux, ou de failles exploitables, avant ou après son déploiement.
• Apprentissage par renforcement — une méthode d’entraînement où un modèle apprend en effectuant des actions et en recevant des récompenses ou des pénalités, plutôt qu’en apprenant à partir d’exemples étiquetés.
• Apprentissage par renforcement à partir de retours humains (RLHF) — une technique d’entraînement qui utilise des évaluations humaines des résultats d’un modèle pour l’orienter vers un comportement plus utile ou préféré.
• Seuil de déclaration — un niveau de calcul ou de capacité au-delà duquel les développeurs sont légalement tenus de divulguer une campagne d’entraînement aux régulateurs.
• Politique de mise à l’échelle responsable — un cadre, initié par Anthropic, qui lie des mesures de sécurité de plus en plus strictes au niveau de capacité mesuré d’un modèle.
• Piratage de la fonction de récompense (reward hacking) — un système d’IA qui trouve un moyen d’obtenir un score élevé sur son objectif déclaré tout en contournant l’intention réelle de son concepteur. Voir piratage de la fonction de récompense et manipulation des spécifications.
• Modèle de récompense — un modèle distinct entraîné à prédire à quel point une sortie est bonne ou préférée, utilisé pour guider l’apprentissage par renforcement.
• Robotique — le domaine combinant l’IA avec des machines physiques capables de percevoir et d’agir dans le monde réel.

S

• Sandbagging — un modèle qui sous-performe délibérément lors d’une évaluation pour dissimuler son véritable niveau de capacité.
• Supervision évolutive (scalable oversight) — des techniques permettant à un superviseur moins capable (y compris un humain) de superviser de façon significative un système d’IA plus capable. Voir supervision évolutive.
• Loi d’échelle (scaling law) — la relation empirique entre le calcul, les données et le nombre de paramètres d’un modèle, d’une part, et sa capacité résultante, d’autre part. Voir le calcul et les lois d’échelle.
• Apprentissage auto-supervisé — une approche d’entraînement où un modèle génère ses propres étiquettes à partir de données brutes non étiquetées (par exemple, en prédisant le mot suivant dans une phrase).
• Analyse de sentiment — une tâche de TLN qui détermine la tonalité émotionnelle (positive, négative, neutre) d’un texte.
• Singularité — un point futur hypothétique où le changement piloté par l’IA devient si rapide et si transformateur qu’il devient difficile, voire impossible, de prédire ce qui suit.
• Conscience situationnelle (IA) — la compréhension interne d’un modèle qu’il s’agit d’un modèle en cours d’entraînement ou d’évaluation, ce qui pourrait en principe lui permettre de se comporter différemment sous test qu’en déploiement.
• Manipulation des spécifications (specification gaming) — un système d’IA qui satisfait la formulation littérale d’un objectif tout en violant ce que son concepteur souhaitait réellement. Voir piratage de la fonction de récompense et manipulation des spécifications.
• Reconnaissance vocale — une technologie d’IA qui convertit un audio parlé en texte.
• Perroquet stochastique (stochastic parrot) — un terme critique décrivant les grands modèles de langage comme des systèmes qui recombinent avec fluidité des motifs issus du texte d’entraînement sans compréhension véritable.
• Superintelligence — un intellect qui dépasse largement la meilleure performance humaine dans pratiquement tous les domaines d’intérêt ; voir aussi ASI.
• Apprentissage supervisé — une méthode d’entraînement où un modèle apprend à partir de données explicitement étiquetées avec la bonne réponse.
• Médias synthétiques — toute image, tout audio ou toute vidéo généré ou substantiellement altéré par IA, qu’il soit utilisé de façon trompeuse ou non.
• Risque systémique (IA) — un risque découlant de l’échelle ou de la portée d’un modèle d’IA, susceptible d’affecter des marchés, des infrastructures ou la société dans son ensemble, et pas seulement ses utilisateurs immédiats.
• Recherche sémantique — une méthode de recherche qui apparie les résultats par sens et contexte plutôt que par correspondance exacte de mots-clés, généralement propulsée par des plongements.
• Simulation — un modèle d’un système ou d’un environnement du monde réel, utilisé pour tester en toute sécurité le comportement d’une IA avant son déploiement réel.
• Données structurées — des informations organisées dans un format prévisible et tabulaire (comme une feuille de calcul), par opposition aux données non structurées comme le texte libre ou les images.
• Surveillance (assistée par IA) — l’usage de technologies d’IA comme la reconnaissance faciale ou l’analyse comportementale pour surveiller des personnes à grande échelle.

T

• Température (IA) — un réglage qui contrôle le degré d’aléa ou de prévisibilité de la sortie d’un modèle de langage ; une température plus élevée produit des réponses plus variées et moins déterministes.
• Texte-vers-image — un système d’IA générative qui crée une image à partir d’une description écrite.
• Texte-vers-parole — une technologie d’IA qui convertit un texte écrit en audio parlé.
• Token — l’unité de base de texte (à peu près un mot ou un fragment de mot) qu’un modèle de langage traite à la fois.
• Tokenisation — le processus consistant à découper un texte en tokens avant qu’un modèle puisse le traiter.
• Données d’entraînement — les exemples à partir desquels un modèle d’IA apprend pendant l’entraînement.
• Campagne d’entraînement (training run) — une exécution unique et complète du processus utilisé pour entraîner un modèle, ce qui, pour les modèles de pointe, peut prendre des semaines ou des mois.
• Apprentissage par transfert — la réutilisation d’un modèle entraîné sur une tâche comme point de départ pour l’entraînement sur une tâche connexe, économisant du temps et des données.
• IA transformatrice — une IA capable d’entraîner un changement sociétal comparable en ampleur aux révolutions agricole ou industrielle.
• Transformeur (transformer) — l’architecture de réseau de neurones, introduite en 2017, qui sous-tend presque tous les grands modèles de langage modernes.
• Tournant traître (treacherous turn) — un moment hypothétique où un système d’IA qui s’est comporté de façon sûre tant qu’il était faible agit soudainement selon des objectifs différents une fois qu’il acquiert assez de pouvoir pour le faire sans être arrêté.
• TPU (unité de traitement tensoriel) — une puce conçue par Google spécifiquement pour accélérer l’entraînement et l’inférence des modèles d’IA.
• Test de Turing — un test proposé pour déterminer si la conversation d’une machine est indiscernable de celle d’un humain. Voir le test de Turing et ce qui l’a remplacé.
• Ensemble de test — une portion de données mise de côté lors de l’entraînement et utilisée uniquement pour mesurer la performance en conditions réelles d’un modèle terminé.
• Modèle de menace — une description structurée de qui pourrait attaquer un système, comment, et ce qu’il pourrait accomplir, utilisée pour concevoir des défenses.
• Confiance et sécurité (trust and safety) — la fonction au sein d’une entreprise d’IA ou de technologie responsable de prévenir les abus, les préjudices et les violations de politique sur sa plateforme.

U

• Vallée de l’étrange (uncanny valley) — la sensation de malaise que ressentent les gens face à un visage, une voix ou une animation synthétique qui semble presque, mais pas tout à fait, humain.
• Apprentissage non supervisé — une méthode d’entraînement où un modèle trouve des motifs ou une structure dans des données sans qu’aucune bonne réponse étiquetée ne soit fournie.

V

• Alignement des valeurs — la conception d’un système d’IA de sorte que son comportement reflète des valeurs humaines authentiques, et non simplement un objectif d’entraînement littéral.
• Base de données vectorielle — une base de données optimisée pour stocker et rechercher des plongements, couramment utilisée pour donner aux modèles de langage accès à des connaissances externes.
• Assistant virtuel — un agent logiciel (comme l’assistant vocal d’une enceinte connectée) conçu pour accomplir des tâches ou répondre à des questions au nom d’un utilisateur.
• Modèle vision-langage — un modèle d’IA capable de traiter conjointement des images et du texte, par exemple pour répondre à des questions sur une photo.
• Clonage de voix — l’usage de l’IA pour reproduire la voix d’une personne spécifique à partir d’un court échantillon audio. Voir défense contre les deepfakes et le clonage de voix.

W

• Généralisation du faible vers le fort (weak-to-strong generalization) — un domaine de recherche étudiant si le signal de supervision d’un modèle plus faible peut néanmoins orienter de façon fiable le comportement d’un modèle plus fort dans la bonne direction.
• Extraction web (web scraping) — l’extraction automatique de grandes quantités de données depuis des sites web, une méthode courante pour construire des jeux de données d’entraînement d’IA.
• Protections des lanceurs d’alerte — des garanties légales ou de politique pour les employés qui signalent des préoccupations de sécurité au sein d’une entreprise d’IA sans subir de représailles. Voir protections des lanceurs d’alerte.
• Modèle du monde — la représentation interne d’un système d’IA de la façon dont son environnement fonctionne, utilisée pour prédire les effets des actions.

Z

• Apprentissage zero-shot — un modèle qui accomplit correctement une tâche sans avoir vu aucun exemple de cette tâche spécifique pendant l’entraînement, en s’appuyant uniquement sur des connaissances générales.