Rétropropagation

Crédits : image fournie ; auteur : Stephen Whitelaw ;

La rétropropagation est une méthode utilisée pour entraîner les réseaux neuronaux. Elle consiste à comparer la sortie du modèle avec la réponse correcte, à calculer l'erreur, puis à renvoyer cette erreur en amont du réseau afin d'ajuster ses paramètres internes. Au fil de nombreux exemples, le modèle s'améliore progressivement. La rétropropagation est l'une des techniques clés à l'origine de l'apprentissage profond moderne.

Bag-of-Words

Crédits : image fournie ; auteur : Stephen Whitelaw ;

Le « bag-of-words » est une méthode simple de représentation du texte pour l’apprentissage automatique. Elle ignore la grammaire et l’ordre des mots et se contente de compter les mots qui apparaissent. Par exemple, « L’IA aide les entreprises » et « Les entreprises aident l’IA » peuvent sembler très similaires dans un modèle « sac de mots ». Cette méthode est moins sophistiquée que les modèles linguistiques modernes, mais elle reste utile pour certaines tâches de classification de textes.

Modèle de base

Crédits : image fournie ; auteur : Stephen Whitelaw ;

Un modèle de base est un modèle d’IA qui a été entraîné sur un vaste ensemble de données, mais qui n’a pas encore été spécialisé pour un usage particulier. Par exemple, un modèle linguistique général peut être entraîné à prédire du texte, puis affiné par la suite pour devenir un assistant utile, un outil de synthèse juridique ou un outil de programmation. Le modèle de base constitue le fondement sur lequel reposent les systèmes plus spécialisés.

IA bayésienne

Crédits : image fournie ; auteur : Stephen Whitelaw ;

L'IA bayésienne utilise la probabilité pour raisonner sur l'incertitude. Au lieu de ne donner qu'une seule réponse, une approche bayésienne peut mettre à jour ses convictions à mesure que de nouvelles preuves apparaissent. Cela s'avère utile en médecine, dans les prévisions, la détection des spams et l'analyse des risques. Le principe de base est familier : lorsque de nouvelles informations apparaissent, nous réévaluons ce que nous estimons probable.

Recherche par faisceaux

Crédits : image fournie ; auteur : Stephen Whitelaw ;

La recherche par faisceaux est une technique utilisée lorsque les systèmes d’IA génèrent des séquences, telles que du texte ou des traductions. Au lieu de choisir à chaque fois uniquement le mot suivant le plus probable, le modèle garde plusieurs options possibles ouvertes et les explore. Cela peut améliorer le résultat final. C’est un peu comme envisager plusieurs itinéraires possibles avant de choisir le meilleur trajet.

BERT

Crédits : image fournie ; auteur : Stephen Whitelaw ;

BERT est un modèle linguistique influent développé avant la vague actuelle des grands outils d’IA conversationnelle. Il a aidé les ordinateurs à comprendre le texte en analysant les mots dans leur contexte dans les deux sens, plutôt qu’en se contentant de lire de gauche à droite. BERT a été largement utilisé dans des tâches de recherche, de classification et de compréhension du langage. Il a contribué à ouvrir la voie à des modèles linguistiques plus avancés.

Biais

Crédits : image fournie ; auteur : Stephen Whitelaw ;

En IA, le terme « biais » peut revêtir plusieurs significations. D’un point de vue technique, il peut faire référence aux hypothèses intégrées dans un modèle. D’un point de vue social, il désigne des résultats injustes ou biaisés affectant des personnes ou des groupes. Ces deux significations sont importantes. Un système d’IA utile doit reposer sur des hypothèses techniques appropriées, mais il doit éviter tout biais social préjudiciable.

Big Data

Crédits : image fournie ; auteur : Stephen Whitelaw ;

Le Big Data désigne des ensembles de données extrêmement volumineux, complexes ou évoluant rapidement, que les méthodes traditionnelles peinent à traiter. L’IA a énormément bénéficié du Big Data, car de nombreux systèmes d’apprentissage automatique s’améliorent lorsqu’ils sont entraînés sur un plus grand nombre d’exemples. Cependant, disposer de plus de données n’est pas toujours synonyme de meilleur résultat. Des données de mauvaise qualité, biaisées ou non pertinentes peuvent tout de même aboutir à une IA de mauvaise qualité.