Le classificateur de détection est un outil d’IA interprétable utilisé pour comprendre la représentation apprise par un réseau de neurones profonds pour son entrée. Ils nous permettent de comprendre si le nombre à la fin (ou au milieu) du modèle code certains attributs de l’entrée qui nous intéresse (par exemple, si le jeton d’entrée est un verbe ou un nom). À l’aide de sondes, les chercheurs en apprentissage automatique peuvent mieux comprendre les différences entre les modèles et entre les différentes couches d’un même modèle. Introduction (0:00) Motivation des sondes en traduction automatique (0:40) Exploration des encodeurs de phrases (3:42) Comment entraîner les sondes (5:32) Exploration de la représentation des marques (8:08) Taille de la sonde (9 :15)) Utilisez de meilleurs indicateurs pour les tâches de contrôle (9:48) Conclusion (10:32) Aide-mémoire d’IA explicable : 1) Introduction à l’IA explicable : 2) Exemple d’activation neuronale et d’ensemble de données —- -Que pouvez-vous mettre dans un $& ! #* Vecteur : classificateur diagnostique d’intégration de phrases pour la détection d’attributs de langage : Révéler comment les réseaux de neurones traitent la conception et l’interprétation de la structure hiérarchique. Les sondes avec tâches de contrôle utilisent des tâches de prédiction auxiliaires pour effectuer une analyse fine des intégrations de phrases. Qu’avez-vous appris du contexte ?Explorer la structure de la phrase dans la représentation contextuelle des mots-Twitter : Blog : Liste de diffusion : —— Plus de vidéos de Jay : Une présentation du modèle de langage Transformer L’introduction visuelle de Jay’s AI au principe de fonctionnement de GPT-3 -Expliquer facilement le animation se déplaçant de haut en bas sur l’échelle abstraite [interactive article by Bret Victor, 2011]
Efficacité déraisonnable de RNN (articles et commentaires visuels) [2015 article]