Enseignement

CS 229 ― Apprentissage automatique
Star


Avec mon frère jumeau Afshine, on a créé des pense-bêtes d'apprentissage automatique parcourant le contenu de la classe de CS 229 de Stanford que j'ai enseigné en tant que TA durant l'automne 2018 à Stanford. Ils peuvent s'avérer utiles pour tous ceux qui sont intéressés par l'apprentissage automatique.

Pense-bête


Apprentissage supervisé
  • • Fonction de loss, algorithme du gradient, vraisemblance
  • • Modèles linéaires, Support Vector Machines, apprentissage génératif
  • • Méthode à base d'arbres et d'ensembles, k-NN, théorie d'apprentissage
Apprentissage non-supervisé
  • • Espérance-Maximisation, k-means, regroupement hiérarchique
  • • Indicateurs d'évaluation de clustering
  • • Analyse des composantes principales, analyse en composantes indépendantes
Apprentissage profond
  • • Architecture, fonction d'activation, rétropropagation, dropout
  • • Couche convolutionnelle, normalisation de batch, types de porte
  • • Processus de décision markovien, équation de Bellman, Q-learning
Petites astuces
  • • Matrice de confusion, accuracy, précision, rappel, F-mesure, ROC
  • • R squared, CP de Mallow, AIC, BIC
  • • Validation croisée, régularisation, compromis biais/variance, analyse de l'erreur

Rappel


Probabilités et statistiques
  • • Axiomes de probabilité, permutation, théorème de Bayes, indépendance, probabilité conditionnelle
  • • Variable aléatoires, espérance, variance
  • • Théorème de la limite centrale, estimation des paramètres
Algèbre linéaire et analyse
  • • Matrices principales, multiplication, transposée, inverse, trace, déterminant
  • • Valeur propre, vecteur propre, norme, gradient, Hessienne
  • • Matrice semi-définie positive, théorème spectral, décomposition en valeurs singulières