Méthodes d'apprentissage

Nous allons voir la séparation linéaire de deux classes, avec en particulier l'algorithme du perceptron et la séparation linéaire à vastes marges. A partir de là, nous allons regarder deux méthodes permettant de traiter des données plus complexes, c'est-à-dire non linéairement séparable. D'une part, nous verrons les réseaux de neurones qui peuvent être vus comme un extension du perceptron (le perceptron multi-couche), dans lesquels on introduit la non-linéarité dans l'ajout de couches et l'utilisation de fonctions d'activation non linéaires (on complexifie le modèle). D'autre part, nous étudierons le SVM, méthode dont le principe est de séparer linéairement les données projetées dans un espace de grande dimension (espace bien choisi dans lequel les données se trouvent linéairement séparables), via l'astuce du noyau.