TP Optimisation GMM2
Le TP du jour est une partie d'un travail global. Cette page sera mise à jour avant chacune des scéances restantes avec l'énoncé et des codes pour differentes méthodes d'optimisation.
Contents
Scéance du 8 janvier
L'objectif de ce TP est de vous fournir un exemple de visualisation des méthodes d'optimisation utilisées.
Liste des fonctions
Scéance du 11 décembre 2009
Ce TP s'intéresse à la méthode de Quasi-Newton. Tout comme pour la descente de gradient ou les gradients conjugués, la méthode de Quasi Newton requièrt une recherche linéaire pour le calcul du pas optimal. L'objectif de cette scéance est de comparer, pour la méthode de Quasi Newton, la mathode de recherche liénaire dichotomique déjà vue avec une autre méthode appelée Armijo.
Liste des fonctions
Travail à réaliser
Dans ce TP, les codes d'optimisation sont fournis. Il vous est demandé de les comprendre, de les commenter et de les utiliser.
Le compte rendu sera une analyse des méthodes utilisées, s'appuyant sur l'observation de leur comportement en fonction du réglage de leurs paramètres. Un exemple de courbes que l'on peut fournir est donné à la fin de la méthode principale. Vous pouvez également comparer la méthode de quasi-Newton à celles des TP précédents. Les critères à regarder sont :
- La vitesse d'éxécution
- Le nombre d'évaluation de la fonction
- Le nombre d'évaluation du gradient
- La sensibilité au choix et au réglage de la recherche linéaire
- La sensibilité à la taille du problème
- La sensibilité à la précision demandée
- Tout autre critère qui vous semble intéressant
Remarquons que les observations du type "Telle méthode n'est pas sensible à tel critère" sont aussi pertinentes que les observations "Telle méthode est sensible à tel critère".
Compte-rendu
Le compte-rendu sera à rendre individuellement à la fin du dernier TP (envoie du mail depuis la salle de TP...). La note tiendra compte
- de la pertinence des observations (8pts)
- de la présentation des résultats et de la qualité de rédaction des explications (4pts)
- de la variété des essais réalisés (8pts)
Exemple de plan de Compte Rendu
- Intro : Brève présentation de chaque méthode utilisée
- Partie 1 : les paramètres
- roles dans les recherches linéaires
- roles dans les méthodes d'optimisation
- Partie 2 : les méthodes
- Vitesse d'execution (en fonction de la taille du pb, en fonction du parametre lambda,...)
- Nb de calculs (en fonction de la taille du pb,...)
- Convergence
- Conclusion : comment choisir une méthode, la régler, suggestions de mise en oeuvre?