Optimisation Convexe

L'optimisation est l'un de champs mathématiques le plus utiles dans les applications. On retrouve les outils de l'optimisation dans pratiquement tous les domaines des mathématiques appliquées. La raison est claire : comme le dit un experte dans ce domaine, Jean-Baptiste Hiriart-Urruty, les outils de l'optimisation sont..."les mathématiques du mieux faire".

L'optimisation consiste en une première phase de modélisation mathématique d'un problème, qui peut être abstrait ou issue d'un problème réel, dans laquelle on identifie la solution optimale à notre problème comme le maximum ou le minimum d'une fonction opportune, qu'on appelle objectif. Cette première phase, qui peut être déjà suffisamment compliquée, est suivie par sa continuation naturelle : la détermination de la solution optimale via la recherche de l'argument qui minimise ou maximise la fonction objectif, cette phase peut être bien plus compliquée que la première.

Selon le problème analysé, la solution optimale peut exister ou pas, être unique ou pas, être déterminée d'une manière précise ou approchée. 

Dans ce cour, on analysera le cas le plus simple, celui des fonctions convexes, qu'on peut considérer comme une espèce de généralisation des paraboles, avec une analogie incorrecte, mais qui a le privilège d'être fortement evocative. Comme pour une parabole, sous des conditions très générales, on peut garantire l'existence et l'unicité d'un minimiseur d'une fonction convexe. 

Si, de plus, la fonction convexe est aussi différentiable, alors on a à disposition des algorithmes itératifs plus ou moins efficaces, selon le cas, pour la recherche approché du minimiseur. Si la fonction n'est pas différentiable, alors il faut développer de stratégies plus compliquées basées qui font appel à la dualité.

Une partie importante du cours sera l'analyse des problèmes sous contraintes, c'est-à-dire, des problèmes où le minimiseur doit vérifier des équations ou inéquations. L'analyse de ces situations nécessite l'introduction d'outils géométriques qui vont rendre notre étude encore plus riche et intéressant. 

Le fil rouge qui nous accompagnera pendant tout le cours sera le très répandu problème des moindres carrés, que, dû à son importance, on analysera d'un point de vue algébrique, analytique et numérique.