Fonction convexe et concave
Soit $ f: S \ rightarrow \ mathbb {R} $, où S est un convexe non vide défini dans $ \ mathbb {R} ^ n $, alors $ f \ left (x \ right) $ est dit convexe sur S if $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) f \ left ( x_2 \ right), \ forall \ lambda \ in \ left (0,1 \ right) $.
Par contre, Soit $ f: S \ rightarrow \ mathbb {R} $, où S est un convexe non vide défini dans $ \ mathbb {R} ^ n $, alors $ f \ left (x \ right) $ est dit être concave sur S si $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ geq \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) ) f \ left (x_2 \ right), \ forall \ lambda \ in \ left (0, 1 \ right) $.
Soit $ f: S \ rightarrow \ mathbb {R} $ où S est un convexe non vide défini dans $ \ mathbb {R} ^ n $, alors $ f \ left (x \ right) $ est dit strictement convexe sur S if $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) <\ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) f \ left (x_2 \ right), \ forall \ lambda \ in \ left (0, 1 \ right) $.
Soit $ f: S \ rightarrow \ mathbb {R} $ où S est un convexe non vide défini dans $ \ mathbb {R} ^ n $, alors $ f \ left (x \ right) $ est dit strictement concave sur S if $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right)> \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) f \ left (x_2 \ right), \ forall \ lambda \ in \ left (0, 1 \ right) $.
Exemples
Une fonction linéaire est à la fois convexe et concave.
$ f \ gauche (x \ droite) = \ gauche | x \ right | $ est une fonction convexe.
$ f \ left (x \ right) = \ frac {1} {x} $ est une fonction convexe.
Théorème
Soit $ f_1, f_2, ..., f_k: \ mathbb {R} ^ n \ rightarrow \ mathbb {R} $ des fonctions convexes. Considérons la fonction $ f \ left (x \ right) = \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left (x \ right) $ où $ \ alpha_j> 0, j = 1, 2,. ..k, $ puis $ f \ left (x \ right) $ est une fonction convexe.
Preuve
Puisque $ f_1, f_2, ... f_k $ sont des fonctions convexes
Par conséquent, $ f_i \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda f_i \ left (x_1 \ right) + \ left (1- \ lambda \ right) f_i \ left (x_2 \ right), \ forall \ lambda \ in \ left (0, 1 \ right) $ et $ i = 1, 2, ...., k $
Considérons la fonction $ f \ left (x \ right) $.
Par conséquent,
$ f \ gauche (\ lambda x_1 + \ gauche (1- \ lambda \ droite) x_2 \ droite) $
$ = \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left (\ lambda x_1 + 1- \ lambda \ right) x_2 \ leq \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_j \ lambda f_j \ gauche (x_1 \ droite) + \ gauche (1- \ lambda \ droite) f_j \ gauche (x_2 \ droite) $
$ \ Rightarrow f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda \ left (\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left ( x_1 \ right) \ right) + \ left (\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left (x_2 \ right) \ right) $
$ \ Rightarrow f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda f \ left (x_2 \ right) \ leq \ left (1- \ lambda \ right) f \ gauche (x_2 \ droite) $
Par conséquent, $ f \ left (x \ right) $ est une fonction convexe.
Théorème
Soit $ f \ left (x \ right) $ une fonction convexe sur un ensemble convexe $ S \ subset \ mathbb {R} ^ n $ alors un minimum local de $ f \ left (x \ right) $ sur S est un minima globaux.
Preuve
Soit $ \ hat {x} $ un minimum local pour $ f \ left (x \ right) $ et $ \ hat {x} $ n'est pas un minimum global.
donc $ \ existe \ hat {x} \ in S $ tel que $ f \ left (\ bar {x} \ right) <f \ left (\ hat {x} \ right) $
Puisque $ \ hat {x} $ est un minimum local, il existe un voisinage $ N_ \ varepsilon \ left (\ hat {x} \ right) $ tel que $ f \ left (\ hat {x} \ right) \ leq f \ left (x \ right), \ forall x \ in N_ \ varepsilon \ left (\ hat {x} \ right) \ cap S $
Mais $ f \ left (x \ right) $ est une fonction convexe sur S, donc pour $ \ lambda \ in \ left (0, 1 \ right) $
nous avons $ \ lambda \ hat {x} + \ left (1- \ lambda \ right) \ bar {x} \ leq \ lambda f \ left (\ hat {x} \ right) + \ left (1- \ lambda \ droite) f \ gauche (\ bar {x} \ droite) $
$ \ Rightarrow \ lambda \ hat {x} + \ left (1- \ lambda \ right) \ bar {x} <\ lambda f \ left (\ hat {x} \ right) + \ left (1- \ lambda \ droite) f \ gauche (\ hat {x} \ droite) $
$ \ Rightarrow \ lambda \ hat {x} + \ left (1- \ lambda \ right) \ bar {x} <f \ left (\ hat {x} \ right), \ forall \ lambda \ in \ left (0 , 1 \ droite) $
Mais pour certains $ \ lambda <1 $ mais proches de 1, on a
$ \ lambda \ hat {x} + \ left (1- \ lambda \ right) \ bar {x} \ in N_ \ varepsilon \ left (\ hat {x} \ right) \ cap S $ et $ f \ left ( \ lambda \ hat {x} + \ left (1- \ lambda \ right) \ bar {x} \ right) <f \ left (\ bar {x} \ right) $
ce qui est une contradiction.
Par conséquent, $ \ bar {x} $ est un minimum global.
Épigraphe
soit S un sous-ensemble non vide dans $ \ mathbb {R} ^ n $ et soit $ f: S \ rightarrow \ mathbb {R} $ alors l'épigraphe de f notée epi (f) ou $ E_f $ est un sous-ensemble de $ \ mathbb {R} ^ n + 1 $ défini par $ E_f = \ left \ {\ left (x, \ alpha \ right): x \ in \ mathbb {R} ^ n, \ alpha \ in \ mathbb { R}, f \ gauche (x \ droite) \ leq \ alpha \ droite \} $
Hypographe
soit S un sous-ensemble non vide dans $ \ mathbb {R} ^ n $ et soit $ f: S \ rightarrow \ mathbb {R} $, puis l'hypographe de f noté hyp (f) ou $ H_f = \ left \ {\ left (x, \ alpha \ right): x \ in \ mathbb {R} ^ n, \ alpha \ in \ mathbb {R} ^ n, \ alpha \ in \ mathbb {R}, f \ left ( x \ right) \ geq \ alpha \ right \} $
Théorème
Soit S un ensemble convexe non vide dans $ \ mathbb {R} ^ n $ et soit $ f: S \ rightarrow \ mathbb {R} ^ n $, alors f est convexe si et seulement si son épigraphe $ E_f $ est un ensemble convexe.
Preuve
Soit f une fonction convexe.
Montrer $ E_f $ est un ensemble convexe.
Soit $ \ left (x_1, \ alpha_1 \ right), \ left (x_2, \ alpha_2 \ right) \ in E_f, \ lambda \ in \ left (0, 1 \ right) $
Pour afficher $ \ lambda \ left (x_1, \ alpha_1 \ right) + \ left (1- \ lambda \ right) \ left (x_2, \ alpha_2 \ right) \ in E_f $
$ \ Rightarrow \ left [\ lambda x_1 + \ left (1- \ lambda \ right) x_2, \ lambda \ alpha_1 + \ left (1- \ lambda \ right) \ alpha_2 \ right] \ in E_f $
$ f \ gauche (x_1 \ droite) \ leq \ alpha _1, f \ gauche (x_2 \ droite) \ leq \ alpha _2 $
Par conséquent, $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) f \ left (x_2 \ droite) $
$ \ Rightarrow f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda \ alpha_1 + \ left (1- \ lambda \ right) \ alpha_2 $
Converser
Soit $ E_f $ un ensemble convexe.
Montrer que f est convexe.
ie, pour montrer si $ x_1, x_2 \ in S, \ lambda \ left (0, 1 \ right) $
$ f \ gauche (\ lambda x_1 + \ gauche (1- \ lambda \ droite) x_2 \ droite) \ leq \ lambda f \ gauche (x_1 \ droite) + \ gauche (1- \ lambda \ droite) f \ gauche (x_2 \ droite) $
Soit $ x_1, x_2 \ in S, \ lambda \ in \ left (0, 1 \ right), f \ left (x_1 \ right), f \ left (x_2 \ right) \ in \ mathbb {R} $
Puisque $ E_f $ est un ensemble convexe, $ \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2, \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) \ droite) f \ gauche (x_2 \ droite) \ dans E_f $
Par conséquent, $ f \ left (\ lambda x_1 + \ left (1- \ lambda \ right) x_2 \ right) \ leq \ lambda f \ left (x_1 \ right) + \ left (1- \ lambda \ right) f \ left (x_2 \ droite) $