Optimisation TD 3

Centrale Casablanca, 2022-2023

17 mai 2023

Exercice 1
Soit f (u) = 12 u⊤ Au − b⊤ u. On suppose que A est semi-défnie positive. Étudier l’existence, la
nature et la caractérisation d’un éventuel minimum dans les deux cas :
1. sous la contrainte égalité :Mu = c
2. sous la contrainte égalité :Mu ≤ c
où A ∈ Mn (R) est symétrique , b ∈ Rn , M ∈ Mp,n (R) et c ∈ Rp . On suppose que p < n.

Solution
1. Notons que les contraintes sont qualifiées (car contraintes affines). On passe par le La-
grangien associé au problème primal et on écrit les conditions d’optimalité :
Pp
∇X L(u, λ) = ∇f (u) + i=1 λi ∇ϕi (u)!= 0, λi ∈ R
Au − b + M ⊤ λ = 0 A M⊤  u   b 
(
⇐⇒
Mu =c
⇐⇒
M 0 λ = c

2. De même .. Application directe des résultats du cours (avec le Lagrangien ou le cône dual)
... λi ≥ 0

Exercice 2
Résoudre le problème de programmation quadratique suivant

min(x2 + y 2 + z2 )

sous les contraintes :

(
x+y +z = 3
2x − y + z ⩽ 5

Solution
Les contraintes étant affines, on peut appliquer telles quelles les conditions
 (KKT) : en un


 2x + λ + 2µ = 0
minimum u, ∃λ ∈ R, µ ∈ R+ tels que ∇f (u) + λ∇ϕ(u)+ µ∇ψ(u) = 0 : (i)  2y + λ − µ=0 (ii)


 2z + λ + µ = 0

µ(2x − y + z − 5) = 0 (iiii) µ ⩾ 0 Supposons que µ , 0 =⇒ 2x − y + z = 5



 x = (−λ − 2µ)/2
(i) =⇒  y = (−λ + µ)/2


 z = (−λ − µ)/2


1
 x + y + z = 3 =⇒ −λ − 2µ − λ + µ − λ − µ = 6 =⇒ 3λ + 2µ = −6
2x − y + z = 5 =⇒ 2(−λ − 2µ) − (−λ + µ) + (−λ − µ) = 10 =⇒ λ + 3µ = −5
En formant (a) −3( b) on obtient 2µ − 9µ = −6 + 15, soit µ = −9/7 < 0 ce qui contredit (iii) ! Ainsi
µ = 0. Donc (i) devient :



 2x + λ = 0
2y + λ = 0 =⇒ 2(x + y + z) + 3λ = 0 =⇒ 2 × 3 + 3λ = 0 =⇒ λ = −2



 2z + λ = 0


=⇒ x = y = z = 1. On obtient pour solution u = (1, 1, 1). Pour conclure que u est le minimum
global de f sur D, on a plusieurs possibilités : - f est quadratique sous contraintes affines, de
matrice A = Id définie positive. - f est (fortement) convexe sous contraintes affines. - f est
coercive.

Exercice 3
1. Déterminer les extrema locaux et globaux de l’applic ation f : R2 −→ R définie par :

f (x, y) = x3 + y 3 + x2 + y 2 − 1
n o
2. Soit C = (x, y) ∈ R2 | x2 + y 2 = 1 le cercle unité de R2 . Justifier l’existence d’extrema glo-
baux de f sur D, et les déterminer.

Solution

1. f est infiniment différentiable, car polynomiale. On détermine en chaque point son vec-
teur gradient et sa matrice Hessienne.

3x2 + 2x
! !
2 6x + 2 0
∇f (x, y) = ∇ f (x, y) =
3y 2 + 2y 0 6y + 2

On recherche ses points critiques.

3x2 + 2x 3x2 + 2x = 0 x = 0 ou x = − 32
! ( (
∇f (x, y) = = 0 ⇐⇒ ⇐⇒
2
3y + 2y 2
3y + 2y = 0 y = 0 ou y = − 32

Les points critiques sont donc : (0, 0), (0, −2/3), (−2/3, 0),
(−2/3,
! −2/3). On évalue en
2 0
chaque point critique la matrice Hessienne. ∇2 f (0, 0) = est définie positive :
0 2
!
  2 0  
(0, 0) est un minimum local. ∇2 f 0, − 23 = n’est pas semi-définie : 0, − 32 n’
0 −2
!

2
 −2 0  
2
est pas un extremum. ∇ f − 3 , 0 = n’est pas semi-définie : − 23 , 0 n’est pas
0 2
!

2 2
 −2 0  
2
un extremum. ∇ f − 3 , − 3 = est définie négative : − 23 , − 23 est un maximum
0 −2
local. L’application f n’admet pas d’extremum global, car elle est surjective sur R :

lim f (x, 0) = +∞ lim f (x, 0) = −∞

x→+∞ x→−∞

2. Le cercle C est un compact (fermé borné) de R2 , comme f est continue, donc elle admet
un minimum et un maximum global sur C. Il s’ agit d’un probleme d’optimisation sous
contrainte égalitaire. Soit la contrainte égalitaire ϕ(x, y) = x2 + y 2 − 1 = 0. On a ∇ϕ(x, y) =

2
    
Point (0, 1) (0, −1) (1, 0) (−1, 0) √1 ; √1 − √1 , − √1
2 2 2 2
Valeur de f 1 -1 1 -1 √1 − √1
2 2

!
2x
, 0 sur C. Donc en tout point de C les contraintes sont qualifiées. On a donc en
2y
tout extrémum (x, y) ∈ C de f , les conditions de Lagrange :

∃λ ∈ R, ∇f (x, y) + λ∇ϕ(x, y) = 0
3x2 + 2x + 2λx = 0 x = 0 ou x = − 2+2λ
( ( (
x(3x + 2 + 2λ) = 0 3
=⇒ 2 =⇒ =⇒
3y + 2y + 2λy = 0 y(3y + 2 + 2λ) = 0 y = 0 ou y = − 2+2λ
3

Puisque (x, y) ∈ C, on a x2 + y 2 = 1, et donc :

x = 0 =⇒ y = ±1
y = 0 =⇒ x = ±1
2 + 2λ 2 + 2λ 2 3√ 1
 
x=y=− =⇒ 2 = 1 =⇒ λ = −1 ± 2 =⇒ x = y = ± √
3 3 4 2

On obtient donc 6 points vérifiant les conditions nécessaires de Lagrange : Ainsi f admet
sur C :
- pour minima les 2 points (−1, 0) et (0, −1), - pour maxima les 2 points (1, 0) et (0, 1).

Exercice 4
Soit A une matrice n × n symétrique définie positive et b ∈ Rn non nul. Montrer que les
problèmes
sup b · x et sup b · x
Ax·x≤1 Ax·x=1

sont équivalents et qu’ils ont une solution puis calculer cette solution et montrer qu’elle est
unique.

Exercice 5
Résoudre le problème de programmation quadratique elliptique sous contraintes :

1
min x⊤ Ax − b⊤ x
x 2
Cx = c
Dx ⩽ d

où A ∈ Mn (R) définie positive, b ∈ Rn , C ∈ Mp,n (R), c ∈ Rp , D ∈ Mq,n (R), d ∈ Rq .

Solution

Le vecteur gradient du lagrangien du problème est :

p
X q
X
∇x L(u, λ, µ) = ∇f (u) + λi ∇ϕi (u) + µj ∇ψj (u)
i=1 j=1

3
En notant ci et dj la i e ligne de la matrice C et la j e ligne de la matrice D, ∇ϕi (u) = c⊤
i et
∇ψj (u) = d⊤
j . Aussi :
p
X q
X
⊤
∇x L(u, λ, µ) = ∇f (u) + λi ci + µj d⊤
j
i=1 j=1
⊤ ⊤
= Au − b + C λ + D µ
b. Les conditions de KKT s’écrivent ici :
Au − b + C ⊤ λ + D ⊤ µ = 0
µ⩾0
µ⊤ (Du − d) = 0.

Exercice 6
Résoudre  
min (x − 1)2 + (y − 1)2 : x + 2y − 1 ≤ 0 et 2x + y − 1 ≤ 0

Solution

On pose pour tout x, y ∈ R

f (x, y) = (x − 1)2 + (y − 1)2 , h1 (x, y) = x + 2y − 1 et h2 (x, y) = 2x + y − 1.

On a pour tout x, y ∈ R
! " #
2(x − 1) 2 2 0
∇f (x, y) = et ∇ f (x, y) = = 2I2
2(y − 1) 0 2

donc f est fortement convexe et différentiable. Comme il y a deux contraintes d’inégalités qui
sont affines, on conclut que (1) est un problème d’OCD et qu’il admet une unique solution. On
détermine cette solution par un argument de dualité Lagrangienne. La fonction de Lagrange
associée à (1) est définie en tout point x, y ∈ R et µ1 , µ2 ≥ 0 par

L ((x, y), (µ1 , µ2 )) = f (x, y) + µ1 h(x, y) + µ2 h2 (x, y)

Le problème dual associé est

max ψ (µ1 , µ2 ) où ψ (µ1 , µ2 ) = inf L ((x, y), (µ1 , µ2 )) .

µ1 ,µ2 ≥0 (x,y)∈R2

Déterminons explicitement le problème dual. Soit µ1 , µ2 ≥ 0, on note µ = (µ1 , µ2 ). Comme

(x, y) ∈ R2 → L((x, y), µ) est
 convexe et deux fois
 différentiable,
  L(·, µ) atteint son minimum
2
sur R en un point xµ , yµ si et seulement si ∇L xµ , yµ , µ = 0 càd
(
xµ = 1 − µ2 − µ1 /2
yµ = 1 − µ1 − µ2 /2

On a donc
   5µ2 5µ2
ψ (µ1 , µ2 ) = L xµ , yµ , (µ1 , µ2 ) = 2µ1 + 2µ2 − 2µ1 µ2 − 1 − 2 .
4 4

4
On sait que ψ est concave, on peut anssi vérifiée qu’elle est fortement concave puisque
" #
2 −1 5 4 −1
∇ ψ (µ1 , µ2 ) = ⪯ I
2 4 5 2 2
vu que −9/2 et −1/2 sont les valeurs propres de cette Hessienne. On sait alors que le problème
dual admet une unique solution. On peut regarder le point critique de ψ pour voir s’il est dans
la contrainte (cela nous évitera peut-être à analyser le problème sous contrainte donné par le
problème dual). On a ∇ψ (µ1 , µ2 ) = 0 si et seulement si µ1 = µ2 = 4/9. On voit que cette solution
est bien dans la contrainte du problème dual (càd µ1 ≥ 0 et µ2 ≥ 2 ) et c’est donc bien la solution
au problème dual. On pose µ∗ = (4/9, 4/9) = µ∗1 , µ∗2 et
( ∗
x = xµ∗ = 1 − (4/9) − (4/9)/2 = 1/3
y ∗ = yµ∗ = 1 − (4/9) − (4/9)/2 = 1/3
On vérifie que (x∗ , µ∗ ) vérifie les conditions KKT : 1) x∗ est un minimiseur de L (·, µ∗ ) (vu plus
haut) 2) x∗ est faisable pour le primal car h1 (x∗ , y ∗ ) = 0 et h2 (x∗ , y ∗ ) = 0 de même µ∗ est faisable
pour le dual 3) µ∗1 h1 (x∗ , y ∗ ) = 0 et µ∗2 h2 (x∗ , y ∗ ) = 0. On en déduit alors que x∗ est solution de (1)
et on sait qu’elle est unique par stricte convexité. L’unique solution de (1) est donc (1/3, 1/3).

Exercice 7
Une entreprise fabrique deux modèles de petites voitures, les modèles X et Y . Le modèle
X, le plus abordable, se vend à 1 €pièce. Quant au modèle Y , beaucoup plus sophistiqué, il se
vend à 3 €. Le coût de fabrication, exprimé en €, est donné par la fonction suivante :
C(x, y) = 5x2 + 5y 2 − 2xy − 2x − 1000
où x est le nombre de petites voitures du modèle X et y est le nombre de petites voitures du
modèle Y . On suppose que les jouets fabriqués sont tous écoulés sur le marché. Dans tout
l’exercice, on notera C+ = (R∗+ )2 .
1. Soit (x, y) ∈ C+ . Déterminer le profit P (x, y) réalisé par l’entreprise lorsqu’elle a vendu x
jouets de modèle X et y jouets de modèle Y .
2. Étudier la convexité de la fonction P sur C+ .
3. La capacité de production de l’entreprise est au total de 20 jouets par jour. En supposant
que l’entreprise tourne à plein régime, trouver la répartition optimale entre les modèles
de type X et Y permettant de maximiser le profit quotidien. Calculer dans ce cas le pro-
fit réalisé. Indication : dans cette question et la suivante, on ne tiendra pas compte des
contraintes (pourtant naturelles) " x ≥ 0 " et " y ≥ 0 ".
4. Le conseil d’administration de l’entreprise s’interroge sur la pertinence de vouloir pro-
duire à pleine capacité. Il se demande s’il ne peut pas augmenter le profit en produisant
autrement. Pouvez-vous aider le conseil d’administration ?

Solution

1. Le profit est la différence entre le gain et le coût de production, donc P (x, y) = x + 3y −

C(x, y), puis
P (x, y) = −5x2 − 5y 2 + 2xy + 3x + 3y + 1000.
2. P étant C ∞ , !on peut étudier sa convexité à l’aide de sa hessienne. On a hess P (x, y) =
−10 2
. De plus, étant symétrique réelle, la matrice hess P est diagonalisable de
2 −10
valeurs propres λ1 et λ2 telles que λ1 + λ2 = Tr hess P = −20 et λ1 λ2 = det( hess P ) = 96.
On en déduit que λ1 et λ2 sont strictement négative et P est donc concave sur R2 .

5
3. La contrainte sur la capacité de production s’écrit x+y = 20. On est donc amené à résoudre
le problème d’optimisation sous contrainte suph(x,y)=0 P (x, y) avec h(x, y) = x + y − 20.
Puisquen P est quadratique et strictement concave, −P est coercive (à vérifier), et l’en-
semble (x, y) ∈ R2 | h(x, y) = 0} est un fermé de dimension finie (image réciproque de
{0} par h qui est continue). Par conséquent, le problème précédent a une solution. Étu-
dions les conditions d’optimalité (qui sont donc des CNS). Puisque pour tous (x, y) ∈ R2 ,
∇h(x, y) , 0, les contraintes sont qualifiées en tout point. On a alors l’existence de λ ∈ R
tel que ∇P (x, y) = λ∇h(x, y), soit

 −10x + 2y + 3 = λ (

 x = y = 10
−10y + 2x + 3 = λ ⇐⇒

λ = −77


 x + y = 20


On obtient ainsi la répartition optimale de voitures X et Y à produire et le profit réalisé

vaut P (10, 10) = 260.
4. Le problème que l’on peut résoudre afin de satisfaire le conseil d’administration devient
suph(x,y)≤0 P (x, y). L’existence s’obtient par le même argument. Étudions les conditions
d’optimalité. On écrit les conditions KKT associées à ce problème, on a l’existence de
µ ≤ 0 tel que

 −10x + 2y + 3 = µ  3−µ

  x=y= 8 (
(x, y) = (10,10), µ = −77

 −10y + 2x + 3 = µ 

⇐⇒ 
 x ≤ 10 ⇔
 
x + y ≤ 20 ou (x, y) = 38 , 38 , µ = 0



 
 µ(x + y − 20) = 0

 µ(x + y − 20) = 0
 
Or, P (10, 10) = 260 < P 38 , 83 = 8009
8 ≃ 1001.125. En conclusion, compte tenu des coûts
de production, il est préférable
  de moins produire de voitures X et Y et les proportions
3 3
optimales sont (x, y) = 8 , 8 .