Méta-heuristiques et

Algorithmes Evolutionnaires

M2-Ingénierie des systèmes et technologies du web

Université de Médéa
LOGO
 Méta-heuristiques et Algorithmes Evolutionnaires

Présentation de la matière

 Crédits : 5

 Coefficient : 3

 Objectifs : Acquisition d’approches intelligentes de résolution

des problèmes complexes. L’accent sera mis sur les méta-
heuristiques, et plus précisément les algorithmes
évolutionnaires.

 Connaissances préalables recommandées :

Notions de base en :

- Algorithmique et complexité des algorithmes

- Intelligence artificielle.

2 S.B 2021-2022
 Méta-heuristiques et Algorithmes Evolutionnaires

Présentation de la matière

 V.H hebdomadaire : 1C + 1TD + 1TP

Contenu de la matière :

Chapitre 1: Introduction aux Méta-heuristiques.

Chapitre 2: Approches constructives.

Chapitre 3: Méthodes de voisinage.

Chapitre 4: Algorithmes évolutionnaires.

Chapitre 5: Algorithmes basés sur l'intelligence en essaim.

3 S.B 2021-2022
Méta-heuristiques et Algorithmes
Evolutionnaires

Chapitre I
Introduction aux
Méta-heuristiques
M2-Ingénierie des systèmes et technologies du web

Université de Médéa
LOGO
 Introduction aux Métaheuristiques

Plan de cours

Problèmes d’optimisation

Exemples

Notions sur la complexité

Définitions

Méthodes de résolution

5 S.B 2021-2022
 Introduction aux Métaheuristiques

1- Problèmes d’optimisation combinatoire

 L’optimisation combinatoire occupe une place très

importante en recherche opérationnelle et en informatique.
De nombreuses applications pouvant être modélisées sous
la forme d’un problème d’optimisation combinatoire

 Les problèmes d’optimisation combinatoire sont des

problèmes dont la résolution se ramène à l’examen d’un
nombre fini de combinaisons (solutions) et souvent cette
résolution conduit à une explosion du nombre de
combinaisons à explorer.

6 S.B 2021-2022
 Introduction aux Métaheuristiques

1- Problèmes d’optimisation combinatoire

 Optimisation = modélisation + résolution

1. modélisation d'un problème : espace de recherche, solutions

2. formulation mathématique : fonction objectif, contraintes

3. application d'une méthode d'optimisation

4. obtention d'une solution

7 S.B 2021-2022
 Introduction aux Métaheuristiques

1- Problèmes d’optimisation combinatoire

 Un problèmes d’optimisation combinatoire peut être défini par:

• Vecteur de variables x = (x1, x2, …, xn).

• Domaine des variables D = (D1, D2, …, Dn). Di ensemble fini.

• Ensemble de contraintes.

• Une fonction objectif f à minimiser ou à maximiser.

• Ensembles de toutes les solutions réalisables possibles S:

S = { x =(x1, x2, , xn) ϵ D / x satisfait toutes les contraintes}
l’ensemble S est aussi appelé un espace de recherche.
 La résolution de problème d’optimisation combinatoire consiste à
trouver la meilleure solution, définie comme un optimum global.

8 S.B 2021-2022
 Introduction aux Métaheuristiques

1- Problèmes d’optimisation combinatoire

 Difficulté d’un problème d’optimisation combinatoire

- Taille de l’espace de recherche

- « Paysage » de la fonction de coût.

Plusieurs méthodes issues de la recherche opérationnelle (RO) et de

l’intelligence artificielle (IA) ont été développer pour la résolution des
problèmes d’optimisation combinatoire.

 Les méthodes de résolution exactes permettent d’obtenir des solutions

dont l’optimalité est garantie, dans certaines situations, on peut
cependant chercher des solutions de bonne qualité sans garantie
d’optimalité, mais au profit d’un temps de calcul plus réduit. Pour cela,
on applique des méthodes appelées méta-heuristiques.

9 S.B 2021-2022
 Introduction aux Métaheuristiques

2- Exemples de P.O.C :
• Affectation de fréquence en téléphonie
• Le problème du sac-à-dos
• Problème SAT et Max-SAT
• Découpage de verre sans perte
• Gestion de ressource
• Emploi du temps
• Sélection d’attributs dans la classification
• Ordonnancement dans les systèmes d’exploitation ou
ordonnancement manufacturier
• Routage de véhicules
• Le voyageur de commerce
• … etc.
10 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

• Dans la résolution des problèmes d’optimisation combinatoire, le
temps d’exécution est généralement un facteur majeur qui
détermine l’efficacité d’un algorithme.
• La complexité d’un algorithme est le nombre d’instructions
nécessaires pour la résolution d’un problème quelconque.

• Définition 1 (Borne supérieure asymptotique):

Une fonction f(n) est O(g(n)) (f(n) est de complexité g(n)), s’il
existe un réel c>0 et un entier positif n0 tel que :
Pour tout n> n0 on a |f(n)| ≤ c.g(n).

11 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

Quelques fonctions asymptotiques :
f(n) = n3
f(n) = 2n
f(n) = n2

f(n) = n log (n)

f(n) = n

f(n) = log (n)

12 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

Définition 2 : un algorithme en temps polynomial est un
algorithme dont le temps de la complexité est O(p(n)),
où p est une fonction polynomiale et n est la taille de l’instance
(ou sa longueur d’entrée).
Si k est le plus grand exposant de ce polynôme en n , le
problème correspondant est dite être résoluble en O(nk) et
appartient à la classe P.
• Définition 3 :
La classe NP contient les problèmes de décision qui peuvent être
décider sur une machine non déterministe en temps polynomial.

13 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

• Intuitivement, c’est la casses des problèmes qui peuvent être résolus
en énumérant l’ensemble des solutions possibles et en les testant à
l’aide d’un algorithme polynomial.
• Définition 4 : (La classe NP-complet)
Parmi l’ensemble des problèmes appartenant à NP, il en existe un sous
ensemble qui contient les problèmes les plus difficiles : on les appelle
les problèmes NP-complets. Un problème NP-complet possède la
propriété que tout problème dans NP peut être transformer (réduit) en
celui-ci en temps polynomiale.
• Définition 5 :(La classe NP-difficile)
Un problème est NP-difficile s’il est plus difficile qu’un problème NP-
complet, c’est-à-dire s’il existe un problème NP-complet se réduisant à
ce problème par une réduction de Turing.
14 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

15 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

• Exemple de problème NP-complet:
• Problème du voyageur de commerce (PVC) ou Travelling Salesman
Problem (TSP)
• Etant donné une liste de n villes et les distances entre toutes les pairs de
villes, le problème est de trouver un chemin de longueur totale minimale
qui passe exactement une fois par chaque ville et revienne à la ville de
départ.
• Formellement, une instance est un graphe complet G = (V, A, ω) avec V
est un ensemble de sommets, A un ensemble d'arêtes et ω une fonction
de coût sur les arcs. Le problème est de trouver le plus court cycle
Hamiltonien dans le graphe G.

16 S.B 2021-2022
 Introduction aux Métaheuristiques

3- Notions sur la complexité :

• Problème du voyageur de commerce

1 ombre de Nombre de
 Pour n villes on a (n-1)! villes n chemins
2

Chemins candidats à 3 1
4 3
considérer.
5 12
6 60
• Pour les instance de grande
7 360
taille, on devra donc souvent 8 2 520
se contenter des solutions 9 20 160
approchées, car on se 10 181 440
15 43 589 145 600
retrouve face à une
20 6,082 × 1016
explosion combinatoire. 71 5,989 × 1099
17 S.B 2021-2022
 Introduction aux Métaheuristiques

4- Définitions :
Heuristique : Du grec heuriskein : trouver/découvrir (heureka)
Est un algorithme ou technique qui à pour but de trouver une solution
réalisable, sans garantir l’optimalité. Généralement une heuristique
est conçue pour un problème donné.
Métaheuristique :
- Les méta-heuristiques forment un ensemble de méthodes utilisées
en recherche opérationnelle et en intelligence artificielle pour
résoudre des problèmes d’optimisation réputés difficiles.
- Une métaheuristique est une méthode algorithmique capable de
guider et d’orienter le processus de recherche dans un espace de
solutions, souvent très grand à des régions riches en solutions
optimales.

18 S.B 2021-2022
 Introduction aux Métaheuristiques

4- Définitions :
- Les méta-heuristiques sont des méthodes abstraites et plus
génériques qui peuvent être utiliser pour des champs
d’applications différents, relativement avec des petites
modifications pour les adapter à un problème spécifique.
- Les méta-heuristiques permettent, de trouver des solutions,
peut-être pas toujours optimales, en tout cas très proches de
l’optimum et en un temps raisonnable.
Intensification et diversification
Le principe d’intensification et de diversification est un point
critique pour toute méta-heuristique, il consiste à trouver un
compromis entre les deux tendances duales suivantes :

19 S.B 2021-2022
 Introduction aux Métaheuristiques

4- Définitions :
 Intensifier l’effort de recherche vers les zones les plus
prometteuses de l’espace de solutions.
 Diversifier l’effort de recherche de façon à être capable de
découvrir de nouvelles zones contenant de meilleures
combinaisons (solutions).
La façon d’intensifier ou de diversifier la recherche dépend d’une
métaheuristique à une autre. Pour les approches dites
perturbatrices, l’intensification de la recherche se fait en favorisant
l’exploration des meilleurs voisins d’une solution. Et La
diversification se fait généralement en introduisant une part
d’aléatoire (par exemple autorisé avec une faible probabilité la
recherche à choisir des voisins de moins bonne qualité).
20 S.B 2021-2022
 Introduction aux Métaheuristiques

4- Définitions :
Minimum Local et Minimum Global :
Soit S un ensemble de solutions à un problème d’optimisation et f
une fonction objectif qui mesure la valeur f(s) avec s ϵ S. Pour un
problème de minimisation on cherche à déterminer une solution s
qui minimise f. Dans le domaine d’optimisation on distingue deux
types de minimums :

21 S.B 2021-2022
 Introduction aux Métaheuristiques

4- Définitions :

Minimum Local et Minimum Global :

 Minimum Local : une solution s est minimum local par

apport à une structure de voisinage N si
∀ 𝑠 ′ ∈ 𝑁 𝑠 ∶ 𝑓 𝑠 ≤ 𝑓(𝑠 ′ )
 Minimum Global : une solution s est minimum global si
∀ 𝑠 ′ ∈ 𝑆 ∶ 𝑓 𝑠 ≤ 𝑓(𝑠 ′ )
 Voisinage : le voisinage est une fonction notée N qui
associe un sous ensemble de S à toute solution s. les
voisins de s sont 𝑠 ′ ∈ 𝑁 𝑠 .
22 S.B 2021-2022
 Introduction aux Métaheuristiques

5- Classification des méthodes de résolution

des des problèmes d’optimisation

Méthodes de
résolution

Méthodes Méthodes
exactes approchées

Programmation Branch and Programmation Heuristiques Méta-

…
linéaire Bound dynamique spécifiques heuristiques

23 S.B 2021-2022
 Introduction aux Métaheuristiques

5- Classification des méthodes de résolution

des problèmes d’optimisation

Classification des méta-heuristiques :

 les méta-heuristiques peuvent être classifiées selon divers critères,
mais le plus souvent, elles sont catégorisées suivant le nombre de
solutions générées :

 Méta-heuristiques à solution unique (méthodes à base de voisinage)

 Méta-heuristiques à population de solutions

 De plus, les algorithmes méta-heuristiques sont classés en plusieurs

catégories selon leur inspiration : algorithmes évolutionnaires,
algorithmes basés sur l’essaim, algorithmes basés sur la physique
etc. comme ils sont représentées dans la Figure suivante :

24 S.B 2021-2022
 Introduction aux Métaheuristiques

5- Classification des méthodes de résolution

des problèmes d’optimisation
Classification des méta-heuristiques :
Méta-heuristiques

Méthodes à solution unique Méthodes à population

basé sur l’évolution À base d’essaim basé sur la physique …

ILS

TS GSA
Organismes vivants Inspiration sociale
GA
SA
LAPO
GP PSO FA TLBO SGO
…
ES CSA ACO …
NPO CEA
… …
25 S.B 2021-2022