Introduction aux réseaux de neurones PDF

Qu’est-ce que la classification? Classifier = donner automatiquement un nom, une étiquette localisation...

Qu’est-ce que la classification? Classifier = donner automatiquement un nom, une étiquette localisation 7 Introduction aux réseaux de Monsieur Louis Quatorze neurones Boulevard du Roi 78000 VERSAILLES Calcul de caractéristiques Gilles Burel Université de Brest / département d’électronique Version 20809 Classification Classe du chiffre (ex: 7) Primitives (cavités, profils,…) Confiance La classification est l’étape ultime en reconnaissance de formes 1 2 Fonctionnement d’un classifieur Codage binaire de la classe Exemple avec un problème à 4 classes en reconnaissance d’avions: Classe 1 (Airbus A320): [+1 -1 -1 -1]T Classe 2 (Embraer 190): [-1 +1 -1 -1]T Classe 3 (Boeing 737): [-1 -1 +1 -1]T Classe 4 (ATR42) : [-1 -1 -1 +1]T 3 4  Perceptron multicouche (réseau de neurones) Neurone à 2 entrées (+ seuil) e1 w1 w2 x s e2 ∑ F +1 wS w  x = w1e1 + w2 e2 + wS w= 1  w2  = w.e + wS Modèle du neurone = w e cos ( w, e ) + wS e  e = 1 = w projw (e ) + wS Modèle du réseau  e2  Gilles Burel / Université de Brest 5 Gilles Burel / Université de Brest 6 Fonction non linéaire du neurone (F) Domaines de décision d’un neurone e1 w1 w2 x s Tangente hyperbolique s = tanh(x) e2 ∑ Signe +1 wS s = +1 ⇔ x ≥ 0 ⇔ w projw (e ) + wS ≥ 0 Aproximation On pose: ⇔ projw (e ) ≥ L de tanh wS par la fonction L=− s = Signe(x) w s = −1 ⇔ x < 0 Signe ⇔ projw (e ) < L Gilles Burel / Université de Brest 7 Gilles Burel / Université de Brest 8  Domaines de décision d’un neurone Apprentissage de la fonction AND w2 e2 Numéro de s = +1 l’exemple e1 e2 s 1 -1 -1 -1 s = +1 e2 (2) Porter la longueur (signée) L sur cette droite 2 -1 +1 -1 et marquer le point obtenu. 3 +1 -1 -1 4 2 4 +1 +1 +1 (3) Tracer la droite orthogonale à D qui w L coupe D en ce point: c’est la frontière entre les domaines de décision e1 w1 s = -1 e1 (1) Tracer la s = -1 1 3 droite D Gilles Burel / Université de Brest 9 Gilles Burel / Université de Brest 10 Réseau de neurones capable d’apprendre la Apprentissage de la fonction XOR fonction AND Numéro de l’exemple e1 e2 s Sortie 1 -1 -1 -1 e2 2 -1 +1 +1 s 3 +1 -1 +1 2 4 4 +1 +1 -1 s1 = -1 s2 = +1 s1 = +1 e1 s2 = -1 e1 Entrées e2 1 3 Gilles Burel / Université de Brest 11 Gilles Burel / Université de Brest 12 Réseau de neurones capable d’apprendre la Apprentissage de la fonction XOR fonction XOR Numéro de Sortie l’exemple s1 s2 s 1 +1 -1 -1 s2 s Vérification sur la 2 -1 -1 +1 diapo suivante 3 -1 -1 +1 4 4 -1 +1 -1 s1 s2 s = -1 s = +1 s1 e1 Entrées e2 2,3 1 Gilles Burel / Université de Brest 13 Gilles Burel / Université de Brest 14