RESEAUX DE NEURONES

1
RESEAUX DE NEURONES

• Reconnaissance de caractères digitaux par une
  méthode de réseaux de neurones

2
Introduction

• Article de S.KNERR, L.PERSONNAZ, G.DREYFUS
• But Mise en place dune méthodologie de
  reconnaissance de caractères digitaux (chiffres).
• 2 bases de données (européenne et US)

3
Introduction (suite)

• La reconnaissance de caractère se décompose en 3
  sous problèmes
• choix de la représentation des données
• choix de la structure du classifieur
• apprentissage du classifieur sur une série
  dexemples

4
Pré-traitement des donnéesbases de données

• 2 bases de données
• Une base européenne constituée de 8700 caractères
  écrits par 13 personnes différentes

5
Pré-traitement des donnéesbases de données 2

• Une base américaine constituée de 9000
  caractères, provenant des services postaux

6
Pré-traitement des données Choix de la
représentation des données

• 2 critères vitesse dexécution et limites
  matérielles
• 2 cas de figure
• représentation de bas niveau (peu de règles) et
  ensemble dapprentissage grand
• représentation de haut niveau (plus de temps de
  pré-traitement)

7
Pré-traitement des données Choix de la
représentation des données 2

• deux représentations de données ont été
  utilisées
• une représentation par pixels
• une représentation par segments (horizontaux,
  verticaux et diagonaux  les courbes ne sont pas
  prises en compte)
• La deuxième représentation semble être mieux
  adaptée au problème de reconnaissance de
  chiffres 

8
Pré-traitement des données Pré-traitement

• Première étape isolation des caractères
• Dans la représentation par pixels tous les
  éléments binaires sont normalisés
• image 16x16 pixels
• 16 niveaux de gris
• Codés sur 256 4-bits

9
Pré-traitement des données Pré-traitement 2

• La représentation par segments incorpore des
  connaissances plus a priori sur le problème
  d'identification
• L'image est balayée par les 4 masques (3x3)
  ? 4 représentations
• On obtient 4 images en 16 niveaux de gris
• normalisation en 8x8
• La représentation de données finale correspond à
  4x8x8 256 entrées 4-bit
• NB même format que la représentation par pixels.

10
Pré-traitement des données Pré-traitement 3

• procédure de pré-traitement pour la
  représentation par segments
•  

11
Choix du réseau de neuronesprocédé STEPNET

• Décomposition du procédé STEPNET en 3 étapes
• séparation linéaire de chaque classe
• séparation linéaire des classes qui nont pas été
  distinguées dans la première étape (chaque
  neurone utilisé représente la distinction entre
  deux classes uniquement)
• les paires de classes non séparées peuvent être
  distinguées par des surfaces de décision
  linéaires par morceaux

12
Choix du réseau de neuronesprocédé STEPNET 2

• Réseau de le procédure STEPNET

13
Choix du réseau de neuronesRègles
dapprentissage utilisées

• Comportement du classifieur dépend de la règle
  dapprentissage utilisée
• Choix Règle du delta généralisée pour former
  les 45 neurones du réseau
• Pas de convergence fixé avant lapprentissage

14
Choix du réseau de neuronesRègles
dapprentissage utilisées 2

• évolution de lerreur à minimiser et du taux de
  reconnaissance

15
Choix du réseau de neuronesEstimation de la
performance du classifieur

• 3 critères pour cette estimation
• Nombre de bien classés
• Nombre de mal classés
• Nombre de rejetés
• NB Dans certains cas on préférera minimiser le
  nombre de mal classés au dépend du nombre de
  rejetés

16
Choix du réseau de neuronesmécanisme de rejet
17
Choix du réseau de neuronesmécanisme de rejet 2

• Chaque neurone compare son potentiel v(i/j) à un
  seuil q.
• Les deux sorties binaires s(i/j)j et s(i/j)i sont
  
• -si v (i/j) lt - q, et ( s (i/j)j 1 et s (i/j)i
  0 )
• -si v (i/j) gt q, et ( s (i/j)j 0 et s (i/j)i
  1 )
• -sinon (dans le cas où q lt v (i/j) lt q ), s
  (i/j)j s (i/j)i 0

18
Résultats

• Taille équivalente entre les 2 bases lensemble
  dapprentissage choisi pour la base US est plus
  grand (80 de la base contre 50).

19
Résultats 2

• résultats obtenus pour la base européenne

20
Résultats 3

• résultats obtenus pour la base américaine

21
Résultats 4

• Exemples de mal classés dans la base US

22
Résultats 5

• Résultats avec un MLP

23
Résultats 6

• Lefficacité d'un classificateur est mesurée
  suivant plusieurs données 
• Qualité des résultats
• Complexité du réseau (nombre et type des unités
  de nombre de raccordements)
• Temps dapprentissage
• Temps de classification
•