Les réseaux de neurones

Il s'agit d'un neurone binaire, c'est-à-dire dont la sortie vaut 0 ou 1. Pour calculer cette sortie, le neurone effectue une somme pondérée de ses entrées (qui, en tant que sorties d'autres neurones formels, valent aussi 0 ou 1) puis applique une fonction d'activation à seuil : si la somme pondérée dépasse une certaine valeur, la sortie du neurone est 1, sinon elle vaut 0 (cf les sections suivantes).

Un réseau de neurones est un ensemble de neurones formels connectés entre eux (par des synapses). Chaque variable en entrée correspond à un neurone : c'est la couche d'entrée ainsi que chaque variable à expliquer  : c'est la couche de sortie. Entre ces deux couches, il peut éventuellement y avoir d'autres couches dites cachées.

Un réseau de neurone particulier est caractérisé par :

• la définition des neurones formels le constituant (type de fonction de combinaison ou d'activation)

• sa structure (couches cachées ou non), nombre de connexions

• son mode d'apprentissage (utilise plusieurs fois les données ou non par exemple)

• son mode : supervisé (modèle prédictif) ou non supervisé (modèle descriptif)

Choisir le dimensionnement d'un réseau de neurones peut s'avérer complexe.

Quelques règles empiriques :

• Réseau à rétro-propagation : au moins 5 à 10 individus pour ajuster chaque poids

• En général : une couche cachée pour un réseau RBF, deux maximum pour un perceptron multicouches