Réseaux de neurones artificiels «le neurone formel» S. Canu, laboratoire psi, insa de Rouen

Réseaux de neurones artificiels « le neurone formel »

• S. Canu,

• laboratoire PSI, INSA de Rouen

• équipe « systèmes d’information pour l’environnement »

• asi.insa-rouen.fr/~scanu

Le neurone biologique

Le neurone formel

Le neurone formel

Phydsiologie

Discrimination Linéaire

Géométrie : illustration dans R2

Estimation... et rêve

Cas gaussien multidimensionnel

Moindres carrés

Résistance aux « outliers »

Moindre carrés « stochastiques » ADALINE (Widrow Hoff 1960)

Algorithme de gradient : illustration dans le plan w1,w2

3 solutions

Algorithme itératif

ADALINE, Ça marche...

ADALINE des fois ça ne marche pas…

Le Perceptron, des fois ça ne marche pas...

Règle du perceptron (Rosenblatt 1958)

Règle du perceptron (Rosenblatt 1958)

Règle du perceptron (Rosenblatt 1958)

Convergence des algorithmes de gradient

Performances des algorithmes linéaires

Performances des algorithmes linéaires

Conclusion