Seppo Linnainmaa
Seppo Ilmari Linnainmaa, né le à Pori[1], est un mathématicien et informaticien finlandais. Il s'est fait connaitre en créant la version moderne de la rétropropagation du gradient (rétropropagation).
| Naissance | |
|---|---|
| Nationalité | |
| Formation | |
| Activités |
| A travaillé pour | |
|---|---|
| Directeur de thèse |
Martti Tienari (d) |
Éléments de biographie
modifierSeppo Linnainmaa a obtenu en 1970 une maîtrise, avec un mémoire dans lequel il introduit un mode inverse de différenciation automatique[2]. En 1974, il obtient le premier doctorat décerné en informatique à l'université d'Helsinki[3].
Il est nommé professeur adjoint en 1976. De 1989 à 2007, il est professeur-chercheur au Centre de recherche technique VTT de Finlande et est retraité depuis 2007.
Il a aussi été professeur invité à l'université du Maryland, aux États-Unis, en 1984-1985.
De 1986 à 1989, il préside la Société finlandaise d'intelligence artificielle.
Algorithme de rétropropagation
modifierLa rétropropagation d'erreur explicite et efficace dans des réseaux de type réseaux de neurones arbitraires, discrets, éventuellement peu connectés, a été décrite pour la première fois dans la thèse de maîtrise de Linnainmaa en 1970[2],[4], bien que sans référence aux réseaux de neurones[5], lorsqu'il a introduit le mode inverse de différenciation automatique (DA) pour calculer efficacement la dérivée d'une fonction composée différentiable qui peut être représentée sous forme de graphique, en appliquant récursivement la règle de chaîne aux éléments constitutifs de la fonction[3],[4],[6]. Linnainmaa a publié le premier cette méthode, à la suite de Gerardi Ostrowski qui l'avait utilisée dans le contexte de certains modèles de processus en génie chimique environ cinq ans plus tôt, mais sans l'avoir publiée.
Avec l'apparition de puces et d’ordinateurs de plus en plus rapides et puissants, l'usage de cette méthode s'est répandu et elle a de nombreuses applications. Ainsi, la rétropropagation des erreurs dans les perceptrons multicouches, une technique utilisée en apprentissage automatique, est un cas particulier de la différentiation automatique en mode inverse.
Références
modifier- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Seppo Linnainmaa » (voir la liste des auteurs).
- (fi) Suomen professorit 1640–2007, Helsinki, Professoriliitto, (ISBN 978-952-99281-1-8), p. 405.
- (en) « Seppo Linnainmaa (Mathematician and Computer Scientist) », OnThisDay.com (consulté le ).
- Andreas Griewank, « Who Invented the Reverse Mode of Differentiation? », dans Documenta Matematica, Extra Volume ISMP, (S2CID 15568746), p. 389–400.
- (en) Linnainmaa, « Taylor expansion of the accumulated rounding error », BIT Numerical Mathematics, vol. 16, no 2, , p. 146–160 (DOI 10.1007/BF01931367, S2CID 122357351).
- (en) Jürgen Schmidhuber, « Who Invented Backpropagation? », .
- (en) Andreas Griewank et Andrea Walther, Evaluating Derivatives : Principles and Techniques of Algorithmic Differentiation, Philadelphie, Society for Industrial and Applied Mathematics, , 2e éd., 459 p. (ISBN 978-0-89871-659-7 et 978-0-89871-776-1, DOI 10.1137/1.9780898717761, lire en ligne), p. 12.
Voir aussi
modifierArticles connexes
modifierLiens externes
modifier
- Ressources relatives à la recherche :
