Alexey Ivakhnenko - Alexey Ivakhnenko

Alexey Ivakhnenko
Né	Oleksiy Hryhorovych Ivakhnenko ( 30/03/1913 ) 30 mars 1913 Kobelyaky , gouvernorat de Poltava , empire russe
Décédés	16 octobre 2007 (16/10/2007) (à 94 ans) Kiev , Ukraine
Nationalité	ukrainien
mère nourricière	Institut électrotechnique de Leningrad ( M.Sc )
Connu pour	Méthode de traitement des données en groupe , apprentissage en profondeur , modélisation inductive
Prix	Scientifique honoraire de l'URSS Deux prix d'État de l'URSS
Carrière scientifique
Des champs	Intelligence artificielle , apprentissage automatique , informatique
Les institutions	Glushkov Institute of Cybernetics uk , Kyiv Electrotechnical Institute , Kyiv Polytechnic Institute ( D.Sc )
Thèse	Théorie des systèmes combinés pour la commande automatique des moteurs électriques   (1954)
Étudiants notables	VM Kuntsevich, VI Kostiuk VI Ivanenko, VI Vasylyev OA Pavlov

Alexey Ivakhnenko ( ukrainien : Олексíй Григо́рович Іва́хненко ); (30 mars 1913 - 16 octobre 2007) était un mathématicien soviétique et ukrainien le plus connu pour avoir développé la méthode de gestion des données en groupe (GMDH), une méthode d'apprentissage statistique inductif, pour laquelle il est parfois appelé le «père de l' apprentissage profond ".

Première vie et éducation

Aleksey est né à Kobelyaky , dans le gouvernorat de Poltava dans une famille d'enseignants. En 1932, il est diplômé de l'école électrotechnique de Kiev et a travaillé pendant deux ans comme ingénieur sur la construction d'une grande centrale électrique à Berezniki . Puis en 1938, après avoir obtenu son diplôme de l' Institut électrotechnique de Leningrad , Ivakhnenko a travaillé à l' Institut électrotechnique de l'Union à Moscou pendant la guerre . Là, il a enquêté sur les problèmes de contrôle automatique dans le laboratoire, dirigé par Sergey Lebedev .

Il a poursuivi ses recherches dans d'autres institutions ukrainiennes après son retour à Kiev en 1944. Cette année-là, il a obtenu son doctorat. diplôme et plus tard, en 1954 avait reçu un D.Sc. degré. En 1964, il a été nommé chef du département des systèmes de contrôle combinés à l'Institut de cybernétique. Travaillant simultanément d'abord comme maître de conférences, et à partir de 1961, comme professeur de contrôle automatique et de cybernétique technique à l' Institut polytechnique de Kiev .

Rechercher

Ivakhnenko est connu pour être le fondateur de la modélisation inductive, une approche scientifique utilisée pour la reconnaissance de formes et la prévision de systèmes complexes. Il avait utilisé cette approche lors du développement de la méthode de traitement des données en groupe (GMDH). En 1968, la revue "Avtomatika" avait publié son article "Méthode de groupe de traitement des données - un rival de la méthode d'approximation stochastique", marquant le début d'une nouvelle étape dans son travail scientifique. Il a dirigé le développement de cette approche, avec une équipe professionnelle de mathématiciens et d'ingénieurs à l'Institut de cybernétique.

Méthode de traitement des données par groupe

La méthode GMDH présente une approche unique de la solution des problèmes d' intelligence artificielle et même une nouvelle philosophie de la recherche scientifique , qui est devenue possible grâce aux ordinateurs modernes. Un chercheur peut ne pas adhérer précisément à la manière déductive traditionnelle de construire des modèles «de la théorie générale à un modèle particulier»: surveiller un objet, étudier sa structure, comprendre les principes de son fonctionnement, développer une théorie et tester le modèle d'un objet. Au lieu de cela, la nouvelle approche est proposée "à partir de données spécifiées - vers un modèle général": après la saisie des données, un chercheur sélectionne une classe de modèles, le type de génération de modèles-variantes et définit le critère de sélection du modèle. Comme la plupart des travaux de routine sont transférés vers un ordinateur, l'impact de l'influence humaine sur le résultat objectif est minimisé. En fait, cette approche peut être considérée comme l'une des implémentations de la thèse de l'intelligence artificielle, qui stipule qu'un ordinateur peut agir comme un puissant conseiller pour les humains.

Le développement du GMDH consiste en une synthèse d'idées issues de différents domaines de la science: le concept cybernétique de « boîte noire » et le principe de sélection génétique successive de traits par paires , les théorèmes d'incomplétude de Godel et le principe de Gabor de «liberté de choix des décisions», l' inexactitude des Adhémar et le principe des ajouts externes de la bière .

GMDH est la méthode originale pour résoudre les problèmes d' identification structurale-paramétrique des modèles pour les données expérimentales sous incertitude . Un tel problème se produit dans la construction d'un modèle mathématique qui se rapproche du modèle inconnu de l'objet ou du processus étudié. Il utilise des informations à son sujet qui sont implicitement contenues dans les données. GMDH se distingue des autres méthodes de modélisation par l'application active des principes suivants : génération automatique de modèles, décisions non concluantes et sélection cohérente par des critères externes pour trouver des modèles de complexité optimale. Il avait une procédure multicouche originale pour la génération automatique de la structure des modèles, qui imite le processus évolutif de la sélection biologique en tenant compte des caractéristiques successives par paires. Une telle procédure est actuellement utilisée dans les réseaux d' apprentissage profond . Pour comparer et choisir des modèles optimaux, deux sous-ensembles ou plus d'un échantillon de données sont utilisés. Cela permet d'éviter les hypothèses préliminaires, car la division de l'échantillon reconnaît implicitement différents types d'incertitude lors de la construction automatique du modèle optimal.

Au début des années 1980, Ivakhnenko avait établi une analogie organique entre le problème de la construction de modèles pour les données bruyantes et le signal passant par le canal avec du bruit . Cela a permis de jeter les bases de la théorie de la modélisation insensible au bruit. Le résultat principal de cette théorie est que la complexité du modèle prédictif optimal dépend du niveau d'incertitude des données: plus ce niveau est élevé (par exemple en raison du bruit) - plus le modèle optimal doit être simple (avec moins de paramètres estimés). Cela a initié le développement de la théorie GMDH en tant que méthode inductive d'adaptation automatique de la complexité optimale du modèle au niveau d'information dans les données floues . Par conséquent, le GMDH est souvent considéré comme la technologie de l'information originale pour l' extraction des connaissances à partir de données expérimentales .

Résultats

Parallèlement à GMDH, Ivakhnenko avait développé l'ensemble de résultats suivant:

• Nouveaux principes de contrôle automatique de la vitesse pour les moteurs électriques AC et asynchrones .
• Théorie des systèmes invariants pour le contrôle adaptatif avec compensation des perturbations mesurées. Il avait développé le principe de la mesure indirecte des perturbations, appelée "fourchette différentielle" qui a été utilisée plus tard dans la pratique.
• Principe de contrôle combiné (avec retour négatif pour les variables contrôlées et retour positif pour les perturbations contrôlées). Un certain nombre de ces systèmes, pour le contrôle de la vitesse des moteurs électriques, ont été mis en œuvre dans la pratique. Cela a prouvé la faisabilité pratique de conditions invariantes dans un système de contrôle combiné qui allie les avantages des systèmes fermés pour le contrôle par déviation (haute précision) et des systèmes ouverts (performance).
• Les régulateurs extrêmes non recherchant sur la base de la reconnaissance des situations.
• Principe de la reconnaissance de formes d'auto-apprentissage. Il a été démontré dans un premier temps dans le système cognitif "Alpha", créé sous sa direction.
• Base pour la construction de dispositifs de prédiction cybernétique.
• Théorie des modèles d'auto-organisation selon des données expérimentales.
• Méthode de contrôle avec optimisation des prévisions.
• Principes insensibles au bruit de la modélisation robuste pour les données avec des bruits.
• Principe de construction de réseaux d'apprentissage profond auto-organisés.
• Conception de réseaux de neurones multicouches avec des neurones actifs, où chaque neurone est un algorithme.

Ivakhnenko est bien connu pour ses réalisations dans la théorie de l'invariance et la théorie des systèmes de contrôle automatique combinés, qui fonctionnent sur le principe de la compensation des perturbations mesurées. Il avait développé des dispositifs et des méthodes pour le contrôle adaptatif de systèmes avec des amplificateurs magnétiques et des moteurs.

Il est l'auteur de la première monographie ukrainienne sur la cybernétique technique, qui a été publiée dans le monde entier en sept langues. Dans son étude, un développement ultérieur des principes du contrôle combiné était lié à la mise en œuvre de méthodes d' auto-organisation évolutive , de reconnaissance de formes et de prévision dans les systèmes de contrôle .

Au cours des dernières années, sa principale innovation - la méthode GMDH a été développée en tant que méthode de modélisation inductive, de processus complexes et de prévision de systèmes . Ses idées sont maintenant utilisées dans les réseaux de Deep Learning . L'efficacité de la méthode a été confirmée à plusieurs reprises lors de la résolution de problèmes réels et complexes en écologie , en météorologie , en économie et en technologie , ce qui a contribué à accroître sa popularité auprès de la communauté scientifique internationale. En parallèle, des développements d' algorithmes auto-organisateurs évolutifs ont été menés dans un domaine connexe - les problèmes de regroupement de la reconnaissance de formes. Progrès dans la modélisation des processus environnementaux reflétés dans les monographies, processus économiques - dans les livres. Les résultats de l'exploration d' algorithmes GMDH multicouches récurrents sont décrits dans les livres.

École scientifique

De 1963 à 1989, Ivakhnenko a été rédacteur en chef de la revue scientifique spécialisée "Avtomatika" (plus tard "Problèmes de gestion et informatique"), qui a joué un rôle crucial dans la formation et le développement de l'école ukrainienne de modélisation inductive. Tout au long de ces années, le magazine a été traduit et réimprimé aux États-Unis sous le nom de "Contrôle automatique soviétique" (plus tard "Journal of Automation and Information Sciences").

Parallèlement à l'innovation constante dans son domaine depuis 1945, Ivakhnenko a maintenu une carrière d'enseignant active, d'abord comme professeur assistant au département de mécanique théorique, puis à la faculté des systèmes de contrôle. Depuis 1960, en tant que professeur au Département de cybernétique technique de l'Institut polytechnique de Kiev , il a donné des conférences à l'université et au corps étudiant, et a supervisé le travail de nombreux étudiants diplômés. En 1958-1964, il a été un organisateur des Conférences de toute l'Union sur l'invariance à Kiev, où le développement de la théorie des systèmes de contrôle invariant a été rétabli après l'interdiction.

Son enthousiasme inépuisable a aidé plus de 220 jeunes scientifiques à préparer et à défendre avec succès leur doctorat. des mémoires sous sa direction au KPI et à l'Institut de cybernétique et près de 30 de ses étudiants ont soutenu leurs thèses post-doctorales. L'école scientifique d'Ivakhnenko était et reste un véritable berceau de professionnels scientifiques hautement qualifiés. En outre, ses élèves VMKuntsevych, VIKostyuk, VIIvanenko, VIVasiliev, AAPavlov et d'autres avaient créé leurs propres écoles scientifiques respectées. Ivakhnenko était un brillant exemple de scientifique, doté d'un sens aigu d'une nouvelle et remarquable intuition scientifique. Jusqu'à ses derniers jours, il a continué à travailler activement et généreusement généré des idées et des résultats scientifiques originaux.

Prix ​​et distinctions

Ivakhnenko est le scientifique honoraire de l'URSS (1972), deux fois lauréat du prix d'État (1991, 1997) pour ses travaux sur la théorie des systèmes automatiques invariants et un ensemble de publications sur les technologies de l'information dans le domaine de l'intelligence artificielle. Auteur de 40 livres et de plus de 500 articles scientifiques. Docteur honoris causa de l'Université technique nationale "KPI" (2003) et de l'École polytechnique de Lviv (2005). Il a été membre correspondant de l'Académie des sciences de l'URSS (1961) et académicien de la NAS d'Ukraine (2003).

Œuvres choisies

• Ivakhnenko AG Auto-organisation heuristique dans les problèmes de cybernétique d'ingénierie , Automatica, vol.6, 1970 - p. 207-219.
• Ivakhnenko AG Théorie polynomiale des systèmes complexes , IEEE Transactions on Systems Man and Cybernetics, 4, 1971 - p. 364-378.
• Ivakhnenko, AG; Ivakhnenko, GA (1995). "L'examen des problèmes résolus par les algorithmes de la méthode de groupe de traitement des données (GMDH)" (PDF) . Reconnaissance de formes et analyse d'images . 5 (4): 527-535. CiteSeerX   10.1.1.19.2971 .
• Ivakhnenko, AG; Müller, J.-A. (1997). "Développements récents de la modélisation auto-organisée dans la prévision et l'analyse du marché boursier" (PDF) . Microelectron.Reliab . 37 : 1053-1072. CiteSeerX   10.1.1.19.4973 .

Les références

Liens externes

• Méthode de traitement des données par groupe
• Bibliothèque de livres et d'articles du GMDH
• GMDH: À propos de l'auteur  - Biographie et présentations sur Aleksey Ivakhnenko.