Stabilité et Robustesse des classifieurs contours basés sur les réseaux de neurones profonds

Résumé

Les réseaux de neurones profonds (Deep Neural Networks) ont démontré des performances remarquables dans de nombreux systèmes de classification, en particulier dans le domaine de la vision par ordinateur. Toutefois, en dépit de leur efficacité empirique, ces modèles ne satisfont pas encore aux exigences de confiance, d’explicabilité et de transparence requises pour leur déploiement dans des systèmes à caractère critique. L’une des principales préoccupations réside dans leur vulnérabilité face aux perturbations affectant les données d’entrée. Dans le cadre des systèmes de classification d'images basés sur les réseaux de neurones profonds, la robustesse a été étudiée contre plusieurs types d’attaques (géométriques, changement de luminosité, filtrage, …). En utilisant la théorie de l'interprétation abstraite, les limites des perturbations sont approximées par des domaines abstraits sur lesquels la condition de robustesse peut être vérifiée avec des analyseurs formels. Avec l’apparition des architectures d’apprentissage profond pour la classification des contours, un besoin s’est fait sentir d’adapter ces analyseurs à ce type particulier de données. Cette thèse propose un nouveau système de certification qui introduit un formalisme géométrique basé sur l’estimation de bornes inférieure et supérieure (Lower and Upper Bounds ) permettant d’évaluer la robustesse des réseaux de neurones face à un large éventail d’attaques (rotations, translations, filtrages), ainsi qu’à des attaques issues du monde physique, provoquées par des transformations projectives. Par ailleurs, nous étendons le concept de certification à un système multimodal, apte à prendre en charge aussi bien les données images que les données de contours. L’outil développé s’intègre dans un cadre de certification robuste pour des systèmes de vision multimodaux et est compatible avec tout jeu de données de contours 2D bien paramétré. Lors de l’étape de prétraitement, nous nous intéressons à deux techniques de reparamétrisation : l’une basée sur l’abscisse curviligne et l’autre sur la reparamétrisation affine, afin de projeter les contours sur une représentation invariante favorisant un apprentissage plus robuste et d’évaluer leur impact sur les performances du modèle. Des expérimentations ont été menées sur les bases de données MNIST et MPEG-7, puis étendues au jeu de données Swedish Leaf dans une application à la classification de l’état de santé des feuilles. Les résultats obtenus constituent une preuve empirique de la pertinence de l’approche et soulignent l’importance d’intégrer plusieurs modalités dans les systèmes de certification. Le code source du système proposé est disponible sur GitHub à l’adresse suivante : \url{https://github.com/ImenSmatiENSI/AI3D_Multimodal_system} github.com

Citer ce document

Accès au document

Ce document est hébergé sur son dépôt institutionnel d'origine.

Auteur(s)

Statistiques

Consultations : 7

Téléchargements : 0