Forum Numerica - Franck LEPRÉVOST (Univ. Luxembourg) - Réseaux Neuronaux Convolutionnaires et reconnaissance d’images : évaluation des risques

Une image vaut 1000 mots. La société numérique contemporaine, dans laquelle notre environnement semble de plus en plus conduit par des images, contribue certainement à ce sentiment. Les images sont utilisées dans les réseaux sociaux comme témoins de l’évolution de la vie personnelle des gens : des images exhibent le nouveau ou la nouvelle partenaire de vie (et parfois l’ex banni), les vacances passées ici ou là, avec qui, en faisant quoi, en mangeant quoi, en regardant quoi, en essayant quoi. Des images sur Facebook, Instagram et autres, montrent quel membre de la famille souffre de quelle maladie, depuis quand, etc. Au-delà de ce type de dualité voyeurisme-exhibition, les images sont aussi utilisées pour un ensemble, large et en croissance, d’applications, qui peuvent simplifier ou complexifier la vie des gens: voitures avec systèmes de conduite autonome, reconnaissance faciale, accès sécurisés, diagnostics médicaux, vision satellitaire, robotisation et automatisation de processus industriels, traduction automatique, etc.
En raison de la profusion des images et de leurs usages, des technologies sont apparues pour les gérer et traiter automatiquement, à commencer par celles permettant de les classer selon ce qu’elles représentent.
À ce travail, les réseaux neuronaux convolutionnaires (CNNs) figurent parmi les approches plus largement développées et utilisées.
Cependant, les CNNs sont susceptibles de commettre des erreurs. En fait, un courant important de recherche consiste en la création « d'images adversaires » par des attaques spécifiques, destinées à tromper les CNNs dans leurs tâches de reconnaissance et de classification d’images. Ces attaques peuvent contribuer à protéger la vie privée ou à limiter le traçage des gens. Elles peuvent aussi avoir des conséquences catastrophiques, par exemple dans le cadre de voitures autonomes ou de diagnostics médicaux.
Dans cette conférence, nous décrirons la typologie de ces attaques, les scenarii qu’elles adoptent, et les défis qui se présentent à elles. Nous donnerons également un survol de certaines des plus récentes attaques destinées à la création d’images adversaires. Ces attaques fournissent des arguments convaincants soutenant (pour le meilleur ou le pire) l’assertion suivante : même identifier le fait qu’une attaque est en train de se dérouler pourrait devenir, à l’avenir, de plus en plus problématique.

Franck Leprévost est un mathématicien et informaticien français. Il est depuis 2003 professeur à l’Université du Luxembourg, dont il a été le vice-président de 2005 à 2015. Il a été membre du conseil d’administration ou du conseil scientifique de nombre d’entités publiques et privées (ATTF, CEPS, FNR, Luxtrust S.A., UNICA, etc.). Ses centres d'intérêt portent sur la théorie algorithmique des nombres, les mathématiques de la cryptologie, les CNNs, l’apprentissage profond, l’intelligence artificielle et les algorithmes révolutionnaires d’une part, et sur le management des organisations d’enseignement supérieur et de recherche, les classements internationaux des universités et le rôle civilisationnel des universités d’autre part. Il est l’auteur de huit livres scientifiques, dont trois tutoriels utilisés par les étudiants de nombreuses universités, environ 75 publications scientifiques. Ses rapports pour le Parlement Européen, en particulier sa contribution au rapport « Echelon », ont eu un impact substantiel, tant technique que législatif dans la plupart des pays européens. Franck Leprévost s’est aussi exprimé publiquement sur le risque du déclin des universités occidentales et sur les dangers de l’idéologie woke. Il dirige actuellement le Laboratoire d’Algorithmique, Cryptologie et Sécurité de l’université du Luxembourg.
L’ensemble de ses contributions est accessible sur la page www.franckleprevost.com