Dites-nous en plus sur votre projet
Aneo est une agence conseil en transformation qui vous accompagne tout au long de la vie de vos projets sur des problématiques de :
Le + d’Aneo : le conseil sans frontière !
Notre richesse, c’est de vous proposer des équipes pluridisciplinaires, chaque membre avec une approche, une expérience et une sensibilité différente : coach agile, formateur soft skills, Data Scientist designer, Architecte etc. On mise sur la complémentarité des disciplines pour vous apporter la meilleure réponse !
Depuis 2015, Aneo est une organisation plate à gouvernance plate. Aplatir la hiérarchie, supprimer les silos, instaurer des bonus collectifs, ce nouveau modèle d’organisation avec comme objectif: apporter plus de valeur à l’entreprise, aux collaborateurs et aux clients.
Le + d’Aneo : l’inattendu !
La sérendipité, c’est « le don de faire par hasard des découvertes fructueuses ». Chez Aneo, nous croyons fermement que les meilleures solutions sont parfois les plus inattendues. Ne rien s’interdire, expérimenter, oser s’entourer de profils atypiques et avoir une obsession : apporter la juste valeur.
Du point de vue de l’impact économique et sociétal, la grande avancée des dernières années en IA concerne les système apprenants. Ces systèmes sont entrainés pour reconnaitre, classifier, voire décider. Il existe alors différents moyens d’amener ces systèmes à ma reconnaitre ce qui leur est présenté. Le moyen le plus en vogue conciste à entraîner un réseau de neurones dit « profond », c’est-à-dire disposant de plusieurs couches superposées.
Prenons ici l’exemple d’un classifieur d’images. Les plus usités sont aujourd’hui basés sur des « réseaux de neurones convolutifs dits profonds » (Deep Convolutive Neural Network ou CNN en anglais). Il s’agit de réseaux de neurones contenant plusieurs couches de convolution. Si la mise au point n’a pas été triviale, l’idée est relativement simple. La première couche apprend à reconnaître des éléments remarquables dans l’image comme des arêtes verticales, horizontales, obliques ou des coins. Pour ce faire, un filtre convolutif est appliqué sur l’ensemble de l’image. Il s’agit donc de descripteurs très locaux. La seconde couche cherche à identifier des éléments remarquables dans la première couche. Ils correspondent dans l’image de départ à des courbes, des droites ou des formes plus complexes. Chaque couche cherche ainsi des éléments particuliers très locaux dans la couche précédente, ces éléments correspondant à des formes ou textures de plus en plus complexes.
Il y a deux choses à retenir :
Dès lors, on comprend comment une image peut être altérée de façon imperceptible pour nous mais induire en erreur un réseau de neurone : il suffit de modifier quelques détails très locaux de sorte à ce que les résultats dans premières couches et donc les couches de haut niveaux soient différents. Ces images sont appelées des perturbations par les scientifiques du domaine. La figure suivante illustre comment l’ajout d’une perturbation savamment généré peut induire en erreur. Il est intéressant de noter que cette perturbation a les caractéristiques d’un bruit blanc et ne saurait être différencié par traitement d’image.
Un autre exemple plus proche de la thématique sécurité de cet article : ces méthodes peuvent être utilisées pour induire en erreur un système de reconnaissance facial. Ainsi, une paire de lunettes au goût discutable peut-elle permettre à une personne d’usurper une identité. Ses particularité locales induisent au fil des couches une confusion suffisamment importante pour que le réseau de neurones croie reconnaitre l’autre personne.
Ces quelques exemples illustrent les questions de sécurité qui peuvent se poser avec la généralisation de systèmes s’appuyant sur des réseaux de neurones.
Dans le cas des armes autonomes, que se passerait-il si des ennemis décidaient de faire passer une école maternelle en camp militaire ? Ce serait faisable simplement en tendant une bâche avec des motifs du type de ceux retrouvés sur les lunettes ci-dessus.
Crédit : Wilfried KIRSCHENMANN