Zakaria Jarraya, spécialiste en apprentissage et fiabilité des IA

Aujourd’hui plus que jamais, l’Intelligence Artificielle, aussi nommée IA, prend une place particulière dans notre société. Dû à leur autonomie, il est parfois difficile de suivre le raisonnement qu’elles abordent, posant de nombreuses questions pour la sécurité et la fiabilité de ces IA.
Toutefois, certaines personnes analysent et peuvent anticiper le comportement d’une IA, grâce aux mathématiques essentiellement. Zakaria Jarraya est une de ces personnes. Spécialisée dans la fiabilité et la robustesse de ces Intelligences Artificielles, il nous parle de ce domaine dans cette interview.

Quelle est votre activité professionnelle actuelle ? Comment la décririez-vous à quelqu’un qui n’y connaît rien ?

Actuellement, je suis expert dans la fiabilité et la robustesse des intelligences artificielles pour des applications sensibles à la sécurité. Grâce à mon expertise mathématique, j’analyse le fonctionnement interne des IA afin de comprendre comment elles prennent leurs décisions et d’anticiper les situations où elles pourraient se tromper.
Par exemple, dans le cas d’une voiture autonome, la reconnaissance d’un panneau peut être trompée par une perturbation visuelle minime. Mon rôle est de repérer ces failles et de renforcer les modèles pour qu’ils distinguent correctement chaque panneau, même dans des conditions inhabituelles ou difficiles.

Qu’est-ce qui vous a donné envie de diriger dans l’IA ? Arrivez-vous à comprendre comment elles fonctionnent ?

J’ai toujours eu un amour particulier pour les mathématiques et l’informatique. Après une prépa scientifique puis une école plus axée sur les statistiques, j’ai découvert l’apprentissage automatique. J’ai ensuite réalisé ma thèse dans ce domaine pour comprendre en profondeur comment fonctionnent les IA.
Certaines IA sont relativement simples à analyser, comme les modèles de diffusion, qui génèrent des images à partir de textes, ou les réseaux convolutifs, utilisés pour analyser des images. D’autres, comme les grands modèles de langage, sont beaucoup plus complexes. Je continue à me documenter énormément sur ces modèles et, grâce à l’open source, je peux expérimenter et analyser les limites de ces systèmes.

Vous avez porté votre thèse sur la robustesse des IA, pouvez-vous détailler ?

Dans ma thèse, je m’intéresse à la robustesse des réseaux de neurones. Tous ces réseaux peuvent être vus comme un système dynamique qui transforme un stimulus en décision. Je m’intéresse donc au chemin de pensée que l’IA va suivre afin d’arriver à sa décision.
Une IA qui n’est pas robuste peut se tromper pour des raisons très subtiles : un changement de lumière, une petite perturbation dans une image, ou même une modification volontaire destinée à la tromper. Cela peut entraîner des comportements imprévisibles, et dans des domaines sensibles comme la santé ou le transport, ces erreurs peuvent être dangereuses.
De mon côté, j’analyse où ces erreurs apparaissent et je conçois des méthodes pour stabiliser les modèles ; j’améliore l’entraînement pour les rendre plus résistants aux perturbations, j’utilise des architectures plus stables mathématiquement, je teste le comportement du modèle dans des situations extrêmes ou inhabituelles.
L’objectif est de garantir qu’une IA prenne la bonne décision, même dans des contextes qui sortent un peu de l’ordinaire.

Quels secteurs pourraient être intéressés par votre expertise ? Comment la transmettez-vous ?

Aujourd’hui, de nombreux secteurs font appel à l’IA. Comprendre comment elle fonctionne est devenu indispensable, surtout lorsqu’il s’agit de sécurité.
J’ai donné des cours en école d’ingénieurs en numérique, probabilités et statistiques, et je m’adapte facilement au niveau du public : je peux vulgariser comme entrer dans les détails techniques. Pour une entreprise, comprendre le fonctionnement de son IA permet d’identifier les risques et d’améliorer la fiabilité de ses outils.

Quel avenir dans notre société donneriez-vous à l’IA ? Est-ce une si bonne idée de continuer de la développer ?

Les premières IA n’étaient pas aussi développées qu’aujourd’hui, et je ne m’attendais pas à une telle expansion. Je pense que l’IA est très utile pour automatiser des tâches répétitives et fastidieuses, ce qui peut libérer du temps pour des activités à plus forte valeur ajoutée.
Il reste cependant essentiel que l’humain garde le contrôle et vérifie les résultats produits par l’IA. Les modèles génératifs consomment aussi beaucoup d’énergie, et leur impact environnemental doit être pris en compte.
Enfin, l’IA ne remplacera pas la créativité humaine. Elle se nourrit des créations existantes ; si toutes les productions provenaient d’IA, elles finiraient par tourner en rond. La créativité humaine restera toujours indispensable.

Bien que l’IA puisse parfois nous dépasser, des experts comme Zakaria Jarraya continue chaque jour de s’intéresser à ces formes d’intelligences de plus en plus complexes. En réussissant à prédire et comprendre le raisonnement de ces IA, il permet de garder un meilleur contrôle humain sur ces programmes, et fiabilise toujours plus les services qu’elles nous apportent. Grâce à cela, on peut imaginer pouvoir utiliser l’IA dans de nombreux domaines, afin de soulager les tâches les plus pénibles. Loin d’être un remplacement de la créativité humaine, c’est au contraire un gain de temps et d’énergie exceptionnel pour l’humanité.