Présentation du groupe de travail

Thématiques et objet

Les programmes intégrant des intelligences artificielles (IA) connexionistes s’imposent comme composant fondamental du traitement de données multimodales et sensorielles en informatique. Leurs usages dans le cadre de la mobilité automatique, la maintenance prédictive pour l’énergie, le médical ou le traitement linguistique à large échelle nécessitent un haut niveau de maîtrise scientifique et technique de ces programmes. Cependant, force est de constater un manque de cadres théoriques et pratiques de génie logiciel qui permette la maîtrise du développement, du déploiement et de la mise en opération de tels systèmes.

Les interrogations suivantes, constituants de bonnes pratiques de développement logiciel, n’ont pour l’instant pas de réponse claire :

• comment assurer la sûreté de fonctionnement de systèmes comprenant des IAs?
• comment assurer leur auditabilité via des mécanismes d’explication garantis
• et actionables par des utilisateur·ices afin d’accroître leur compréhension du système sous-jacent?
• comment prendre en compte des problématiques de sécurité face aux attaques de différentes natures (attaques adverses, atteintes à la vie privée )
• dans des contextes différents (on edge, apprentissage et déploiement fédéré)?
• comment limiter le renforcement de biais sociétaux passés, freinant le déploiement de politiques publiques ou produisent un effet contre-productif ?
• comment gérer la contradiction apparente entre irrespect de la vie privée des modèles génératifs et respect du droit européen?
• enfin, comment maîtriser l’impact environnemental élevé qui semble
• accompagner le développement de ces logiciels?

Ne pas répondre à ces questions, c’est risquer de déployer dans le monde réel des logiciels défectueux, avec des conséquences nuisibles, parfois tragiques.

Il existe donc une nécessité d’un dialogue entre praticien·nes du génie logiciel, de la cybersécurité et de l’évaluation des risques éco-sociaux de ces logiciels.

Missions du groupe de travail

• organisation de séminaires mensuels en visio ou présentiel suivant les disponibilités de lieux de réunion
• organisation d’une journée de rencontre trimestrielle en physique (avec possibilité de suivre en visio) pour des séminaires en physiques de membres du GT, ouverts à toute personne sur inscription
• organisation d’une journée de rencontre semestrielle avec orateurs extérieurs (visio/défraiement potentiel)
• mailing list et encadrement de stage
• animation d’un site web avec compte-rendus des exposés, mise en valeur des travaux et publications des chercheur·euses du GT