Sécurité et Intelligence Artificielle : enjeux, risques et bonnes pratiques

À l’issue de la formation, les participants seront capables de :

• Comprendre les spécificités des risques liés à l’IA
• Identifier les vulnérabilités propres aux systèmes d’intelligence artificielle
• Mettre en œuvre des mesures de sécurité adaptées aux projets IA
• Intégrer la sécurité dans le cycle de vie des modèles IA (MLOps sécurisé)
• Gérer les enjeux éthiques et réglementaires liés à la sécurité de l’IA

Introduction à la sécurité de l’IA

• Enjeux et contexte actuel
• Spécificités des systèmes IA vs systèmes classiques
• Typologie des menaces (data poisoning, model inversion, adversarial attacks)

Vulnérabilités et attaques ciblant l’IA

• Attaques sur les données d’entraînement et de test
• Manipulation et perturbation des modèles (adversarial examples)
• Vol de modèles et extraction d’informations sensibles
• Attaques par rétro-ingénierie et backdoors

Mesures de protection et bonnes pratiques

• Sécurisation des données et pipelines ML (data governance, chiffrement)
• Techniques de robustesse des modèles (adversarial training, détection d’anomalies)
• Authentification et contrôle d’accès aux modèles et API
• Surveillance et détection d’attaques en temps réel

Intégration de la sécurité dans le cycle MLOps

• Développement sécurisé et revue de code IA
• Automatisation des tests de sécurité IA (fuzzing, tests adversariaux)
• Déploiement sécurisé et gestion des versions
• Gestion des incidents et réponse aux attaques IA

Enjeux éthiques, conformité et réglementation

• Gouvernance responsable des projets IA
• RGPD, AI Act et autres cadres réglementaires
• Transparence, auditabilité et explicabilité des modèles
• Gestion des biais et risques éthiques en sécurité IA

• En cours de formation, par des études de cas ou des travaux pratiques
• Et, en fin de formation, par un questionnaire d'auto-évaluation