Le cours « Éthique et sécurité dans l’IA générative » s’adresse aux développeurs, ingénieurs et responsables techniques de produits qui découvrent l’IA générative, mais qui possèdent déjà des connaissances intermédiaires en apprentissage automatique, une maîtrise de base de Python et une bonne connaissance des environnements de développement tels que VS Code, et qui souhaitent concevoir, personnaliser et déployer des solutions ouvertes d’IA générative tout en évitant la dépendance vis-à-vis d’un fournisseur.

Ce cours fournit aux apprenants les cadres et les outils nécessaires pour garantir une utilisation responsable des modèles d’IA générative. Il commence par la détection et l’atténuation des biais : les apprenants identifient les schémas préjudiciables dans les ensembles de données et les résultats, appliquent des techniques d’évaluation quantitative et mettent en œuvre des stratégies d’atténuation. Ensuite, les apprenants conçoivent et testent des garde-fous de sécurité, notamment la validation des entrées, le filtrage des sorties, la modération de contenu et les pratiques de « red teaming », afin de renforcer la résistance des systèmes d’IA face aux utilisations abusives. Le dernier module aborde la provenance du contenu, les licences et la conformité : les apprenants y appliquent des techniques de tatouage numérique, mettent en œuvre des normes de provenance telles que celles de la Coalition for Content Provenance and Authenticity (C2PA) et évaluent la conformité des ensembles de données et des modèles aux conditions de licence. Les cadres réglementaires tels que le Règlement général sur la protection des données (RGPD) et la Loi californienne sur la protection de la vie privée des consommateurs (CCPA) sont également présentés. Grâce à des exercices pratiques, les apprenants mettront en place des couches de sécurité, implémenteront des métadonnées de provenance et prépareront une documentation d’audit conforme aux exigences réglementaires. À l’issue de cette formation, les apprenants seront en mesure de concevoir des applications d’IA ouvertes qui privilégient la sécurité, l’équité et la responsabilité.