(Conférence) Deep Learning & sécurité : tromper l'IA et tromper les humains (par un docteur en IA)

Dans cette conférence chez GConfs qui date maintenant un peu (2020), voyons comment l'IA peut être manipulée ou au contraire manipuler les humain. LyreBird, CycleGAN, Progressive GAN, etc. "Quelqu'un connait OpenAI ?" hahahaha, 2020. 00:00:00 Introduction : Les ConvNets et leurs applications sensibles 00:00:49 Le fonctionnement des réseaux neuronaux (rappel) 00:01:05 Présentation du jeu de données CIFAR-10 00:01:27 Comment fonctionne la classification (modèle simplifié) 00:02:46 Attaques adversariales : images imperceptibles pour les humains, mais mal classifiées par l'IA 00:04:22 Exemples d'images adversariales : bruit et objets abstraits 00:05:05 Pourquoi ces attaques fonctionnent-elles ? (Explications techniques) 00:06:18 Est-ce un problème ? La transférabilité des attaques 00:07:07 Attaques dans le monde réel : le patch "lave-linge/coffre-fort" 00:08:44 Attaques adversariales sur les panneaux de signalisation 00:11:15 Masques indétectables sur les panneaux stop 00:12:50 Attaque sur des objets 3D : la tortue-fusil d'assaut 00:14:24 Attaques pour détourner un service de classification (exploitation) 00:18:58 Comment contrer ces attaques ? (Mitigation, pas de solution complète) 00:19:50 Tromper les humains : le Deepfake 00:20:10 Les visages générés par StyleGAN 00:21:34 Deepfake : transfert de visage sur des vidéos 00:25:30 CycleGAN : transformer des visages en temps réel 00:27:23 Conflits géopolitiques et le RecyleGAN (Trump/Obama) 00:28:38 Syntèse vocale (Lyrebird) 00:29:41 Sommes-nous "foutus" ? La détection des fakes 00:30:25 Le problème des GANs dans la détection des fakes 00:31:23 Expérience personnelle avec Facebook et la détection d'images suggestives 00:32:50 Conclusion : Vivre avec le fake ou faire confiance aux sources d'autorité 00:33:51 OpenAI et GPT-2 : la génération de texte réaliste 00:43:49 Le test de Turing : pertinence et limites 00:49:37 Questions supplémentaires