A Differential Private Approach for Preserving the Privacy in Deep Learning Algorithms

L'apprentissage automatique a le potential de devenir une composante standard de chaque produit technologique et d'être utilisé par tous dans leur vie quotidienne dans un avenirproche. Bien que l'apprentissage machine nous offre de nouvelles capacités magnifiques, il a également des vulnérabilités qui peuvent être facilement exploitées par des attaquants. Il devient de plus en plus nécessaire d'étudier les implications de l'apprentissage automatique sur la sécurité et la vie privée à mesure que l'apprentissage automatique est plus largement utilisé. Les aspects de l'apprentissage automatique liés à la sécurité ont fait l'objet de nombreuses recherches et d'une grande publicité, comme les attaques contradictoires, et les attaques fondées sur la protection de la vie privée ont reçu moins d'attention. Cependant, malgré le fait qu'il y a eu un nombre croissant de travaux dans ce domaine, il n'y a pas eu d'analyse approfondie des attaques liées à la vie privée. Les données d'entraînement et les modèles sont des éléments essentiels des systèmes d'apprentissage automatique. Nous devons protéger la vie privée de ces deux parties afin d'avoir un système d'apprentissage automatique qui soit protégé contre les atteintes à la vie privée. Dans les systèmes d'apprentissage automatique, il y a trois parties vulnérables qui rendent les données et le modèle accessibles. Dans un premier temps, nous avons les données de formation elles-mêmes, puisque les utilisateurs malveillants peuvent accéder aux données de formation pour récupérer des informations sensibles. La deuxième étape est le modèle lui-même, car si l'utilisateur malveillant accède au modèle, il pourra récupérer le modèle et les données de d'entraînement qui sont deux parties sensibles de l'apprentissage automatique. Le dernier élément vulnérable des systèmes d'apprentissage automatique est l'API de prédiction, car si l'attaquant y a accès, il pourrait récupérer le modèle et les données de formation.