Loading...

Analysis and Improvement of Privacy-Preserving Federated Learning

Rahmani, Fatemeh | 2023

56 Viewed
  1. Type of Document: M.Sc. Thesis
  2. Language: Farsi
  3. Document No: 56674 (19)
  4. University: Sharif University of Technology
  5. Department: Computer Engineering
  6. Advisor(s): Jafari Sivoshani, Mahdi; Rohban, Mohammad Hossein
  7. Abstract:
  8. Membership inference attacks are one of the most important privacy-violating attacks in machine learning, as well as infrastructure of more serious attacks such as data extraction attacks. Since membership inference attack is used as a measure to evaluate the level of privacy protection of machine learning models, different researches have investigated and provided new methods for this attack. However, the accuracy of these attacks has not been investigated on models trained with the latest techniques such as data augmentation and regularization techniques. In this research, we see that the Lira attack, the latest membership inference attack, which has much more power compared to previous attacks, can also be prevented with simple methods. We are able to reduce attack accuracy without reducing the utility of the machine learning model. So, we will first examine the new techniques of model training and their effect on the result of the MIA attack. Then, based on the available observations, we examine the relationship between the attack accuracy and the generalizability of the target model. To examine this relationship more accurately, we have fixed other effective factors such as the target model structure and its training data set. Then, concluded that the combination of the accuracy gap and test accuracy of the target model is a good estimator for this model MIA vulnerability. Finally, by introducing a new white-box attack, we attempt to increase the accuracy of the membership inference attack, even where existing attacks are not responsive. The attack presented in this part has a structure similar to the Lira attack, except that it uses the information in the internal layers of the model
  9. Keywords:
  10. Privacy ; Machine Learning ; Generalization ; White-Box Attack ; Membership Inference Attack ; Federated Learning

 Digital Object List

 Bookmark

  • مقدمه
    • تعریف مسئله
    • اهداف پژوهش
    • ساختار پایان‌نامه
  • مفاهیم اولیه
    • یادگیری ماشین
      • تعمیم‌پذیری
      • داده‌افزایی
    • حریم خصوصی تفاضلی
      • حریم خصوصی تفاضلی در یادگیری عمیق
    • حمله استنتاج عضویت
      • تعاریف
      • معیارهای ارزیابی حملات استنتاج عضویت
      • انواع حملات براساس دسترسی‌ها و قابلیت‌های مهاجم
  • کارهای پیشین
    • انواع حملات استنتاج عضویت براساس رویکرد حمله
      • حملات مبتنی بر شبکه‌های عصبی
      • حملات مبتنی بر آستانه
      • حملات مبتنی بر آستانه انطباقی با سختی نمونه
      • حملات مبتنی بر آزمون نسبت درست‌نمایی
      • حمله مبتنی بر تشخیص آسیب‌پذیری
    • مقایسه حملات موجود استنتاج عضویت
    • تاثیر تعمیم‌پذیری روی حمله استنتاج عضویت
    • کمبود روش‌های موجود
  • تعمیم‌پذیری و حمله استنتاج عضویت
    • معماری و دادگان مورد استفاده
    • ارزیابی حمله نسبت به وضعیت مدل هدف
      • تاثیر تکنیک‌های داده‌افزایی
    • بررسی تاثیر تعمیم‌پذیری بر حمله استنتاج عضویت
      • بررسی روی مراحل آموزش یک مدل
      • بررسی روی مدل‌های متفاوت
    • جمع‌بندی
  • طراحی حمله جعبه‌سفید
    • بررسی معیارهای مختلف مرتبط با گرادیان
      • انتخاب تابع مقیاس مناسب
    • بررسی اطلاعات نهفته در هر معیار
      • قابلیت تفکیک عضو و غیرعضو
      • آسیب‌پذیری داده‌ها
    • ارزیابی نتیجه حمله معیارهای گرادیان
    • مقایسه معیارهای گرادیان در لایه‌های متفاوت
    • مقایسه معیارهای گرادیان با اطمینان
    • جمع‌بندی
  • نتیجه‌گیری و کارهای‌ آتی
    • نتیجه‌گیری
    • کارهای آتی
  • مراجع
  • واژه‌نامه
  • مطالب تکمیلی
...see more