Loading...

Deep Learning in a Structured Output Space

Salehi, Fatemeh | 2021

226 Viewed
  1. Type of Document: Ph.D. Dissertation
  2. Language: Farsi
  3. Document No: 55013 (19)
  4. University: Sharif University of Technology
  5. Department: Computer Engineering
  6. Advisor(s): Rabiee, Hamid Reza; Soleymani, Mahdieh
  7. Abstract:
  8. A large number of machine learning problems are considered as structured output problems in which the goal is to find the mapping function between an input vector to a number of variables in the output side which are statistically correlated. Motivated by the advantages of simultaneous learning of these variables compared to learning them separately, many structured output models have been introduced. Decreasing the sample complexity, increasing the generalization ability and overcoming to noisy data are some of these benefits. So in the first step of this research we concentrate on one of classical but important problems in bioinformatics which is automatic protein function prediction. Results confirm that incorporating structural information helps to assign more detailed functionality to proteins. In addition to the accuracy and efficiency of a model, the ability of interpretation and explanation of its behavior is critical to apply it in real applications specifically in areas such as medicine. Therefore in the second step we focus on the problem of structured model interpretation and attempt to achieve a better understanding of the model behavior by exploring the structural information incorporated into the model to be explained
  9. Keywords:
  10. Deep Learning ; Multi-Task Learning ; Protein Function Prediction ; Structured Outputs ; Generative Adversarial Networks

 Digital Object List

 Bookmark

  • 8148052f8abde6bd5b23a83e5a095cfbc193d521ef66c1932cb9583ecf0473e7.pdf
  • 8148052f8abde6bd5b23a83e5a095cfbc193d521ef66c1932cb9583ecf0473e7.pdf
  • 8148052f8abde6bd5b23a83e5a095cfbc193d521ef66c1932cb9583ecf0473e7.pdf
    • 1 مقدمه
      • 1-1 تعریف مساله
      • 1-2 اهمیت موضوع و کاربردهای آن
      • 1-3 چالش‌های حل مساله
      • 1-4 نوآوری‌های پژوهش
        • 1-4.1 تعیین کارکرد پروتئین‌ها به کمک رویکردی جدید در یادگیری ساختارمند
        • 1-4.2 تفسیرپذیری در مدل‌های یادگیری ساختارمند
      • 1-5 نمادگذاری
      • 1-6 ساختار رساله
    • 2 پژوهش‌های پیشین
      • 2-1 یادگیری خروجی همزمان با استخراج ضمنی روابط ساختاری
        • 2-1.1 الگوریتم‌های یادگیری بدون بهره‌گیری از شبکه‌های عمیق
        • 2-1.2 معماری چندوظیفه‌ای در یادگیری عمیق
        • 2-1.3 بهینه‌سازی چندوظیفه‌ای در یادگیری عمیق
        • 2-1.4 یادگیری روابط میان وظیفه‌ای
      • 2-2 یادگیری همزمان با وارد کردن ساختار از پیش مشخص
        • 2-2.1 الگوریتم‌های یادگیری بدون بهره‌گیری از شبکه‌های عمیق
        • 2-2.2 روش‌های مبتنی بر یادگیری عمیق
      • 2-3 جمع‌بندی کارهای پیشین
    • 3 تعیین کارکرد پروتئین‌ها به عنوان یک مساله ساختارمند
      • 3-1 مروری بر روش‌های تعیین کارکرد پروتئین‌ها
      • 3-2 اهمیت در نظر گرفتن ساختار خروجی در تعیین کارکرد پروتئین‌ها
      • 3-3 استفاده از شبکه مولد-متخاصم برای یادگیری ساختار
      • 3-4 تقریب یادگیری ساختارمند به کمک شبکه مولد-متخاصم وستراشتین
      • 3-5 تعیین کارکرد پروتئین‌ها به کمک شبکه مولد-متخاصم شرطی وستراشتین
        • 3-5.1 ساختار شبکه مولد
        • 3-5.2 ساختار شبکه متخاصم
      • 3-6 آزمایش‌ها
        • 3-6.1 مجموعه داده و آماده‌سازی آن
        • 3-6.2 معیارهای ارزیابی
        • 3-6.3 آزمایش اول
        • 3-6.4 آزمایش دوم
      • 3-7 جمع‌بندی
    • 4 تفسیرپذیری در مدل‌های یادگیری ساختارمند
      • 4-1 تفسیرپذیری مدل‌های یادگیری ماشین
      • 4-2 مروری بر الگوریتم‌های تفسیر
      • 4-3 تعریفی بر تفسیر مدل‌های ساختارمند
      • 4-4 وارد کردن اطلاعات ساختاری با مشاهده‌ی سایر خروجی‌ها
      • 4-5 روش پیشنهادی
        • 4-5.1 تابع هزینه پیشنهادی جهت آموزش تفسیرگر
        • 4-5.2 واحد محاسبه تابع انرژی
        • 4-5.3 واحد تفسیرگر
        • 4-5.4 مساله بهینه‌سازی پیشنهادی برای آموزش تفسیرگر
      • 4-6 آزمایش‌ها
        • 4-6.1 نتایج بر روی داده شبیه‌سازی شده
        • 4-6.2 نتایج تفسیر بر روی مدل ساختارمند برای دسته‌بندی چندبرچسبی
        • 4-6.3 نتایج تفسیر بر روی مدل ساختارمند برای ناحیه‌بندی تصاویر
        • 4-6.4 نتایج تفسیر بر روی مدل ساختارمند برای تعیین کارکرد پروتئین‌ها
      • 4-7 جمع‌بندی
    • 5 جمع‌بندی و کارهای آتی
      • 5-1 تعیین کارکرد پروتئین‌ها به عنوان یک مساله ساختارمند
      • 5-2 تفسیرپذیری در مدل‌های ساختارمند
    • مراجع
    • واژه‌نامه فارسی به انگلیسی
    • واژه‌نامه انگلیسی به فارسی
...see more