Loading...

Structured Sparse Representation for Machine Learning and Signal
Processing

Soltani Farani, Ali | 2015

1390 Viewed
  1. Type of Document: Ph.D. Dissertation
  2. Language: Farsi
  3. Document No: 47835 (19)
  4. University: Sharif University of Technology
  5. Department: Computer Engineering
  6. Advisor(s): Rabiei, Hamid Reza
  7. Abstract:
  8. In this proposal we pursue structured sparse representations. Recent years have witnessed a tremendous growth in sparse modeling of natural signals. In this model a signal is represented as a linear combination of a few atoms from an often over-complete dictionary. The recent success of compressed sensing is intact due to the property that natural signals often admit sparse representations. Still, sparse representation in its simplest form sometimes fails to capture the intrinsic structure in natural signals. This structure may be embedded in the signal itself or in the relation between different signals of interest. The goal of this research proposal is to exploit the intrinsic structure in natural signals or the properties of the problem at hand to enhance the effectiveness of sparse representations in machine learning and signal processing applications. To this end we focus on two challenging problems. The first problem is to incorporate the relations among samples into dictionary learning and sparse inference. This relation maybe spatial or temporal. To solve this problem, joint sparse representation and weighted sparse representation are applied to hyperspectral image classification and visual tracking. Joint sparse signals are modeled using the same set of atoms from the dictionary and thus admit the same sparsity pattern. In weighted sparse representation, each dictionary is associated with a specific weight that determines the cost of using that atom in the representation. In this thesis, a group of data collaborate to determine these weights while optimizing the sparse representation. This allows data relations to be incorporated in the model. The second problem is multivariate regression which has many applications in computer vision and image processing. To tackle this problem, the relationship between data and the properties of the problem are quantized in simple assumptions. A novel approach is presented using sparse representation that relies on a common sparse representation in both input and output spaces. The relationship between the data themselves and the dictionary atoms, is used to enforce structure on the sparse representation. This method is applied to 3D human pose estimation. The proposed approaches are evaluated with real data and in comparison to state-ofthe-art methods. A variety of experiments are proposed to assess the properties of the proposed methods
  9. Keywords:
  10. Dictionary Learning ; Sparse Signal Representation ; Structured Sparsity ; Machine Learning Applications

 Digital Object List

 Bookmark

  • 1 مقدمه
    • 1-1 نمادگذاری
    • 2-1 نمایش تنک
    • 3-1 هدف پژوهش
    • 4-1 نوآوری‌های رساله
    • 5-1 ساختار رساله
  • 2 پژوهش‌های پیشین
    • 1-2 مدل‌های کم‌بعد
      • 1-2‏.‏1 سیگنال‌های تنک و قابل فشرده‌سازی قطعی
      • 1-2‏.‏2 سیگنال‌های تنک و قابل فشرده‌سازی تصادفی
      • 1-2‏.‏3 سیگنا‌ل‌های تنک ساخت‌یافته‌ی قطعی
      • 1-2‏.‏4 سیگنا‌ل‌های تنک ساخت‌یافته‌ی تصادفی
      • 1-2‏.‏5 سیگنال‌های تنک توام
    • 2-2 کدگذاری تنک
      • 2-2‏.‏1 الگوریتم‌های حریصانه
      • 2-2‏.‏2 الگوریتم‌های تقریب محدب
    • 3-2 یادگیری واژه‌نامه
      • 3-2‏.‏1 یادگیری واژه‌نامه‌ی بازساز
      • 3-2‏.‏2 یادگیری واژه‌نامه‌ی جداساز
      • 3-2‏.‏3 داده‌های آموزشی به عنوان واژه‌نامه
      • 3-2‏.‏4 واژه‌نامه‌ی ساختارمند
    • 4-2 جمع‌بندی
  • 3 مدل‌سازی ارتباط داده‌ها
    • 1-3 نمایش تنک توأم
      • 1-3‏.‏1 تحلیل احتمالاتی
      • 1-3‏.‏2 حل بهینه‌سازی تنک توأم
    • 2-3 نمایش تنک وزن‌دار
      • 2-3‏.‏1 کدگذاری تنک با توزیع پیشین مخلوط مقیاس لاپلاس
      • 2-3‏.‏2 مدل‌سازی ارتباط داده‌ها در نمایش تنک وزن‌دار
    • 3-3 یادگیری واژه‌نامه برای جداسازی تصاویر ابرطیفی
      • 3-3‏.‏1 دسته‌بندی و جداسازی تصاویر ابرطیفی
      • 3-3‏.‏2 پیشینه پژوهش
      • 3-3‏.‏3 روش‌های پیشنهادی
    • 4-3 مدل‌سازی ارتباط زمانی داده‌ها برای ردیابی بصری
      • 4-3‏.‏1 ردیابی شیء در ویدئو
      • 4-3‏.‏2 روش‌های پیشنهادی
    • 5-3 جمع‌بندی
  • 4 یادگیری واژه‌نامه‌های دوگان با منظم‌سازی خمینه
    • 1-4 تعریف مسأله
    • 2-4 روش پیشنهادی
      • 2-4‏.‏1 حالت نیمه‌نظارتی
      • 2-4‏.‏2 حل بهینه‌سازی‌ها
    • 3-4 جمع‌بندی
  • 5 آزمایش‌ها
    • 1-5 دسته‌بندی تصاویر ابرطیفی
      • 1-5‏.‏1 اتم‌های واژه‌نامه و نمایش تنک
      • 1-5‏.‏2 نتایج دسته‌بندی
      • 1-5‏.‏3 تصاویر شهری از پاویا در ایتالیا
      • 1-5‏.‏4 دسته‌بندی در سطح تفکیک‌پذیری چندطیفی
      • 1-5‏.‏5 پردازش موازی گروه‌های زمینه‌ای
    • 2-5 ردیابی شیء در ویدئو
      • 2-5‏.‏1 مقایسه کیفی
      • 2-5‏.‏2 مقایسه کمی
    • 3-5 تخمین حالت سه‌بعدی بدن انسان
      • 3-5‏.‏1 اتم‌های واژه‌نامه
      • 3-5‏.‏2 مقایسه کمی
      • 3-5‏.‏3 مقایسه کیفی
    • 4-5 جمع‌بندی
  • 6 جمع‌بندی
  • مراجع
  • واژه‌نامه فارسی به انگلیسی
  • واژه‌نامه انگلیسی به فارسی
...see more