Loading...

Design and Analysis of Optimization Algorithms for Solving Nonlinear Optimization Pproblems with Orthogonal Constraints and Certain Applications

Dehghanpour, Jafar | 2024

8 Viewed
  1. Type of Document: Ph.D. Dissertation
  2. Language: Farsi
  3. Document No: 56804 (02)
  4. University: Sharif University of Technology
  5. Department: Mathematical Sciences
  6. Advisor(s): Mahdavi Amiri, Nezamoddin
  7. Abstract:
  8. Orthogonal Nonnegative Matrix Factorization (ONMF) with orthogonality constraints on a matrix has been found to provide better clustering results over existing clustering problems . Because of the orthogonality constraint , this optimization problem is difficult to solve . Many of the existing constraint-preserving methods deal directly with the constraints using different techniques such as matrix decomposition or computing exponential matrices . Here , we propose an alternative formulation of the ONMF problem which converts the orthogonality constraints into non-convex constraints . To handle the non-convex constraints , a penalty function is applied . The penalized problem is a smooth nonlinear programming problem with quadratic (convex) constraints that can be solved by a proper optimization method . We first make use of an optimization method with two gradient projection steps and then apply a post-processing technique to construct a partition of the clustering problem . Comparative performance of our proposed approach with other available clustering methods over randomly generated test problems and hard synthetic data-sets shows the outperformance of our approach , in terms of the obtained misclassification error rate and the Rand index
  9. Keywords:
  10. Non-Negative Matrix Factorization (NMF) ; Isoperimetry ; Clustering ; Optimization Problems ; Optimization Problem with Orthogonality Constraints ; Orthogonal Nonnegative Matrix Factorization (ONMF)

 Digital Object List

 Bookmark

  • فهرست جدول‌ها
  • فهرست شکل‌ها
  • مقدمه
    • نمادگذاری
    • مساله k-میانه‌ها
    • مساله ایزوپریمتری
      • مدل‌سازی مساله ایزوپریمتری به‌صورت مساله بهینه‌سازی با قیود متعامد
    • مساله تجزیه ماتریس نامنفی متعامد
      • کاربردها
      • روش‌های حل
      • روش EM-گونه برای حل مساله تجزیه ماتریس نامنفی متعامد
      • روش لاگرانژی بهبودیافته برای حل مساله ONMF
      • روش کم‌ترین مربعات نامنفی برای حل مساله ONMF
  • طراحی و تحلیل الگوریتم‌های بهینه‌سازی
    • مساله بهینه‌سازی با قیود متعامد
      • روش به‌هنگام‌سازی برای حفظ شرط تعامد
      • روش‌های جستجوی منحنی الخط
      • بهینگی سراسری
      • مساله تخصیص درجه دو
      • حل مساله ایزوپریمتری
      • زیرافراز کمینه‌کننده
    • حل مساله ONMF با الگوریتم 2‏.‏4
  • فرمول‌بندی و روش حل جدید برای مساله ONMF
    • حل مساله ONMF
      • تحلیل همگرایی الگوریتم PFM
  • پیاده‌سازی و نتایج عددی
    • مجموعه داده مصنوعی
    • گراف‌های تصادفی
  • نتیجه‌گیری و پیشنهادها
  • فهرست مراجع
  • واژه‌نامه فارسی به انگلیسی
  • چکیده انگلیسی
...see more