Loading...

Superlinear Exact penalty Algorithms with Structured Projected Hessian Updates in Broyden’s Family for Constrained Nonlinear Least squares

Bidabadi, Narges | 2012

716 Viewed
  1. Type of Document: Ph.D. Dissertation
  2. Language: Farsi
  3. Document No: 43119 (02)
  4. University: Sharif University of Technology
  5. Department: Mathematical Sciences
  6. Advisor(s): Mahdavi-Amiri, Nezamoddin
  7. Abstract:
  8. Due to the special structure of the Hessian matrix in nonlinear least squares problems,use of effective structured updating schemes for approximating the Hessian matrix in solving such problems has been considered. Mahdavi-Amiri and Bartels used a structured BFGS method for approximating the projected Hessian matrix in solving constrained nonlinear least squares (CNLLS) problems. Recently, Mahdavi-Amiri and Ansari applied other structured DFP and BFGS methods for approximating the projected Hessian matrix in solving CNLLS problems and proved both global and asymptotic two-step superlinearconvergence of the algorithms. Here, we present other methods for approximating the structured projected Hessian matrix. We first establish sufficient conditions for an asymptotic two-step superlinearly convergence of a structured projected Hessian matrix update formula corresponding to an exact penalty algorithm for solving CNLLS problems. Then, we present some structured updating schemes for the PSB, DFP, BFGS and Broyden’s methods, in general, satisfying these conditions, and hence admitting an asymptotic two-step superlinear
    convergence of the proposed algorithms.We also show global convergence of the algorithms under seasonable assumptions. The numerical results obtained by an implementation of our algorithms in MATLAB 7.6 environment, compared with the ones obtained by three algorithms in the KNITRO software package and the fmincon function in MATLAB, confirm the competetiveness of the proposed algorithms
  9. Keywords:
  10. Exact Penalty Function ; Projected Structured Hessian Update ; Constrained Nonlinear Least Squares ; Asymptotic Two-Step Superlinear Convergence

 Digital Object List

 Bookmark

  • ‌فهرست جدول‌ها
  • فهرست الگوریتم‌ها
  • ‌فهرست شکل‌ها
  • مقدمه
    • تشخیص یک مینیمم موضعی در مسایل هموار
    • تابع ارزیاب
    • روش‌های جریمه‌ای برای حل مسایل بهینه‌سازی مقید
  • روش‌های جریمه‌ای دقیق
    • شرایط لازم و کافی برای جواب مساله‌ی جریمه‌ای l1 دقیق
    • الگوریتم برای حل مساله‌ی برنامه‌ریزی غیرخطی مقید
    • حل مساله‌ی جریمه‌ای l1 دقیق
      • الگوریتم
      • همگرایی سراسری الگوریتم
      • همگرایی مجانبی زبرخطی دوگامی الگوریتم
  • بهنگام‌سازی ساختمند ماتریس هسی
    • روش سکانت با کمترین تغییر
      • کاربرد روش سکانت با کمترین تغییر در حل مساله‌ی کمترین مربعات غیر خطی نامقید
    • روش BFGS
    • خانواده‌ی برویدن
  • مساله‌ی کمترین مربعات غیرخطی مقید
    • رابطه‌ی سکانت
    • بهنگام‌سازی ماتریس هسی تصویر شده‌ی ساختمند
  • همگرایی
    • جستجوی خطی
    • همگرایی سراسری
    • شرایطی کافی برای همگرایی مجانبی الگوریتم
    • اثبات همگرایی مجانبی الگوریتم برای فرمو‌ل‌های سکانت ساختمند
      • نتایج همگرایی برای فرمول BFGS ساختمند
      • نتایج همگرایی برای فرمول‌های PSB و DFP ساختمند
      • نتایج همگرایی برای خانواده‌ی برویدن ساختمند
  • آزمون‌ها و نتایج عددی
    • پیاده‌سازی الگوریتم‌ها
      • چگونگی انتخاب پارامتر جریمه‌ی آغازین
    • مسایل آزمون
      • تولید مسایل کمترین مربعات غیرخطی مقید به صورت تصادفی
    • نتایج عددی
    • تفسیر نتایج عددی به دست آمده از الگوریتم‌ها با استفاده از نمودار دولان-موره
  • نتیجه‌گیری و پیشنهادها
  • فهرست منابع
  • پیوست‌ها
  • (الف) راهنمای استفاده از برنامه‌ها
  • (ب) بخش‌هایی از کد برنامه‌ها
...see more