Loading...

Design and Analysis of Filter Trust-Region Algorithms for Unconstrained and Bound Constrained Optimization

Fatemi, Masoud | 2011

2162 Viewed
  1. Type of Document: M.Sc. Thesis
  2. Language: Farsi
  3. Document No: 42070 (02)
  4. University: Sharif University of Technology
  5. Department: Mathematical Sciences
  6. Advisor(s): Mahdavi Amiri, Nezameddin
  7. Abstract:
  8. Design, analysis and practical implementation of the filter trust-region algorithms are investigated. First, we introduce two filter trust-region algorithms for solving the unconstrained optimization problem. These algorithms belong to two different class of optimization algorithms: (1) The monotone class, and (2) The non-monotone class. We prove the global convergence of the sequence of the iterates generated by the new algorithms to the first and second order critical points. Then, we propose a filter trust-region algorithm for solving bound constrained optimization problems and show that the algorithm converges to a first order critical point. Moreover, we address some well known questions in the filter theory. These questions are about the possibility of the finiteness of the filter size and the existence of a correlation between problem dimension and the filter size. Here, for the first time, we introduce a new filter acceptance criterion and show the finiteness of the filter size. We also show a correlation between the problem dimension and the filter size and explain the difficulties with other existing filter criteria. Furthermore, we introduce a new mechanism to control the filter size. Finally, we implement the new algorithms with MATLAB codes and compare our obtained results on various test problems with the results of some other existing algorithms. Our numerical results confirm the efficiency of the new algorithms.
  9. Keywords:
  10. Unconstrainted Optimization ; Trust Region Subproblem ; Monotone Scheme ; Simple Bound Constrained Optimization ; Filter Methods ; Projected Gradient Method ; Non-Monotone Algorithm ; First Order Covergence ; Second Order Covergence

 Digital Object List

 Bookmark

  • فهرست جدول‌ها
  • فهرست الگوریتم‌ها
  • فهرست شکل ها
  • بهینه سازی توابع هموار
    • مقدمه
    • قضیه تیلور و شرایط لازم و کافی بهینگی
    • یک الگوریتم یکنوا
    • مدل تقریبی
    • شرط کاهش کافی
      • نقطه‌ی کوشی
    • الگوریتم تولید جواب تقریبی
      • روش گرادیان مزدوج
      • الگوریتم توسعه یافته لانچوز (GLTR)
    • همگرایی به یک نقطه‌ی ایستای مرتبه اول
    • همگرایی به یک نقطه‌ی ایستای مرتبه دوم
    • الگوریتم های نایکنوا
      • همگرایی سراسری
    • بهینه سازی با قیود کرانی
      • محاسبه‌ی طول گام
  • روش فیلتر و ناحیه‌ی اعتماد
    • فیلتر چند بعدی
    • افزودن یک نقطه به فیلتر
    • یک الگوریتم فیلتر
      • همگرایی سراسری
  • فیلتر چند بعدی و خواص آن
    • معیار جدید
      • ارتباط بین اندازه‌ی فیلتر و بعد مساله
  • الگوریتم ها
    • الگوریتم یکنوای ناحیه‌ی اعتماد
      • همگرایی به نقاط ایستای مرتبه اول
      • همگرایی به نقاط ایستای مرتبه دوم
    • الگوریتم اصلاح شده یکنوای ناحیه‌ی اعتماد
      • همگرایی سراسری
    • الگوریتم نایکنوای ناحیه‌ی اعتماد
      • همگرایی سراسری
    • الگوریتم فیلتر ناحیه‌ی اعتماد برای مساله با قیود کرانی
      • همگرایی سراسری
  • پیاده سازی و مقایسه های عددی
    • نمایه‌ی کارایی
    • نمایه‌ی کارایی برای الگوریتم های FTRA-1 و FTRA-2
    • نمایه‌ی کارایی برای الگوریتم NMTRF
    • نمایه‌ی کارایی برای الگوریتم GPFTRA
  • کتاب‌نامه
    • چکیده‌ی انگلیسی
...see more