Loading...

Improving Density Estimation Using Structural Properties of Markov Random Fields

Madani, Hatef | 2018

912 Viewed
  1. Type of Document: M.Sc. Thesis
  2. Language: Farsi
  3. Document No: 50605 (19)
  4. University: Sharif University of Technology
  5. Department: Computer Engineering
  6. Advisor(s): Beigy, Hamid
  7. Abstract:
  8. Markov Random Fields are suitable and applicable tools for modeling dependency of data dimensions; But since time complexity of parameter learning for these models is exponential with respect to data dimension size, density estimation using these models is restricted in action. In the other hands, with growing use of neural networks in many problems a class named autoregressive networks were applied for density estimation. Although the learning time of neural network parameters is not very low, there are many efforts for parameter learning acceleration. In this thesis Markov Random Fields structural properties are used in autoregressive networks. In our proposed method the hypothesis space of problem will be more restricted using local Independencies of Markov Random Field and more accurate results can be achieved using less data. For evaluating the proposed method three datasets have been used: An artificial dataset with assumed model, Asia dataset with known model and MNIST dataset with assumed model. The proposed method improved accuracy of estimation by 3% for Asia dataset, 33% for artificial dataset and 65% for MNIST dataset
  9. Keywords:
  10. Neural Networks ; Markov Random Field (MRF) ; Autoencoder ; Network Structural Features ; Density Estimation ; Autoregression Property

 Digital Object List

 Bookmark

  • مقدمه
    • ساختار پایان‌نامه
  • پیشینه‌ی پژوهش
    • معرفی و تحلیل میدان تصادفی مارکوف
      • شبکه‌های عصبی و شبکه‌های Autoencoder
    • روش‌های پارامتری
      • Maximum Pseudo Likelihood
      • Linear And Parallel
      • SLAP
    • روش‌های غیر پارامتری
      • روش NADE
      • روش MADE
    • جمع‌بندی
  • روش پیشنهادی
    • استفاده از خودکدگذار برای تخمین توزیع میدان تصادفی مارکوف
      • کمینه‌سازی خطا در شبکه‌ی عصبی
    • تحلیل الگوریتم پیشنهادی
      • معیار ارزیابی
    • جمع‌بندی
  • بررسی نتایج تجربی
    • مجموعه‌ داده‌
    • محیط پیاده‌سازی
    • معیارهای ارزیابی
    • جمع‌بندی
  • جمع‌بندی
    • پیشنهاد برای ادامه کار
  • قضیه معتبر بودن احتمال‌های شرطی در خروجی‌های شبکه‌ی خود رگرسیونی
  • منابع و مراجع
  • واژه نامه انگلیسی به فارسی
  • واژه نامه فارسی به انگلیسی
...see more