Loading...

Theoretical Foundations of Communication of Numbers in Limited Time

Ahmadipour, Niloufar | 2022

194 Viewed
  1. Type of Document: Ph.D. Dissertation
  2. Language: Farsi
  3. Document No: 55386 (05)
  4. University: Sharif University of Technology
  5. Department: Electrical Engineering
  6. Advisor(s): Aminzadeh Gohari, Amin
  7. Abstract:
  8. Usually, in information theory, the length of the message (number of bits of information) is proportional to the number of channel uses, for example, in traditional channel coding, the number of messages is $ 2 ^{NR} $ and $ NR $ bits with $ N $ channel uses were sent. In fact, as the channel uses increase, the message bits increase linearly. But in this dissertation, the length of the message, or indeed the number of source observations, is a function of the number of channel uses.In this dissertation, we first study the problem of designing the best code for a discrete Poisson channel with memory (under peak-power and total-power constraints). The outputs of a discrete Poisson channel with memory are Poisson distributed random variables with a mean comprising of a fixed additive noise and a linear combination of past input symbols. Assuming a maximum-likelihood (ML) decoder, we search for a codebook that has the smallest possible error probability. This problem is challenging because the error probability of a code does not have a closed-form analytical expression. For the case of having only a total-power constraint, the optimal code structure is obtained, provided that the blocklength is greater than the memory length of the channel. For the case of having only a peak-power constraint, the optimal code is derived for arbitrary memory and blocklength in the high-power regime. For the case of having both the peak-power and total-power constraints, the optimal code is derived for memoryless Poisson channels when both the total-power and the peak-power bounds are large.We also discuss a problem of Huffman coding with free bits as a way of sending numbers on a noise-free channel. This problem is equivalent to the multi-way number partitioning problem with a new objective function that is introduced in this research.The \emph{number partitioning problem} is the problem of partitioning a given list of numbers into multiple subsets so that the sums of the numbers in each subset are as nearly equal as possible. In this dissertation, we introduce two new objective functions the ``compression'' and the ``product of all subset sums'' objective functions. We show that both of them express kinds of the uniformity of the result partition, for instance, the optimal solution of the compression objective function is related to the partition whose entropy is maximum. We prove that an adapted version of the Huffman coding algorithm gives the optimal solution of the compression objective function with a running time of $\mathcal{O}(n\log(n))$ in input size $n$. We also give tight bounds on the product of all subset sums of a partition.
  9. Keywords:
  10. Molecular Communication ; Joint Source and Channel Coding ; Optimum Codes ; Schur-Concave Functiond ; Maximum-Likelihood Decoding ; Multi-Way Number Partitioning ; Discrete Poisson Channel

 Digital Object List

 Bookmark

  • Thesis-1shahrivar01.pdf
    • مقدمه
    • پژوهش‌های پیشین
      • مقدمه
      • کدگذاری مشترک منبع-کانال
        • پژوهش‌های با طول بلوک محدود
        • پژوهش‌هایی با طول بلوک متغیر
      • چندی‌سازی
        • مقدمه و تعریف‌ها
        • چندی‌ساز بهینه
        • چندی‌سازی با نرخ بالا
      • کدگذاری بدون پیشوند اعداد طبیعی
    • ارسال یک بیت بر روی کانال پواسن گسسته زمان با حافظه
      • مقدمه
      • مدل‌سازی مسئله
        • مدل‌سازی کانال
        • مدل‌سازی فرستنده
        • مدل‌سازی گیرنده
      • نتایج اصلی
        • طراحی کد با وجود شرط توان کل
        • طراحی کد با وجود شرط دامنه توان
        • طراحی کد با وجود دو شرط توان کل و دامنه توان به طور همزمان
      • اثبات‌ها
        • Missing left brace has been substituted= Majorization
        • اثبات قضیه 3‏-‏1
        • اثبات قضیه 3‏-‏3
        • اثبات قضیه 3‏-‏6
        • اثبات قضیه 3‏-‏7
      • نتیجه‌گیری
    • ارسال یک منبع با تعداد استفاده متغیر از کانال در حضور بیت‌های رایگان
      • مقدمه
      • کدگذاری هافمن با بیت‌های رایگان
      • افراز چندگانه اعداد و تابع هدف فشرده‌سازی
        • جواب بهینه تابع هدف فشرده‌سازی
      • تابع هدف PASS و اصل بهینگی
        • تابع هدف PASS
        • اصل بهینگی
      • نتیجه‌گیری
    • نتیجه‌گیری و پیشنهادها
    • بعضی لم‌ها
    • شرایط لازم برای کد بهینه کانال پواسن
    • بررسی الگوریتم‌های تجربی موجود برای مسئله افرازبندی چندگانه اعداد
    • Missing left brace has been substituted= مراجع
    • Thesis-1shahrivar01.pdf
      • مقدمه
      • پژوهش‌های پیشین
        • مقدمه
        • کدگذاری مشترک منبع-کانال
          • پژوهش‌های با طول بلوک محدود
          • پژوهش‌هایی با طول بلوک متغیر
        • چندی‌سازی
          • مقدمه و تعریف‌ها
          • چندی‌ساز بهینه
          • چندی‌سازی با نرخ بالا
        • کدگذاری بدون پیشوند اعداد طبیعی
      • ارسال یک بیت بر روی کانال پواسن گسسته زمان با حافظه
        • مقدمه
        • مدل‌سازی مسئله
          • مدل‌سازی کانال
          • مدل‌سازی فرستنده
          • مدل‌سازی گیرنده
        • نتایج اصلی
          • طراحی کد با وجود شرط توان کل
          • طراحی کد با وجود شرط دامنه توان
          • طراحی کد با وجود دو شرط توان کل و دامنه توان به طور همزمان
        • اثبات‌ها
          • Missing left brace has been substituted= Majorization
          • اثبات قضیه 3‏-‏1
          • اثبات قضیه 3‏-‏3
          • اثبات قضیه 3‏-‏6
          • اثبات قضیه 3‏-‏7
        • نتیجه‌گیری
      • ارسال یک منبع با تعداد استفاده متغیر از کانال در حضور بیت‌های رایگان
        • مقدمه
        • کدگذاری هافمن با بیت‌های رایگان
        • افراز چندگانه اعداد و تابع هدف فشرده‌سازی
          • جواب بهینه تابع هدف فشرده‌سازی
        • تابع هدف PASS و اصل بهینگی
          • تابع هدف PASS
          • اصل بهینگی
        • نتیجه‌گیری
      • نتیجه‌گیری و پیشنهادها
      • بعضی لم‌ها
      • شرایط لازم برای کد بهینه کانال پواسن
      • بررسی الگوریتم‌های تجربی موجود برای مسئله افرازبندی چندگانه اعداد
      • Missing left brace has been substituted= مراجع
  • form1 (1) (1)11 (1) (1)
    • ffinalThesis
      • مقدمه
      • پژوهش‌های پیشین
        • مقدمه
        • کدگذاری مشترک منبع-کانال
          • پژوهش‌های با طول بلوک محدود
          • پژوهش‌هایی با طول بلوک متغیر
        • چندی‌سازی
          • مقدمه و تعریف‌ها
          • چندی‌ساز بهینه
          • چندی‌سازی با نرخ بالا
        • کدگذاری بدون پیشوند اعداد طبیعی
      • ارسال یک بیت بر روی کانال پواسن گسسته زمان با حافظه
        • مقدمه
        • مدل‌سازی مسئله
          • مدل‌سازی کانال
          • مدل‌سازی فرستنده
          • مدل‌سازی گیرنده
        • نتایج اصلی
          • طراحی کد با وجود شرط توان کل
          • طراحی کد با وجود شرط دامنه توان
          • طراحی کد با وجود دو شرط توان کل و دامنه توان به طور همزمان
        • اثبات‌ها
          • Missing left brace has been substituted= Majorization
          • اثبات قضیه 3‏-‏1
          • اثبات قضیه 3‏-‏3
          • اثبات قضیه 3‏-‏6
          • اثبات قضیه 3‏-‏7
        • نتیجه‌گیری
      • ارسال یک منبع با تعداد استفاده متغیر از کانال در حضور بیت‌های رایگان
        • مقدمه
        • کدگذاری هافمن با بیت‌های رایگان
        • افراز چندگانه اعداد و تابع هدف فشرده‌سازی
          • جواب بهینه تابع هدف فشرده‌سازی
        • تابع هدف PASS و اصل بهینگی
          • تابع هدف PASS
          • اصل بهینگی
        • نتیجه‌گیری
      • نتیجه‌گیری و پیشنهادها
      • بعضی لم‌ها
      • شرایط لازم برای کد بهینه کانال پواسن
      • بررسی الگوریتم‌های تجربی موجود برای مسئله افرازبندی چندگانه اعداد
      • Missing left brace has been substituted= مراجع
  • form esalat
  • Thesis-1shahrivar01
    • مقدمه
    • پژوهش‌های پیشین
      • مقدمه
      • کدگذاری مشترک منبع-کانال
        • پژوهش‌های با طول بلوک محدود
        • پژوهش‌هایی با طول بلوک متغیر
      • چندی‌سازی
        • مقدمه و تعریف‌ها
        • چندی‌ساز بهینه
        • چندی‌سازی با نرخ بالا
      • کدگذاری بدون پیشوند اعداد طبیعی
    • ارسال یک بیت بر روی کانال پواسن گسسته زمان با حافظه
      • مقدمه
      • مدل‌سازی مسئله
        • مدل‌سازی کانال
        • مدل‌سازی فرستنده
        • مدل‌سازی گیرنده
      • نتایج اصلی
        • طراحی کد با وجود شرط توان کل
        • طراحی کد با وجود شرط دامنه توان
        • طراحی کد با وجود دو شرط توان کل و دامنه توان به طور همزمان
      • اثبات‌ها
        • Missing left brace has been substituted= Majorization
        • اثبات قضیه 3‏-‏1
        • اثبات قضیه 3‏-‏3
        • اثبات قضیه 3‏-‏6
        • اثبات قضیه 3‏-‏7
      • نتیجه‌گیری
    • ارسال یک منبع با تعداد استفاده متغیر از کانال در حضور بیت‌های رایگان
      • مقدمه
      • کدگذاری هافمن با بیت‌های رایگان
      • افراز چندگانه اعداد و تابع هدف فشرده‌سازی
        • جواب بهینه تابع هدف فشرده‌سازی
      • تابع هدف PASS و اصل بهینگی
        • تابع هدف PASS
        • اصل بهینگی
      • نتیجه‌گیری
    • نتیجه‌گیری و پیشنهادها
    • بعضی لم‌ها
    • شرایط لازم برای کد بهینه کانال پواسن
    • بررسی الگوریتم‌های تجربی موجود برای مسئله افرازبندی چندگانه اعداد
    • Missing left brace has been substituted= مراجع
...see more