فرآیندهای تصادفی

Stochastic Processes

شماره درس: ۴۰۶۹۵ تعداد واحد: ۳
مقطع: کارشناسی ارشد نوع درس: نظری
پیش‌نیاز: – هم‌نیاز: –

اهداف درس

هدف از این درس، آشنایی دانش‌جویان با مدل‌های تصادفی اندیس شده با زمان یا مکان است. به صورت دقیق‌تر، توصیف و استنتاج بر اساس این مدل‌ها و همینطور تخمین پارامترهای ناشناخته از جمله اهداف این درس است.

ریز مواد

  1. پیشگفتار
  2. مروری بر نظریه احتمالات
    • اصول موضوعه احتمالات
    • وقایع و آزمایش‌های مستقل
    • متغیرهای تصادفی
    • امیدریاضی
    • گشتاورهای یک متغیر تصادفی
    • امیدریاضی شرطی
    • تابع مولد گشتاور
    • نامساوی‌های پایه در نظریه احتمال: نامساوی‌های مارکف، چبیشف و چرنف
    • قوانین اعداد بزرگ
    • قضیه حد مرکزی
    • انواع همگرایی‌های متغیرهای تصادفی
  3. فرایندهای تصادفی (مفاهیم اصلی)
    • مفاهیم پایه و تعاریف مقدماتی فرایندهای تصادفی
    • خواص آماری فرایندهای تصادفی
    • فرایندهای تصادفی ایستا (Stationary Stochastic Processes)
    • فرایندهای تصادفی متناوب با معیار Mean Square
    • چند مثال برای فرایندهای ایستا: فرایندهای iid، فرایند برنولی، نویز سفید
    • Ergodicity
    • بررسی سیستم‌ها با ورودی تصادفی
    • طیف توان (Power Spectrum)
  4. فرایند پواسن
    • معرفی فرایندهای arrival و renewal
    • خاصیت بدون حافظه بودن یک متغیر تصادفی
    • خواص stationary increment و independent increment فرایند پواسن
    • تابع چگالی احتمال $S_n$ و تابع چگالی احتمال مشترک
    • تابع جرمی احتمال متغیر تصادفی
    • چند نکته درباره توزیع پواسن
    • تعاریف دیگری برای فرایند پواسن
    • ترکیب کردن و انشعاب کردن فراینده‌های پواسن
  5. بردارهای گاوسی و فرایندهای گاوسی
    • متغیر تصادفی گاوسی
    • بردارهای تصادفی گاوسی
    • فرایندهای تصادفی گاوسی
    • چند مثال از فرایندهای گاوسی گسسته-زمان
    • قضیه‌ای در مورد ایستایی فرایندهای تصادفی گاوسی
  6. زنجیره‌های مارکف متناهی-حالت
    • تعریف زنجیره مارکف
    • نمایش‌های مختلف زنجیره مارکف
    • دسته‌بندی حالت‌های مختلف یک زنجیره مارکف
    • نمایش ماتریسی
    • حالت پایدار یک زنجیره مارکف
    • حالت پایدار با فرض $P>0$
    • حالت پایدار برای زنجیره‌های ارگودیک
    • حالت پایدار برای ergodic unichains
    • حالت پایدار برای زنجیره‌های مارکف متناهی‌حالت دلخواه
  7. تئوری تخمین
    • مقدمه
    • اصل کفایت (The Sufficiency Principle) و آمار کافی (Sufficient Statistic)
    • قضیه factorisation
    • آمار کافی کمین (Minimal Sufficient Statistics)
    • اصل likelihood
  8. تخمینگرهای نقطه‌ای
    • مقدمه
    • روش‌های یافتن تخمینگرها
    • روش گشتاورها
    • تخمینگرهای بیشینه likelihood
    • تخمینگرهای بیز
    • روش‌هایی برای ارزیابی تخمینگرها
    • خطای میانگین مربع
    • بهترین تخمینگر بدون بایاس
    • کران Cramer-Rao
    • اطلاعات فیشر
    • کفایت و بدون بایاس بودن
    • قضیه Rao-Blackwell

ارزیابی

  1. تمرین: ۲۰ درصد
  2. میان‌ترم: ۳۰ درصد
  3. پایان‌ترم: ۵۰ درصد

مراجع

  1. Athanasios Papoulis and S. Unnikrishna Pillai. Probability, Random Variables and Stochastic Processes. McGraw-Hill Europe, 4th edition, 2002.
  2. Robert G. Gallager. Stochastic Processes: Theory for Applications. Cambridge University Press, 1st edition, 2014.
  3. George Casella and Roger L. Berger. Statistical Inference. Wadsworth Press, 2nd edition, 2001.