فرآیندهای تصادفی

هدف از این درس، آشنایی دانش‌جویان با مدل‌های تصادفی اندیس شده با زمان یا مکان است. به صورت دقیق‌تر، توصیف و استنتاج بر اساس این مدل‌ها و همینطور تخمین پارامترهای ناشناخته از جمله اهداف این درس است.

1. پیشگفتار
2. مروری بر نظریه احتمالات
   • اصول موضوعه احتمالات
   • وقایع و آزمایش‌های مستقل
   • متغیرهای تصادفی
   • امیدریاضی
   • گشتاورهای یک متغیر تصادفی
   • امیدریاضی شرطی
   • تابع مولد گشتاور
   • نامساوی‌های پایه در نظریه احتمال: نامساوی‌های مارکف، چبیشف و چرنف
   • قوانین اعداد بزرگ
   • قضیه حد مرکزی
   • انواع همگرایی‌های متغیرهای تصادفی
3. فرایندهای تصادفی (مفاهیم اصلی)
   • مفاهیم پایه و تعاریف مقدماتی فرایندهای تصادفی
   • خواص آماری فرایندهای تصادفی
   • فرایندهای تصادفی ایستا (Stationary Stochastic Processes)
   • فرایندهای تصادفی متناوب با معیار Mean Square
   • چند مثال برای فرایندهای ایستا: فرایندهای iid، فرایند برنولی، نویز سفید
   • Ergodicity
   • بررسی سیستم‌ها با ورودی تصادفی
   • طیف توان (Power Spectrum)
4. فرایند پواسن
   • معرفی فرایندهای arrival و renewal
   • خاصیت بدون حافظه بودن یک متغیر تصادفی
   • خواص stationary increment و independent increment فرایند پواسن
   • تابع چگالی احتمال $S_n$ و تابع چگالی احتمال مشترک
   • تابع جرمی احتمال متغیر تصادفی
   • چند نکته درباره توزیع پواسن
   • تعاریف دیگری برای فرایند پواسن
   • ترکیب کردن و انشعاب کردن فراینده‌های پواسن
5. بردارهای گاوسی و فرایندهای گاوسی
   • متغیر تصادفی گاوسی
   • بردارهای تصادفی گاوسی
   • فرایندهای تصادفی گاوسی
   • چند مثال از فرایندهای گاوسی گسسته-زمان
   • قضیه‌ای در مورد ایستایی فرایندهای تصادفی گاوسی
6. زنجیره‌های مارکف متناهی-حالت
   • تعریف زنجیره مارکف
   • نمایش‌های مختلف زنجیره مارکف
   • دسته‌بندی حالت‌های مختلف یک زنجیره مارکف
   • نمایش ماتریسی
   • حالت پایدار یک زنجیره مارکف
   • حالت پایدار با فرض $P>0$
   • حالت پایدار برای زنجیره‌های ارگودیک
   • حالت پایدار برای ergodic unichains
   • حالت پایدار برای زنجیره‌های مارکف متناهی‌حالت دلخواه
7. تئوری تخمین
   • مقدمه
   • اصل کفایت (The Sufficiency Principle) و آمار کافی (Sufficient Statistic)
   • قضیه factorisation
   • آمار کافی کمین (Minimal Sufficient Statistics)
   • اصل likelihood
8. تخمینگرهای نقطه‌ای
   • مقدمه
   • روش‌های یافتن تخمینگرها
   • روش گشتاورها
   • تخمینگرهای بیشینه likelihood
   • تخمینگرهای بیز
   • روش‌هایی برای ارزیابی تخمینگرها
   • خطای میانگین مربع
   • بهترین تخمینگر بدون بایاس
   • کران Cramer-Rao
   • اطلاعات فیشر
   • کفایت و بدون بایاس بودن
   • قضیه Rao-Blackwell

1. تمرین: ۲۰ درصد
2. میان‌ترم: ۳۰ درصد
3. پایان‌ترم: ۵۰ درصد