ابزار کاربر

ابزار سایت


درس:۴۰۷۶۸

مدل‌های گرافیکی احتمالی

Probabilistic Graphical Models

شماره درس: ۴۰۷۶۸ تعداد واحد: ۳
مقطع: کارشناسی ارشد نوع درس: نظری
پیش‌نیاز: – هم‌نیاز: –

اهداف درس

مدل‌های گرافی احتمالی، چارچوب محاسباتی کلی برای استنتاج و يادگيری در شرايط نايقينی (uncertainty) فراهم می‌آورند. در اين مدل‌ها برای نمايش وابستگی‌های شرطی بين متغيرهای تصادفی از يک گراف استفاده شده و توزيع توام مجموعه‌ی متغيرهای تصادفی از اين طريق مشخص می‌شود. در اين درس، برای معرفی مدل‌های گرافی احتمالی سه جنبه‌ موردتوجه قرار می‌گيرد: بازنمایی در اين مدل‌ها (شبکه‌های بيزين و ميدان‌های تصادفی مارکوف)؛ يادگيری (پارامترها و ساختار) اين مدل‌ها از روی داده‌ها؛ انجام استنتاج (با روش‌های دقيق و تقريبی) جهت استفاده از مدل‌های گرافی احتمالی برای تصميم‌گيری در شرايط نايقينی. در شروع اين درس لازم است دانشجويان آشنایی با مباحث آمار و احتمال و همچنين مقدمات يادگيری ماشين داشته باشند.

ریز مواد

  1. معرفی مدل‌های گرافی (برای نمايش دانش احتمالی)
    • مدل‌های گرافی جهت‌دار: شبکه‌ی بيزين (Bayesian Networks)
    • مدل‌های گرافی بدون جهت‌: ميدان‌های تصادفی مارکوف (Markov Random Fields)
    • ديدگاهی واحد برای مدل‌های گرافی جهت‌دار و بدون‌جهت
  2. استنتاج دقيق در مدل‌های گرافی
    • الگوريتم حذف متغير (Variable Elimination)
    • انتشار اعتقاد (Belief Propagation) يا انتقال پيام (Message Passing)
    • گراف‌های عامل (Factor Graphs) و الگوريتم جمع-ضرب (Product-Sum)
    • تخمين MAP: الگوريتم بيشينه-ضرب (Product-Max)
    • الگوريتم درخت اتصال (Junction Tree)
  3. يادگيری مدل‌های گرافی
    • يادگيری مدل‌های جهت‌دار کاملاً مشاهده شده
    • يادگيری مدل‌های بدون‌جهت کاملاً مشاهده شده
    • الگوريتم EM برای يادگيری مدل‌های گرافی نيمه مشاهده شده
    • يادگيری ساختار مدل‌های گرافی
  4. مدل‌های گرافی مشهور
    • خانواده نمايي (Exponential Family)
    • مدل‌های گرافی گاوسی
    • مدل‌های Ising (يا MRF دوبه‌دو)
    • ميدان تصادفی شرطی (CRF)
    • مدل‌های زمانی و مدل‌های حالت-فضا
    • مدل مخفی مارکوف (HMM)
    • سامانه‌ خطی پويا (LDS)
    • فيلتر کالمن (Kalman Filter)
  5. استنتاج تقريبی رویکرد قطعی
    • انتشار اعتقاد حلقه‌ای (Loopy Belief Propagation)
    • استنتاج وردشی (Variational Inference)
    • تقريب ميدان ميانگين (Field-Mean)
    • تخمين چگالی مفروض
    • روش‌های وردشی ساختاردار (structured)
  6. استنتاج تقريبی رویکرد تصادفی
    • نمونه‌برداری رد (Rejection Sampling)
    • نمونه‌برداری اهميت (Importance Sampling)
    • زنجيره‌ی مارکوف مونت کارلو (MCMC)
    • الگوريتم متروپليس-هيستينگز (Metropolis Hastings)
    • نمونه‌برداری گيبس (Gibbs)

ارزیابی

  • تمرين: ۱۵٪
  • ميان‌ترم: ۳۰٪
  • پايان‌ترم: ۴۰٪
  • پروژه يا کار تحقيقاتی: ۱۵٪

مراجع

  1. D. Koller and N. Friedman, “Probabilistic Graphical Models: Principles and Techniques”, MIT Press, 2009.
  2. M. Wainwright and M.I. Jordan, “Graphical Models, Exponential Families, and Variational Inference”, Foundations and Trends in Machine Learning, vol. 1, pp. 1-305, 2008.
  3. M.I. Jordan, “An Introduction to Probabilistic Graphical Models”, In preparation.
  4. C.M. Bishop, “Pattern Recognition and Machine Learning”, Springer, 2006.
  5. K.P. Murphy, “Machine Learning: A Probabilistic Perspective”, MIT Press, 2012.
درس/۴۰۷۶۸.txt · آخرین ویرایش: 2020/12/16 13:11 توسط حمید بیگی