Prior Processes and Their Applications: Nonparametric Bayesian Estimation

این کتاب یک درمان سیستماتیک و جامع از فرآیندهای مختلف قبلی را ارائه می دهد که در طول چهار دهه گذشته برای برخورد با رویکرد بیزی برای حل مسائل استنتاج ناپارامتریک منتخب توسعه یافته اند. این نسخه اصلاح شده به طور قابل توجهی گسترش یافته است تا علاقه فعلی را در این زمینه منعکس کند. پس از مروری بر فرآیندهای مختلف قبلی، فرآیند کنونی برجسته دیریکله و انواع آن از جمله فرآیندهای سلسله مراتبی را بررسی می کند، سپس به فرآیندهای جدیدی مانند دیریکله وابسته، دیریکله محلی، فرآیندهای متغیر زمانی و مکانی می پردازد که همه از مخلوط قابل شمارش استفاده می کنند. بازنمایی فرآیند دیریکله متعاقباً فرآیندهای مختلف از نوع خنثی به سمت راست، از جمله فرآیندهای گاما و گامای توسعه یافته، بتا و بتا استیسی را مورد بحث قرار می‌دهد و سپس فرآیندهای رستوران چینی، بوفه هندی و فرآیندهای بی‌نهایت گاما-پواسون را توضیح می‌دهد که در زمینه‌هایی مانند ماشین بسیار مفید هستند. یادگیری، بازیابی اطلاعات و مدل سازی ویژگی. Tailfree و Polya tree و الحاقات آنها یک فصل جداگانه را تشکیل می دهند، در حالی که دو فصل آخر راه حل های بیزی را برای مشکلات تخمینی خاص مربوط به تابع توزیع و عملکرد آن بر اساس داده های کامل و همچنین داده های سانسور شده درست ارائه می دهد. به دلیل خاصیت مزدوج برخی از این فرآیندها، اکثر راه حل ها به صورت بسته ارائه می شوند.

با این حال، علاقه فعلی به مدل‌سازی و پردازش داده‌های بزرگ و پیچیده نیز مشکلی ایجاد می‌کند - توزیع پسین، که برای تحلیل بیزی ضروری است، همیشه در یک به شکل بسته، متوسل شدن به شبیه سازی را ضروری می کند. بر این اساس، این کتاب همچنین چندین روش محاسباتی را معرفی می‌کند، مانند نمونه‌بردار گیبس، نمونه‌بردار گیبس مسدود شده و نمونه‌برداری برش، مراحل ضروری الگوریتم‌ها را در حین بحث در مورد مدل‌های خاص برجسته می‌کند. علاوه بر این، مراحل مهم اثبات و اشتقاق را نشان می‌دهد، روابط بین فرآیندهای مختلف را توضیح می‌دهد و توضیحات بیشتری برای ارتقای درک عمیق‌تر ارائه می‌دهد. در نهایت، فهرست جامعی از مراجع را شامل می‌شود که خوانندگان را مجهز می‌کند تا خودشان بیشتر کاوش کنند.

This book presents a systematic and comprehensive treatment of various prior processes that have been developed over the past four decades for dealing with Bayesian approach to solving selected nonparametric inference problems. This revised edition has been substantially expanded to reflect the current interest in this area. After an overview of different prior processes, it examines the now pre-eminent Dirichlet process and its variants including hierarchical processes, then addresses new processes such as dependent Dirichlet, local Dirichlet, time-varying and spatial processes, all of which exploit the countable mixture representation of the Dirichlet process. It subsequently discusses various neutral to right type processes, including gamma and extended gamma, beta and beta-Stacy processes, and then describes the Chinese Restaurant, Indian Buffet and infinite gamma-Poisson processes, which prove to be very useful in areas such as machine learning, information retrieval and featural modeling. Tailfree and Polya tree and their extensions form a separate chapter, while the last two chapters present the Bayesian solutions to certain estimation problems pertaining to the distribution function and its functional based on complete data as well as right censored data. Because of the conjugacy property of some of these processes, most solutions are presented in closed form.

However, the current interest in modeling and treating large-scale and complex data also poses a problem – the posterior distribution, which is essential to Bayesian analysis, is invariably not in a closed form, making it necessary to resort to simulation. Accordingly, the book also introduces several computational procedures, such as the Gibbs sampler, Blocked Gibbs sampler and slice sampling, highlighting essential steps of algorithms while discussing specific models. In addition, it features crucial steps of proofs and derivations, explains the relationships between different processes and provides further clarifications to promote a deeper understanding. Lastly, it includes a comprehensive list of references, equipping readers to explore further on their own.