Machine Learning: A Bayesian and Optimization Perspective

این متن آموزشی با پوشش هر دو رویکرد احتمالی و قطعی - که مبتنی بر تکنیک‌های بهینه‌سازی هستند - همراه با رویکرد استنتاج بیزی، که ماهیت آن در استفاده از سلسله‌مراتب مدل‌های احتمالی نهفته است، دیدگاهی یکپارچه در مورد یادگیری ماشین ارائه می‌کند. این کتاب روش‌های اصلی یادگیری ماشین را که در رشته‌های مختلف مانند آمار، پردازش سیگنال آماری و تطبیقی ​​و علوم کامپیوتر توسعه یافته‌اند، ارائه می‌کند. با تمرکز بر استدلال فیزیکی پشت ریاضیات، تمام روش‌ها و تکنیک‌های مختلف به طور عمیق توضیح داده می‌شوند، با مثال‌ها و مسائل پشتیبانی می‌شوند و منبع ارزشمندی برای درک و به کارگیری مفاهیم یادگیری ماشین به دانش‌آموز و محقق می‌دهند.

این کتاب با دقت از روش‌های کلاسیک پایه  تا جدیدترین گرایش‌ها ساخته می‌شود، با فصل‌هایی که تا حد امکان مستقل باشند، متن را برای دوره‌های مختلف مناسب می‌سازد: تشخیص الگو، پردازش سیگنال آماری/تطبیقی، یادگیری آماری/بیزی، همچنین دوره های کوتاهی در مورد مدل سازی پراکنده، یادگیری عمیق و مدل های گرافیکی احتمالی.

• همه تکنیک های کلاسیک اصلی: رگرسیون و فیلتر میانگین/حداقل مربع، فیلتر کالمن، تقریب تصادفی و یادگیری آنلاین، بیزی طبقه بندی، درخت تصمیم، رگرسیون لجستیک و روش های تقویت.
• آخرین روند: پراکندگی، تحلیل محدب و بهینه سازی، الگوریتم توزیع شده آنلاین ms، یادگیری در فضاهای RKH، استنتاج بیزی، مدل‌های گرافیکی و پنهان مارکوف، فیلتر ذرات، یادگیری عمیق، یادگیری فرهنگ لغت و مدل‌سازی متغیرهای پنهان.
• مطالعات موردی - پیش‌بینی تاخوردگی پروتئین، تشخیص کاراکتر نوری، شناسایی نویسنده متن ، تجزیه و تحلیل داده های fMRI، تشخیص نقطه تغییر، عدم اختلاط تصویر فراطیفی، محلی سازی هدف، یکسان سازی کانال و لغو پژواک، نشان می دهد که چگونه می توان این نظریه را اعمال کرد.
• کد متلب برای همه الگوریتم های اصلی در یک وب سایت همراه موجود است. ، خواننده را قادر می سازد تا کد را آزمایش کند.

This tutorial text gives a unifying perspective on machine learning by covering both probabilistic and deterministic approaches -which are based on optimization techniques – together with the Bayesian inference approach, whose essence lies in the use of a hierarchy of probabilistic models. The book presents the major machine learning methods as they have been developed in different disciplines, such as statistics, statistical and adaptive signal processing and computer science. Focusing on the physical reasoning behind the mathematics, all the various methods and techniques are explained in depth, supported by examples and problems, giving an invaluable resource to the student and researcher for understanding and applying machine learning concepts.

The book builds carefully from the basic classical methods  to  the most recent trends, with chapters written to be as self-contained as possible, making the text suitable for  different courses: pattern recognition, statistical/adaptive signal processing, statistical/Bayesian learning, as well as short courses on sparse modeling, deep learning, and probabilistic graphical models.

• All major classical techniques: Mean/Least-Squares regression and filtering, Kalman filtering, stochastic approximation and online learning, Bayesian classification, decision trees, logistic regression and boosting methods.
• The latest trends: Sparsity, convex analysis and optimization, online distributed algorithms, learning in RKH spaces, Bayesian inference, graphical and hidden Markov models, particle filtering, deep learning, dictionary learning and latent variables modeling.
• Case studies - protein folding prediction, optical character recognition, text authorship identification, fMRI data analysis, change point detection, hyperspectral image unmixing, target localization, channel equalization and echo cancellation, show how the theory can be applied.
• MATLAB code for all the main algorithms are available on an accompanying website, enabling the reader to experiment with the code.