Stochastic Approximation Methods for Constrained and Unconstrained Systems

این کتاب با رویکردی قدرتمند و راحت به انواع مختلفی از مسائل از نوع بازگشتی مونت کارلو یا تقریب تصادفی می‌پردازد. چنین الگوریتم‌های تکراری اغلب در تئوری کنترل و بهینه‌سازی تصادفی و تطبیقی ​​و در تئوری تخمین آماری رخ می‌دهند. به طور معمول، یک دنباله {X} از تخمین‌های یک پارامتر n با استفاده از یک رویه آماری بازگشتی به دست می‌آید. تخمین n تابعی از تخمین n_l و برخی داده های مشاهداتی جدید است و هدف مطالعه همگرایی، میزان همگرایی و وابستگی پامتریک و سایر ویژگی های کیفی گوریتم ها است. از این نظر، این نظریه نسخه آماری تحلیل عددی بازگشتی است. رویکرد اتخاذ شده شامل استفاده از روش های نسبتاً ساده تراکم است. اکثر نتایج استاندارد برای روش های مشابه کیفر-ولفوویتز و رابینز-مونرو به طور قابل توجهی گسترش یافته است. مشکلات محدود و نامحدود درمان می شوند، همانطور که مشکل نرخ همگرایی درمان می شود. در حالی که روش اصلی نسبتاً ساده است، می‌توان آن را توضیح داد تا پوشش گسترده و عمیقی از تقریب تصادفی مانند مسائل ارائه دهد. این رویکرد که رفتار الگوریتم را به ویژگی‌های کیفی معادلات دیفرانسیل قطعی یا تصادفی مرتبط می‌کند، در مفهوم‌سازی و طراحی الگوریتم مزایایی دارد. اغلب می توان بدون درگیر شدن در جزئیات زیاد، به درک شهودی از رفتار الگوریتم یا وابستگی کیفی به پارامترها و غیره دست یافت.

The book deals with a powerful and convenient approach to a great variety of types of problems of the recursive monte-carlo or stochastic approximation type. Such recu- sive algorithms occur frequently in stochastic and adaptive control and optimization theory and in statistical esti- tion theory. Typically, a sequence {X } of estimates of a n parameter is obtained by means of some recursive statistical th st procedure. The n estimate is some function of the n_l estimate and of some new observational data, and the aim is to study the convergence, rate of convergence, and the pa- metric dependence and other qualitative properties of the - gorithms. In this sense, the theory is a statistical version of recursive numerical analysis. The approach taken involves the use of relatively simple compactness methods. Most standard results for Kiefer-Wolfowitz and Robbins-Monro like methods are extended considerably. Constrained and unconstrained problems are treated, as is the rate of convergence problem. While the basic method is rather simple, it can be elaborated to allow a broad and deep coverage of stochastic approximation like problems. The approach, relating algorithm behavior to qualitative properties of deterministic or stochastic differ­ ential equations, has advantages in algorithm conceptualiza­ tion and design. It is often possible to obtain an intuitive understanding of algorithm behavior or qualitative dependence upon parameters, etc., without getting involved in a great deal of deta~l.