Stochastic Approximation and Its Applications

برآورد پارامترهای ناشناخته بر اساس داده‌های مشاهده‌ای که حاوی اطلاعات مربوط به پارامترها هستند، در حوزه‌های مختلف تئوری و کاربرد همه‌جا وجود دارد. به عنوان مثال، در شناسایی سیستم، ضرایب سیستم مجهول بر اساس داده های ورودی-خروجی سیستم کنترل تخمین زده می شود. در سیستم‌های کنترل تطبیقی، بهره کنترل تطبیقی ​​باید بر اساس داده‌های مشاهده به گونه‌ای تعریف شود که بهره به طور مجانبی به سمت بهینه گرایش پیدا کند. در شناسایی کانال کور، ضرایب کانال با استفاده از داده های خروجی به دست آمده در گیرنده تخمین زده می شود. در پردازش سیگنال، ماتریس وزن بهینه بر اساس مشاهدات تخمین زده می شود. در طبقه بندی الگو، پارامترهای تعیین کننده هایپرپلان پارتیشن با یادگیری جستجو می شوند و ممکن است نمونه های بیشتری به این لیست اضافه شود. همه این مسائل تخمین پارامتر را می توان به یک مسئله جستجوی ریشه برای یک تابع ناشناخته تبدیل کرد. برای مشاهده این، اجازه دهید - به مشاهده در زمان i توجه کنید. ه. ، اطلاعات موجود در مورد پارامترهای ناشناخته در آن زمان می توان فرض کرد که پارامتر تحت تخمین نشان داده شده با یک ریشه یک تابع ناشناخته است این یک محدودیت نیست، زیرا، برای مثال، ممکن است به عنوان یک تابع عمل کند.

Estimating unknown parameters based on observation data conta- ing information about the parameters is ubiquitous in diverse areas of both theory and application. For example, in system identification the unknown system coefficients are estimated on the basis of input-output data of the control system; in adaptive control systems the adaptive control gain should be defined based on observation data in such a way that the gain asymptotically tends to the optimal one; in blind ch- nel identification the channel coefficients are estimated using the output data obtained at the receiver; in signal processing the optimal weighting matrix is estimated on the basis of observations; in pattern classifi- tion the parameters specifying the partition hyperplane are searched by learning, and more examples may be added to this list. All these parameter estimation problems can be transformed to a root-seeking problem for an unknown function. To see this, let - note the observation at time i. e. , the information available about the unknown parameters at time It can be assumed that the parameter under estimation denoted by is a root of some unknown function This is not a restriction, because, for example, may serve as such a function.