Adaptive Algorithms and Stochastic Approximations

سیستم‌های تطبیقی ​​به‌طور گسترده در بسیاری از برنامه‌های کاربردی از طریق فیلتر تطبیقی ​​و به طور کلی پردازش سیگنال تطبیقی، شناسایی سیستم‌ها و کنترل تطبیقی، تا تشخیص الگو و هوش ماشینی دیده می‌شوند: انطباق اکنون به عنوان سنگ اصلی "هوش" در سیستم‌های کامپیوتری شناخته می‌شود. . این مناطق متنوع، طبقاتی از مدل‌ها را منعکس می‌کنند که به راحتی هر سیستم مربوطه را توصیف می‌کنند. بنابراین، اگرچه به سختی می‌توان یک «نظریه کلی سیستم‌های تطبیقی» وجود داشت که هم وظیفه مدل‌سازی و هم طراحی رویه انطباق را در بر گیرد، با این وجود، این موضوعات متنوع یک جزء مشترک عمده دارند: استفاده از الگوریتم‌های تطبیقی، که به آن نیز معروف است. تقریب های تصادفی در ادبیات آمار ریاضی، یعنی روش انطباق (زمانی که تمام مشکلات مدل سازی حل شد). کنار هم قرار گرفتن این دو عبارت در عنوان نشان دهنده جاه طلبی نویسندگان برای تولید یک اثر مرجع است، هم برای مهندسانی که از این الگوریتم های تطبیقی ​​استفاده می کنند و هم برای احتمال دانان یا آماردانانی که مایلند تقریب های تصادفی را از نظر مشکلات ناشی از کاربردهای واقعی مطالعه کنند. از این رو این کتاب در دو بخش سازماندهی شده است، بخش اول کاربر محور، و بخش دوم پایه های ریاضی را برای پشتیبانی از تمرین شرح داده شده در بخش اول ارائه می دهد. این کتاب موضوعات همگرایی، نرخ همگرایی، انطباق و ردیابی دائمی، تشخیص تغییر را پوشش می‌دهد و با برنامه‌های واقع‌گرایانه مختلفی که از این حوزه‌های کاربردی سرچشمه می‌گیرد، نشان داده شده است.

Adaptive systems are widely encountered in many applications ranging through adaptive filtering and more generally adaptive signal processing, systems identification and adaptive control, to pattern recognition and machine intelligence: adaptation is now recognised as keystone of "intelligence" within computerised systems. These diverse areas echo the classes of models which conveniently describe each corresponding system. Thus although there can hardly be a "general theory of adaptive systems" encompassing both the modelling task and the design of the adaptation procedure, nevertheless, these diverse issues have a major common component: namely the use of adaptive algorithms, also known as stochastic approximations in the mathematical statistics literature, that is to say the adaptation procedure (once all modelling problems have been resolved). The juxtaposition of these two expressions in the title reflects the ambition of the authors to produce a reference work, both for engineers who use these adaptive algorithms and for probabilists or statisticians who would like to study stochastic approximations in terms of problems arising from real applications. Hence the book is organised in two parts, the first one user-oriented, and the second providing the mathematical foundations to support the practice described in the first part. The book covers the topcis of convergence, convergence rate, permanent adaptation and tracking, change detection, and is illustrated by various realistic applications originating from these areas of applications.