Continuous Average Control of Piecewise Deterministic Markov Processes

هدف این کتاب ارائه نتایج اخیر در تئوری کنترل برای مسئله کنترل پیوسته متوسط ​​بلندمدت فرآیندهای مارکوف قطعی قطعه ای (PDMPs) است. این کتاب عمدتاً بر معیارهای هزینه متوسط ​​بلندمدت تمرکز دارد و برخی از تکنیک‌های شناخته‌شده مربوط به فرآیندهای تصمیم‌گیری مارکوف در زمان گسسته و زمان پیوسته را به PDMP گسترش می‌دهد، از جمله به اصطلاح «رویکرد نابرابری متوسط»، «ناپدید شدن». تکنیک تخفیف" و "الگوریتم تکرار سیاست". ما معتقدیم که چیزی که در مورد رویکرد ما منحصر به فرد است این است که با استفاده از ویژگی های خاص PDMP ها، به جای مورد زمان پیوسته، یک موازی با نظریه عمومی برای فرآیندهای تصمیم گیری مارکوف زمان گسسته دنبال می کنیم. دو دلیل اصلی برای انجام این کار، استفاده از ابزارهای قدرتمند توسعه‌یافته در چارچوب زمان گسسته و اجتناب از کار با مولد بی‌نهایت کوچک مرتبط با یک PDMP است، که در بیشتر موارد محدوده تعریف آن دشوار است. اگرچه این کتاب عمدتاً به عنوان یک متن نظری در نظر گرفته شده است، اما حاوی چند مثال انگیزشی نیز می باشد. این کتاب در درجه اول برای دانشجویان پیشرفته و متخصصان تئوری کنترل است. این کتاب منبع ارزشمندی برای کارشناسان در زمینه فرآیندهای تصمیم مارکوف خواهد بود. علاوه بر این، کتاب باید برای دوره ها یا سمینارهای پیشرفته خاص مناسب باشد. به عنوان پیشینه، فرد نیاز به آشنایی با تئوری فرآیندهای تصمیم مارکوف و مقداری دانش از فرآیندهای تصادفی و تحلیل مدرن دارد.

The intent of this book is to present recent results in the control theory for the long run average continuous control problem of piecewise deterministic Markov processes (PDMPs). The book focuses mainly on the long run average cost criteria and extends to the PDMPs some well-known techniques related to discrete-time and continuous-time Markov decision processes, including the so-called ``average inequality approach'', ``vanishing discount technique'' and ``policy iteration algorithm''. We believe that what is unique about our approach is that, by using the special features of the PDMPs, we trace a parallel with the general theory for discrete-time Markov Decision Processes rather than the continuous-time case. The two main reasons for doing that is to use the powerful tools developed in the discrete-time framework and to avoid working with the infinitesimal generator associated to a PDMP, which in most cases has its domain of definition difficult to be characterized. Although the book is mainly intended to be a theoretically oriented text, it also contains some motivational examples. The book is targeted primarily for advanced students and practitioners of control theory. The book will be a valuable source for experts in the field of Markov decision processes. Moreover, the book should be suitable for certain advanced courses or seminars. As background, one needs an acquaintance with the theory of Markov decision processes and some knowledge of stochastic processes and modern analysis.