Information Measures: Information and Its Description in Science and Engineering

این کتاب مقدمه ای است برای توصیف ریاضی اطلاعات در علوم و مهندسی. نظریه ریاضی لازم به شیوه ای واضح تر از ساختار اثبات قضیه معمول بررسی می شود. این خواننده را قادر می سازد تا ایده ای در مورد ارتباط بین معیارهای مختلف اطلاعاتی ایجاد کند و رشته های افکار را در اشتقاق آنها درک کند. از آنجایی که تعداد زیادی روش ممکن برای توصیف اطلاعات وجود دارد، این معیارها به شیوه ای منسجم ارائه شده اند. برخی از نمونه‌های معیارهای اطلاعاتی مورد بررسی عبارتند از: اطلاعات شانون که در نظریه کدگذاری به کار می‌رود. معیار اطلاعات Akaike، در شناسایی سیستم برای تعیین مدل‌های رگرسیون خودکار و در شبکه‌های عصبی برای شناسایی تعداد نورون‌ها استفاده می‌شود. و Cramer-Rao محدود یا اطلاعات فیشر، توصیف حداقل واریانس به دست آمده توسط برآوردگرهای بی طرفانه. این نسخه با جلد نرم به محققان و دانشجویان مهندسی برق، به ویژه در کنترل و ارتباطات، فیزیک و ریاضیات کاربردی می‌پردازد.

This book is an introduction to the mathematical description of information in science and engineering. The necessary mathematical theory will be treated in a more vivid way than in the usual theorem-proof structure. This enables the reader to develop an idea of the connections between different information measures and to understand the trains of thoughts in their derivation. As there exist a great number of different possible ways to describe information, these measures are presented in a coherent manner. Some examples of the information measures examined are: Shannon information, applied in coding theory; Akaike information criterion, used in system identification to determine auto-regressive models and in neural networks to identify the number of neu-rons; and Cramer-Rao bound or Fisher information, describing the minimal variances achieved by unbiased estimators. This softcover edition addresses researchers and students in electrical engineering, particularly in control and communications, physics, and applied mathematics.