Learning and Generalisation: With Applications to Neural Networks

یادگیری و تعمیم یک نظریه ریاضی رسمی برای پرداختن به سوالات شهودی ارائه می دهد:

• چگونه یک ماشین یک مفهوم جدید را بر اساس مثال ها یاد می گیرد؟

• چگونه یک شبکه عصبی، پس از آموزش کافی، می تواند نتیجه یک ورودی نادیده قبلی را به درستی پیش بینی کند؟

• چه مقدار آموزش برای دستیابی به یک سطح مشخص از دقت در پیش بینی؟

• چگونه می توان رفتار دینامیکی یک سیستم کنترل غیرخطی را با مشاهده رفتار ورودی-خروجی آن در یک بازه زمانی محدود شناسایی کرد؟

در اولین نسخه موفق آن، < EM>A Theory of Learning and Generalization اولین کتابی بود که مسئله یادگیری ماشین را در ارتباط با نظریه فرآیندهای تجربی مورد بررسی قرار داد، که این نظریه یکی از شاخه های تثبیت شده نظریه احتمال است. پرداختن به هر دو موضوع در کنار یکدیگر منجر به بینش‌های جدید و همچنین نتایج جدیدی در هر دو موضوع می‌شود.

این ویرایش دوم این مطالب را گسترش داده و بهبود می‌بخشد و حوزه‌های جدیدی را پوشش می‌دهد:

• ماشین های بردار پشتیبانی می کند.

• ابعاد و کاربردهای چربی شکن برای یادگیری شبکه های عصبی.

• یادگیری با نمونه های وابسته تولید شده توسط فرآیند اختلاط بتا.

• P>

• ارتباط بین شناسایی سیستم و تئوری یادگیری.

• راه حل احتمالی «مسائل حل نشدنی» در کنترل قوی و نظریه ماتریس با استفاده از الگوریتم تصادفی.

انعکاس پیشرفت ها در در زمینه، راه حل هایی برای برخی از مسائل باز مطرح شده در ویرایش اول ارائه شده است، در حالی که مسائل باز جدید اضافه شده است.

یادگیری و تعمیم (ویرایش دوم) مطالعه ضروری برای نظریه پردازان کنترل و سیستم، محققان شبکه های عصبی، دانشمندان نظری کامپیوتر و احتمال گرایان.

Learning and Generalization provides a formal mathematical theory for addressing intuitive questions such as:

• How does a machine learn a new concept on the basis of examples?

• How can a neural network, after sufficient training, correctly predict the outcome of a previously unseen input?

• How much training is required to achieve a specified level of accuracy in the prediction?

• How can one identify the dynamical behaviour of a nonlinear control system by observing its input-output behaviour over a finite interval of time?

In its successful first edition, A Theory of Learning and Generalization was the first book to treat the problem of machine learning in conjunction with the theory of empirical processes, the latter being a well-established branch of probability theory. The treatment of both topics side-by-side leads to new insights, as well as to new results in both topics.

This second edition extends and improves upon this material, covering new areas including:

• Support vector machines.

• Fat-shattering dimensions and applications to neural network learning.

• Learning with dependent samples generated by a beta-mixing process.

• Connections between system identification and learning theory.

• Probabilistic solution of 'intractable problems' in robust control and matrix theory using randomized algorithm.

Reflecting advancements in the field, solutions to some of the open problems posed in the first edition are presented, while new open problems have been added.

Learning and Generalization (second edition) is essential reading for control and system theorists, neural network researchers, theoretical computer scientists and probabilist.