Cellular Neural Networks: Analysis, Design and Optimization

شبکه‌های عصبی سلولی (CNN) یک کلاس از آرایه‌های غیرخطی، تکراری و محلی از سلول‌های دینامیکی یکسان را تشکیل می‌دهند که به صورت موازی کار می‌کنند. تراشه‌های ANALOG برای استفاده در برنامه‌هایی که پردازش سیگنال پیچیده در مصرف انرژی کم مورد نیاز است، توسعه می‌یابند.
پردازش سیگنال از طریق CNN تنها در صورتی کارآمد می شود که شبکه در سخت افزار آنالوگ پیاده سازی شود. با توجه به محدودیت‌های فیزیکی که اجرای آنالوگ مستلزم آن است، عملکرد قوی یک تراشه CNN با توجه به تغییرات پارامتر باید بیمه شود. تا حد زیادی نمی توان تمام وظایف ریاضی CNN را به طور قابل اعتماد بر روی یک تراشه آنالوگ انجام داد. برخی از آنها ذاتا بیش از حد حساس هستند. این کتاب یک معیار استحکام را برای تعیین کمیت درجه استحکام تعریف می‌کند و یک روش طراحی تحلیلی دقیق و مستقیم برای سنتز پارامترهای شبکه بهینه قوی پیشنهاد می‌کند. این روش بر اساس یک تکنیک مرکز طراحی است که به طور کلی در مواردی که محدودیت‌های خطی باید به روشی بهینه برآورده شوند، قابل استفاده است.
سرعت پردازش همیشه هنگام بحث در مورد دستگاه های پردازش سیگنال بسیار مهم است. در مورد CNN، نشان داده شده است که زمان تنظیم را می توان در عبارات تحلیلی بسته مشخص کرد، که از یک سو، بهینه سازی پارامترها را با توجه به سرعت و از سوی دیگر، ادغام عددی کارآمد CNN ها را امکان پذیر می کند. وابستگی متقابل بین مسائل استحکام و سرعت نیز مورد توجه قرار گرفته است. هدف دیگری که دنبال می شود، یکسان سازی نظریه سیستم های زمان پیوسته و زمان گسسته است. با استفاده از رویکرد اپراتور دلتا، ثابت شده است که پارامترهای شبکه یکسان را می توان برای هر دو این کلاس ها استفاده کرد، حتی اگر توابع خروجی غیر خطی آنها متفاوت باشد.
مسائل پیچیده تر بهینه سازی CNN که به صورت تحلیلی قابل حل نیستند، نیازمند توسل به روش های عددی هستند. در این میان، تکنیک‌های بهینه‌سازی تصادفی مانند الگوریتم‌های ژنتیک سودمندی خود را ثابت می‌کنند، برای مثال در مسائل طبقه‌بندی تصویر. از زمان آغاز به کار CNN، مشکل یافتن پارامترهای شبکه برای یک کار مورد نظر به عنوان یک مشکل یادگیری یا آموزش در نظر گرفته شده است و روش های محاسباتی پرهزینه مشتق شده از شبکه های عصبی استاندارد به کار گرفته شده است. علاوه بر این، مجموعه پارامترهای مفید متعددی توسط شهود به دست آمده است.
در این کتاب یک روش طراحی تحلیلی مستقیم و دقیق برای پارامترهای شبکه ارائه شده است. این رویکرد راه‌حل‌هایی را ارائه می‌دهد که با توجه به استحکام، جنبه‌ای که برای اجرای موفقیت‌آمیز سخت‌افزار آنالوگ CNN که اغلب نادیده گرفته می‌شود، حیاتی است.
`این اثر به زیبایی گرد نتایج جالب و مفید بسیاری را هم برای نظریه پردازان CNN و هم برای طراحان مدار ارائه می دهد.
لئون او. چوا

Cellular Neural Networks (CNNs) constitute a class of nonlinear, recurrent and locally coupled arrays of identical dynamical cells that operate in parallel. ANALOG chips are being developed for use in applications where sophisticated signal processing at low power consumption is required.
Signal processing via CNNs only becomes efficient if the network is implemented in analog hardware. In view of the physical limitations that analog implementations entail, robust operation of a CNN chip with respect to parameter variations has to be insured. By far not all mathematically possible CNN tasks can be carried out reliably on an analog chip; some of them are inherently too sensitive. This book defines a robustness measure to quantify the degree of robustness and proposes an exact and direct analytical design method for the synthesis of optimally robust network parameters. The method is based on a design centering technique which is generally applicable where linear constraints have to be satisfied in an optimum way.
Processing speed is always crucial when discussing signal-processing devices. In the case of the CNN, it is shown that the setting time can be specified in closed analytical expressions, which permits, on the one hand, parameter optimization with respect to speed and, on the other hand, efficient numerical integration of CNNs. Interdependence between robustness and speed issues are also addressed. Another goal pursued is the unification of the theory of continuous-time and discrete-time systems. By means of a delta-operator approach, it is proven that the same network parameters can be used for both of these classes, even if their nonlinear output functions differ.
More complex CNN optimization problems that cannot be solved analytically necessitate resorting to numerical methods. Among these, stochastic optimization techniques such as genetic algorithms prove their usefulness, for example in image classification problems. Since the inception of the CNN, the problem of finding the network parameters for a desired task has been regarded as a learning or training problem, and computationally expensive methods derived from standard neural networks have been applied. Furthermore, numerous useful parameter sets have been derived by intuition.
In this book, a direct and exact analytical design method for the network parameters is presented. The approach yields solutions which are optimum with respect to robustness, an aspect which is crucial for successful implementation of the analog CNN hardware that has often been neglected.
`This beautifully rounded work provides many interesting and useful results, for both CNN theorists and circuit designers.'
Leon O. Chua