Models of Neural Networks III: Association, Generalization, and Representation

یکی از چالش‌برانگیزترین و جذاب‌ترین مسائل تئوری شبکه‌های عصبی، رفتار مجانبی، نحوه رفتار یک سیستم با گذشت زمان است. این برای بسیاری از کاربردهای عملی ارتباط ویژه ای دارد. در اینجا ما بر تداعی، تعمیم و بازنمایی تمرکز می کنیم. ابتدا به موضوع آخر می پردازیم. فصل مقدماتی، "تحلیل جهانی کارهای شبکه عصبی مکرر" توسط آندریاس هرز، تجزیه و تحلیل عمیقی از نحوه ساخت یک تابع لیاپانوف برای انواع مختلف دینامیک و کدگذاری عصبی ارائه می دهد. این شامل بررسی کار اخیر با جان هاپفیلد بر روی نورون های ادغام و آتش با تعاملات محلی است. فصل «میدان‌ها و نقشه‌های گیرنده در قشر بینایی: مدل‌های تسلط چشمی و ستون‌های جهت‌گیری» نوشته کن میلر، توضیح می‌دهد که چگونه قشر بینایی اولیه ممکن است به طور مجانبی ساختار خاص خود را از طریق یک فرآیند خودسازماندهی مبتنی بر یادگیری هبی به دست آورد. استدلال او از آن زمان نشان داده شده است که نسبتاً مستعد تعمیم است.

One of the most challenging and fascinating problems of the theory of neural nets is that of asymptotic behavior, of how a system behaves as time proceeds. This is of particular relevance to many practical applications. Here we focus on association, generalization, and representation. We turn to the last topic first. The introductory chapter, "Global Analysis of Recurrent Neural Net­ works," by Andreas Herz presents an in-depth analysis of how to construct a Lyapunov function for various types of dynamics and neural coding. It includes a review of the recent work with John Hopfield on integrate-and­ fire neurons with local interactions. The chapter, "Receptive Fields and Maps in the Visual Cortex: Models of Ocular Dominance and Orientation Columns" by Ken Miller, explains how the primary visual cortex may asymptotically gain its specific structure through a self-organization process based on Hebbian learning. His argu­ ment since has been shown to be rather susceptible to generalization.