Replacing supervised classification learning by Slow Feature Analysis in spiking neural networks

دسته بندی: سایبرنتیک: هوش مصنوعی
ویرایش:  
نویسندگان: Klampfl S.,  Maass W.  
سری:  
 
ناشر:  
سال نشر:  
تعداد صفحات: 9 
زبان: English 
فرمت فایل : PDF (درصورت درخواست کاربر به PDF، EPUB یا AZW3 تبدیل می شود) 
حجم فایل: 2 مگابایت 

قیمت کتاب (تومان) : 50,000

روشن است که چگونه نورون های مغز قادر به یادگیری بدون نظارت هستند تا بین الگوهای شلیک مکانی-زمانی نورون های پیش سیناپسی تمایز قائل شوند. ما نشان می‌دهیم که یک الگوریتم یادگیری بدون نظارت شناخته شده، تجزیه و تحلیل ویژگی‌های آهسته (SFA)، می‌تواند قابلیت طبقه‌بندی تشخیص خطی فیشر (FLD)، یک الگوریتم قدرتمند برای یادگیری نظارت‌شده را به دست آورد، اگر نمونه‌های مجاور موقتی احتمالاً از یک کلاس باشند. . ما همچنین نشان می‌دهیم که نورون‌های بازخوانی خطی ریزمدارهای قشر مغز را قادر می‌سازد تا تشخیص الگوهای شلیک تکراری را در جریانی از قطارهای سنبله با آمار شلیک یکسان، و همچنین تمایز ارقام گفتاری، به شیوه‌ای بدون نظارت بیاموزند. از آنجایی که وجود نظارت در مکانیسم‌های یادگیری بیولوژیکی نادر است، ارگانیسم‌ها اغلب باید
به توانایی این مکانیسم‌ها برای استخراج قوانین آماری از محیط خود تکیه کنند.
آزمایش‌های عصبی زیست‌شناسی اخیر نشان داده‌اند که مغز از نوعی هدف آهسته برای یادگیری طبقه‌بندی اشیاء خارجی بدون سرپرست استفاده می‌کند. تجزیه و تحلیل ویژگی های آهسته (SFA) می تواند یک مکانیسم ممکن برای آن باشد. ما یک رابطه بین روش یادگیری SFA بدون نظارت و یک روش رایج برای یادگیری طبقه‌بندی نظارت شده برقرار می‌کنیم: تشخیص خطی فیشر (FLD). به طور دقیق‌تر، نشان می‌دهیم که SFA قابلیت طبقه‌بندی FLD را با جایگزینی ناظر با اکتشافی ساده که دو نمونه موقتی مجاور در سری‌های زمانی ورودی احتمالاً از یک کلاس هستند، تقریبی می‌کند. علاوه بر این، ما در شبیه‌سازی یک مدل ریز مدار قشر مغز نشان می‌دهیم که SFA همچنین می‌تواند یک عنصر مهم در استخراج اطلاعات موقتی پایدار از مسیرهای حالت‌های شبکه باشد و از ایده محاسبات در هر زمان پشتیبانی می‌کند، به عنوان مثال، اطلاعاتی را در مورد هویت محرک نه تنها ارائه می‌کند. در انتهای مسیری از وضعیت های شبکه، اما در حال حاضر بسیار زودتر.
ساختار این مقاله به شرح زیر است. ما در بخش 2 با خلاصه ای کوتاه از تعاریف SFA و FLD شروع می کنیم. ما رابطه بین این روش‌ها را برای یادگیری بدون نظارت و نظارت در بخش 3 مورد بحث قرار می‌دهیم و کاربرد SFA را برای مسیرها در بخش
4 بررسی می‌کنیم. در بخش 5، نتایج شبیه‌سازی رایانه‌ای چندین بازخوانی SFA از یک مدل ریزمدار قشر مغز را گزارش می‌کنیم. بخش 6 با یک بحث به پایان می رسد.

It is open how neurons in the brain are able to learn without supervision to discriminate between spatio-temporal firing patterns of presynaptic neurons. We show that a known unsupervised learning algorithm, Slow Feature Analysis (SFA), is able to acquire the classification capability of Fisher’s Linear Discriminant (FLD), a powerful algorithm for supervised learning, if temporally adjacent samples are likely to be from the same class. We also demonstrate that it enables linear readout neurons of cortical microcircuits to learn the detection of repeating firing patterns within a stream of spike trains with the same firing statistics, as well as discrimination of spoken digits, in an unsupervised manner. Since the presence of supervision in biological learning mechanisms is rare, organisms often have
to rely on the ability of these mechanisms to extract statistical regularities from their environment.
Recent neurobiological experiments have suggested that the brain uses some type of slowness
objective to learn the categorization of external objects without a supervisor. Slow Feature Analysis (SFA) could be a possible mechanism for that. We establish a relationship between the unsupervised SFA learning method and a commonly used method for supervised classification learning: Fisher’s Linear Discriminant (FLD). More precisely, we show that SFA approximates the classification capability of FLD by replacing the supervisor with the simple heuristics that two temporally adjacent samples in the input time series are likely to be from the same class. Furthermore, we demonstrate in simulations of a cortical microcircuit model that SFA could also be an important ingredient in extracting temporally stable information from trajectories of network states and that it supports the idea of anytime computing, i.e., it provides information about the stimulus identity not only at the end of a trajectory of network states, but already much earlier.
This paper is structured as follows. We start in section 2 with brief recaps of the definitions of SFA and FLD. We discuss the relationship between these methods for unsupervised and supervised learning in section 3, and investigate the application of SFA to trajectories in section
4. In section 5 we report results of computer simulations of several SFA readouts of a cortical microcircuit model. Section 6 concludes with a discussion.