Models of Neural Networks: Temporal Aspects of Coding and Information Processing in Biological Systems

از زمان ظهور Vol. در 1 از مدل‌های شبکه‌های عصبی در سال 1991، نظریه شبکه‌های عصبی بر دو پارادایم متمرکز شده است: کدگذاری اطلاعات از طریق شلیک منسجم نورون‌ها و بازخورد عملکردی. کدگذاری اطلاعات از طریق شلیک عصبی منسجم، از زمان به عنوان درجه آزادی اصلی استفاده می کند. این ظرفیت یک شبکه عصبی بر این واقعیت استوار است که پتانسیل عمل عصبی یک سنبله کوتاه، مثلاً 1 میلی ثانیه، در مکان و زمان است. همبستگی مکانی و زمانی فعالیت ممکن است حالت های مختلف یک شبکه را نشان دهد. به طور خاص، همبستگی‌های زمانی فعالیت ممکن است بیان کند که نورون‌ها همان \"شیء\" یک صحنه بصری را با اسپک زدن در همان زمان پردازش می‌کنند. توصیف سنتی یک شبکه عصبی از طریق نرخ شلیک، منحنی معروف S شکل، یک پنجره زمانی وسیع مثلاً حداقل 100 میلی‌ثانیه را پیش‌فرض می‌گیرد. بنابراین نمی تواند از ظرفیت "پیوند" مجموعه هایی از نورون های منسجم به منظور تقسیم بندی صحنه و جداسازی شکل-زمین استفاده کند. بازخورد یک ویژگی غالب سازمان ساختاری مغز است. شبکه‌های عصبی مکرر به طور گسترده در ادبیات فیزیکی مورد مطالعه قرار گرفته‌اند، که با کار مقدماتی میدان جان هاپ (1982) شروع شده است.

Since the appearance of Vol. 1 of Models of Neural Networks in 1991, the theory of neural nets has focused on two paradigms: information coding through coherent firing of the neurons and functional feedback. Information coding through coherent neuronal firing exploits time as a cardinal degree of freedom. This capacity of a neural network rests on the fact that the neuronal action potential is a short, say 1 ms, spike, localized in space and time. Spatial as well as temporal correlations of activity may represent different states of a network. In particular, temporal correlations of activity may express that neurons process the same "object" of, for example, a visual scene by spiking at the very same time. The traditional description of a neural network through a firing rate, the famous S-shaped curve, presupposes a wide time window of, say, at least 100 ms. It thus fails to exploit the capacity to "bind" sets of coherently firing neurons for the purpose of both scene segmentation and figure-ground segregation. Feedback is a dominant feature of the structural organization of the brain. Recurrent neural networks have been studied extensively in the physical literature, starting with the ground breaking work of John Hop­ field (1982).