Functional Networks with Applications: A Neural-Based Paradigm

شبکه های عصبی مصنوعی به عنوان ابزاری قدرتمند برای یادگیری و بازتولید سیستم ها در زمینه های مختلف کاربرد شناخته شده اند. کارهای شبکه عصبی از رفتار مغز الهام گرفته شده و شامل یک یا چند لایه نورون یا واحدهای محاسباتی است که توسط پیوندهایی به هم متصل شده اند. هر نورون مصنوعی یک مقدار ورودی از لایه ورودی یا نورون های لایه قبلی دریافت می کند. سپس یک خروجی اسکالر را از ترکیب خطی ورودی های دریافتی با استفاده از یک تابع اسکالر معین (تابع فعال سازی) محاسبه می کند که برای همه نورون ها یکسان فرض می شود. یکی از ویژگی های اصلی شبکه های عصبی توانایی آنها در یادگیری از داده ها است. دو نوع یادگیری وجود دارد: ساختاری و پارامتری. یادگیری ساختاری شامل یادگیری توپولوژی شبکه است، یعنی تعداد لایه‌ها، تعداد نورون‌های هر لایه و چه نورونی به هم متصل هستند. این فرآیند با آزمون و خطا انجام می شود تا زمانی که تناسب خوبی با داده ها حاصل شود. یادگیری پارامتری شامل یادگیری مقادیر وزن برای توپولوژی معین شبکه است. از آنجایی که توابع عصبی داده شده است، این فرآیند یادگیری با تخمین وزن اتصال بر اساس اطلاعات داده شده به دست می آید. برای این هدف، یک تابع خطا با استفاده از چندین روش یادگیری شناخته شده، مانند الگوریتم انتشار پس‌انداز، به حداقل می‌رسد. متأسفانه، برای این روش‌ها: (الف) عملکرد حاصل از فرآیند یادگیری هیچ تفسیر فیزیکی یا مهندسی ندارد. بنابراین، شبکه های عصبی به عنوان جعبه سیاه دیده می شوند.

Artificial neural networks have been recognized as a powerful tool to learn and reproduce systems in various fields of applications. Neural net­ works are inspired by the brain behavior and consist of one or several layers of neurons, or computing units, connected by links. Each artificial neuron receives an input value from the input layer or the neurons in the previ­ ous layer. Then it computes a scalar output from a linear combination of the received inputs using a given scalar function (the activation function), which is assumed the same for all neurons. One of the main properties of neural networks is their ability to learn from data. There are two types of learning: structural and parametric. Structural learning consists of learning the topology of the network, that is, the number of layers, the number of neurons in each layer, and what neurons are connected. This process is done by trial and error until a good fit to the data is obtained. Parametric learning consists of learning the weight values for a given topology of the network. Since the neural functions are given, this learning process is achieved by estimating the connection weights based on the given information. To this aim, an error function is minimized using several well known learning methods, such as the backpropagation algorithm. Unfortunately, for these methods: (a) The function resulting from the learning process has no physical or engineering interpretation. Thus, neural networks are seen as black boxes.