Supervised Sequence Labelling with Recurrent Neural Networks

برچسب‌گذاری دنباله‌ای تحت نظارت یک حوزه حیاتی از یادگیری ماشین است که شامل وظایفی مانند گفتار، دست‌خط و تشخیص حرکات، پیش‌بینی ساختار ثانویه پروتئین و برچسب‌گذاری بخشی از گفتار است. شبکه‌های عصبی مکرر ابزارهای یادگیری توالی قدرتمندی هستند - قوی برای نویز ورودی و اعوجاج، قادر به بهره‌برداری از اطلاعات زمینه‌ای دوربرد - که به نظر می‌رسد برای چنین مشکلاتی مناسب هستند. با این حال نقش آنها در سیستم های برچسب گذاری توالی در مقیاس بزرگ تاکنون کمکی بوده است.

هدف این کتاب یک چارچوب کامل برای طبقه‌بندی و رونویسی داده‌های متوالی تنها با شبکه‌های عصبی مکرر است. سه نوآوری اصلی برای تحقق این هدف معرفی شده است. اولاً، لایه خروجی طبقه‌بندی زمانی اتصال‌گرا به چارچوب اجازه می‌دهد تا با دنباله‌های هدف بدون بخش، مانند رونویسی گفتار در سطح واج، آموزش داده شود. این برخلاف رویکردهای پیوندگرای قبلی است که به تقسیم بندی قبلی مستعد خطا وابسته بودند. ثانیاً، شبکه‌های عصبی چند بعدی بازگشتی چارچوب را به روشی طبیعی به داده‌هایی با بیش از یک بعد مکانی-زمانی، مانند تصاویر و ویدیوها گسترش می‌دهند. ثالثاً، استفاده از زیرنمونه‌برداری سلسله مراتبی، اعمال چارچوب را برای توالی‌های با وضوح بسیار بزرگ یا با وضوح بالا، مانند صدا یا ویدیوی خام، امکان‌پذیر می‌سازد.

تأیید اعتبار تجربی توسط دولت ارائه می‌شود. جدیدترین نتایج را در تشخیص گفتار و دست خط می‌کند.

Supervised sequence labelling is a vital area of machine learning, encompassing tasks such as speech, handwriting and gesture recognition, protein secondary structure prediction and part-of-speech tagging. Recurrent neural networks are powerful sequence learning tools—robust to input noise and distortion, able to exploit long-range contextual information—that would seem ideally suited to such problems. However their role in large-scale sequence labelling systems has so far been auxiliary.

The goal of this book is a complete framework for classifying and transcribing sequential data with recurrent neural networks only. Three main innovations are introduced in order to realise this goal. Firstly, the connectionist temporal classification output layer allows the framework to be trained with unsegmented target sequences, such as phoneme-level speech transcriptions; this is in contrast to previous connectionist approaches, which were dependent on error-prone prior segmentation. Secondly, multidimensional recurrent neural networks extend the framework in a natural way to data with more than one spatio-temporal dimension, such as images and videos. Thirdly, the use of hierarchical subsampling makes it feasible to apply the framework to very large or high resolution sequences, such as raw audio or video.

Experimental validation is provided by state-of-the-art results in speech and handwriting recognition.