Neural Network Methods in Natural Language Processing

شبکه های عصبی خانواده ای از مدل های قدرتمند یادگیری ماشینی هستند. این کتاب بر روی کاربرد مدل های شبکه عصبی در داده های زبان طبیعی تمرکز دارد. نیمه اول کتاب (قسمت اول و دوم) مبانی یادگیری ماشینی نظارت شده و شبکه های عصبی پیشخور، اصول کار با یادگیری ماشین بر روی داده های زبان و استفاده از نمایش های مبتنی بر برداری و نه نمادین برای کلمات را پوشش می دهد. . همچنین انتزاع نمودار محاسباتی را پوشش می‌دهد، که به راحتی امکان تعریف و آموزش شبکه‌های عصبی دلخواه را فراهم می‌کند، و اساس طراحی کتابخانه‌های نرم‌افزار شبکه عصبی معاصر است.

بخش دوم کتاب (بخش سوم) و IV) معماری‌های شبکه‌های عصبی تخصصی‌تر را معرفی می‌کند، از جمله شبکه‌های عصبی کانولوشنیک 1 بعدی، شبکه‌های عصبی تکراری، مدل‌های نسل شرطی و مدل‌های مبتنی بر توجه. این معماری‌ها و تکنیک‌ها نیروی محرکه الگوریتم‌های پیشرفته برای ترجمه ماشینی، تجزیه نحوی و بسیاری از کاربردهای دیگر هستند. در نهایت، ما همچنین شبکه‌های درختی شکل، پیش‌بینی ساختاریافته، و چشم‌انداز یادگیری چند وظیفه‌ای را مورد بحث قرار می‌دهیم.

Neural networks are a family of powerful machine learning models. This book focuses on the application of neural network models to natural language data. The first half of the book (Parts I and II) covers the basics of supervised machine learning and feed-forward neural networks, the basics of working with machine learning over language data, and the use of vector-based rather than symbolic representations for words. It also covers the computation-graph abstraction, which allows to easily define and train arbitrary neural networks, and is the basis behind the design of contemporary neural network software libraries.

The second part of the book (Parts III and IV) introduces more specialized neural network architectures, including 1D convolutional neural networks, recurrent neural networks, conditioned-generation models, and attention-based models. These architectures and techniques are the driving force behind state-of-the-art algorithms for machine translation, syntactic parsing, and many other applications. Finally, we also discuss tree-shaped networks, structured prediction, and the prospects of multi-task learning.