Multimodal Learning Toward Micro-video Understanding

ویدئوهای میکرو، شکل جدیدی از محتوای تولید شده توسط کاربر، به طور گسترده در بسترهای اجتماعی مختلف مانند Vine، Kuaishou، و TikTok پخش شده است.

متفاوت از ویدیوهای طولانی سنتی، میکروفیلم ها معمولاً توسط دستگاه های تلفن همراه هوشمند در هر مکان در عرض چند ثانیه ضبط می شوند. به دلیل مختصر بودن و هزینه پهنای باند کم، میکرو ویدئوها در حال افزایش اشتیاق کاربران هستند. شکوفا شدن میکرو ویدئوها، دری را به روی امکان بسیاری از برنامه های کاربردی، از ذخیره محتوای شبکه گرفته تا تبلیغات آنلاین، باز می کند. بنابراین، بسیار مطلوب است که یک طرح مؤثر برای درک ریز ویدئویی با مرتبه بالا ایجاد شود.

درک میکروویدئو به دلیل چالش‌های زیر بی‌اهمیت است: (1) نحوه نشان دادن ویدئوهای میکرو که فقط یک یا چند مضمون یا مفهوم سطح بالا را منتقل می کنند. (2) چگونه می توان از ساختار سلسله مراتبی دسته های مکان برای هدایت تجزیه و تحلیل میکرو ویدئو استفاده کرد. (3) چگونه می توان تأثیر کیفیت پایین ناشی از محیط های پیچیده اطراف و لرزش دوربین را کاهش داد. (4) نحوه مدل‌سازی داده‌های متوالی چندوجهی، یعنی روش‌های متنی، صوتی، بصری و اجتماعی برای افزایش درک میکرو ویدئو. و (5) نحوه ساخت مجموعه داده های معیار در مقیاس بزرگ برای تجزیه و تحلیل. این چالش‌ها تا به امروز تا حد زیادی ناشناخته بوده‌اند.

در این کتاب، ما بر روی پرداختن به چالش‌های ارائه‌شده در بالا با ارائه برخی از تئوری‌های پیشرفته یادگیری چندوجهی تمرکز می‌کنیم. برای نشان دادن اثربخشی این مدل‌ها، ما آن‌ها را برای سه کار عملی درک میکرو ویدئو به کار می‌بریم: پیش‌بینی محبوبیت، تخمین طبقه‌بندی مکان، و مسیریابی میکرو ویدئو. به ویژه، ما ابتدا سه مجموعه داده میکرو ویدئویی در مقیاس بزرگ را برای این وظایف عملی می‌سازیم. سپس یک چارچوب یادگیری انتقالی چندوجهی برای پیش‌بینی محبوبیت میکرو ویدیو ارائه می‌کنیم. علاوه بر این، ما چندین رویکرد یادگیری مشارکتی چندوجهی و یک طرح یادگیری انتقال چندوجهی را برای تخمین طبقه‌بندی محل برگزاری میکرو ویدئو معرفی می‌کنیم. در همین حال، ما یک رویکرد یادگیری متوالی چندوجهی را برای توصیه‌های میکرو ویدئویی ایجاد می‌کنیم. در نهایت، کتاب را به پایان می‌رسانیم و جهت‌های تحقیقاتی آینده در یادگیری چندوجهی به سمت درک میکرو ویدئویی را مشخص می‌کنیم.

Micro-videos, a new form of user-generated content, have been spreading widely across various social platforms, such as Vine, Kuaishou, and TikTok.

Different from traditional long videos, micro-videos are usually recorded by smart mobile devices at any place within a few seconds. Due to their brevity and low bandwidth cost, micro-videos are gaining increasing user enthusiasm. The blossoming of micro-videos opens the door to the possibility of many promising applications, ranging from network content caching to online advertising. Thus, it is highly desirable to develop an effective scheme for high-order micro-video understanding.

Micro-video understanding is, however, non-trivial due to the following challenges: (1) how to represent micro-videos that only convey one or few high-level themes or concepts; (2) how to utilize the hierarchical structure of venue categories to guide micro-video analysis; (3) how to alleviate the influence of low quality caused by complex surrounding environments and camera shake; (4) how to model multimodal sequential data, i.e. textual, acoustic, visual, and social modalities to enhance micro-video understanding; and (5) how to construct large-scale benchmark datasets for analysis. These challenges have been largely unexplored to date.

In this book, we focus on addressing the challenges presented above by proposing some state-of-the-art multimodal learning theories. To demonstrate the effectiveness of these models, we apply them to three practical tasks of micro-video understanding: popularity prediction, venue category estimation, and micro-video routing. Particularly, we first build three large-scale real-world micro-video datasets for these practical tasks. We then present a multimodal transductive learning framework for micro-video popularity prediction. Furthermore, we introduce several multimodal cooperative learning approaches and a multimodal transfer learning scheme for micro-video venue category estimation. Meanwhile, we develop a multimodal sequential learning approach for micro-video recommendation. Finally, we conclude the book and figure out the future research directions in multimodal learning toward micro-video understanding.