Algorithmic Differentiation of Pragma-Defined Parallel Regions: Differentiating Computer Programs Containing OpenMP

برنامه های عددی اغلب از تکنیک های برنامه نویسی موازی مانند OpenMP برای محاسبه مقادیر خروجی برنامه تا حد امکان کارآمد استفاده می کنند. علاوه بر این، مقادیر مشتق از این مقادیر خروجی با توجه به مقادیر ورودی خاص نقش مهمی ایفا می کنند. برای دستیابی به کدی که نه تنها مقادیر خروجی بلکه مقادیر مشتق را به طور همزمان محاسبه می کند، این کار چندین قانون تبدیل منبع به منبع را معرفی می کند. این قوانین مبتنی بر تکنیکی به نام تمایز الگوریتمی هستند. تمرکز اصلی این کار بر روی حالت معکوس مهم تمایز الگوریتمی نهفته است. معکوس جریان داده ذاتی حالت معکوس باید به درستی در طول تبدیل انجام شود. بخش اول کار، تبدیل ها را به روشی بسیار کلی بررسی می کند، زیرا مناطق موازی مبتنی بر پراگما در انواع مختلفی مانند OpenMP، OpenACC و Intel Phi رخ می دهند. بخش دوم قوانین تبدیل مهم ترین سازه های OpenMP را شرح می دهد.

Numerical programs often use parallel programming techniques such as OpenMP to compute the program's output values as efficient as possible. In addition, derivative values of these output values with respect to certain input values play a crucial role. To achieve code that computes not only the output values simultaneously but also the derivative values, this work introduces several source-to-source transformation rules. These rules are based on a technique called algorithmic differentiation. The main focus of this work lies on the important reverse mode of algorithmic differentiation. The inherent data-flow reversal of the reverse mode must be handled properly during the transformation. The first part of the work examines the transformations in a very general way since pragma-based parallel regions occur in many different kinds such as OpenMP, OpenACC, and Intel Phi. The second part describes the transformation rules of the most important OpenMP constructs.