Introduction to Optimization Methods and their Application in Statistics

تکنیک‌های بهینه‌سازی برای یافتن مقادیر مجموعه‌ای از پارامترها استفاده می‌شوند که برخی از تابع هدف مورد علاقه را به حداکثر یا حداقل می‌رسانند. چنین روش هایی در آمار برای تخمین، برازش مدل و ... اهمیت زیادی پیدا کرده اند. این متن سعی دارد به معرفی مختصری از روش های بهینه سازی و کاربرد آنها در چندین حوزه مهم آماری بپردازد. وانمود نمی کند که درمان کاملی از تکنیک های بهینه سازی یا بررسی جامع کاربرد آنها در آمار ارائه دهد. البته چنین مروری به حجمی چندین مرتبه بزرگتر از این نیاز دارد زیرا تقریباً هر شماره از هر مجله آماری حاوی یک یا مقاله دیگری است که شامل استفاده از یک روش بهینه‌سازی است. امید است که این متن برای دانشجویان دروس آمار کاربردی و محققانی که نیاز به استفاده از تکنیک های بهینه سازی در زمینه آماری دارند مفید باشد. در نهایت، از برتا لیکی برای تایپ نسخه خطی تشکر می کنم.

Optimization techniques are used to find the values of a set of parameters which maximize or minimize some objective function of interest. Such methods have become of great importance in statistics for estimation, model fitting, etc. This text attempts to give a brief introduction to optimization methods and their use in several important areas of statistics. It does not pretend to provide either a complete treatment of optimization techniques or a comprehensive review of their application in statistics; such a review would, of course, require a volume several orders of magnitude larger than this since almost every issue of every statistics journal contains one or other paper which involves the application of an optimization method. It is hoped that the text will be useful to students on applied statistics courses and to researchers needing to use optimization techniques in a statistical context. Lastly, my thanks are due to Bertha Lakey for typing the manuscript.