Model-Free Prediction and Regression: A Transformation-Based Approach to Inference

اصل پیش‌بینی بدون مدل که در این تک نگاری توضیح داده شده است، مبتنی بر مفهوم ساده تبدیل یک مجموعه داده پیچیده به مجموعه‌ای است که کار با آن آسان‌تر است، به عنوان مثال، i.i.d. یا گاوسی به این ترتیب، تاکید بر کمیت‌های قابل مشاهده، یعنی داده‌های فعلی و آینده را بر خلاف پارامترهای مدل غیرقابل مشاهده و تخمین‌های آن بازمی‌گرداند و پیش‌بینی‌کننده‌های بهینه را در تنظیمات متنوعی مانند رگرسیون و سری‌های زمانی به دست می‌دهد. علاوه بر این، Bootstrap بدون مدل، ما را فراتر از پیش‌بینی نقطه‌ای می‌برد تا فواصل پیش‌بینی مکرر را بدون توسل به فرضیات غیرواقعی مانند عادی بودن بسازیم.

پیش‌بینی به‌طور سنتی از طریق یک پارادایم مبتنی بر مدل، به عنوان مثال، (( الف) برازش یک مدل با داده های موجود، و (ب) استفاده از مدل برازش برای برون یابی/پیش بینی داده های آینده. با توجه به محدودیت‌های ریاضی و محاسباتی، تمرین آماری قرن بیستم بیشتر بر مدل‌های پارامتریک متمرکز بود. خوشبختانه، با ظهور محاسبات قدرتمند با دسترسی گسترده در اواخر دهه 1970، روش‌های فشرده کامپیوتری مانند بوت استرپ و اعتبارسنجی متقابل، پزشکان را از محدودیت‌های مدل‌های پارامتری رها کرد و راه را به سوی عصر «داده‌های بزرگ» بیست و یکم هموار کرد. قرن. با این وجود، گام دیگری نیز وجود دارد، یعنی فراتر از مدل‌های ناپارامتریک. اینجاست که اصل پیش‌بینی بدون مدل مفید است.

جالب است، به نظر می‌رسد که قادر به پیش‌بینی یک متغیر پاسخ Y مرتبط با متغیر رگرسیون X که هر مقدار ممکن را می‌گیرد، به طور ناخواسته به هدف اصلی مدل‌سازی نیز دست می‌یابد. به عنوان مثال، تلاش برای توصیف اینکه Y چگونه به X بستگی دارد. از این رو، از آنجایی که پیش‌بینی را می‌توان به عنوان محصول فرعی برازش مدل در نظر گرفت، مشکلات برآورد کلیدی را می‌توان به عنوان محصول فرعی توانایی انجام پیش‌بینی مورد بررسی قرار داد. به عبارت دیگر، یک پزشک می‌تواند از ایده‌های پیش‌بینی بدون مدل برای به دست آوردن تخمین‌های نقطه‌ای و فواصل اطمینان برای پارامترهای مربوطه استفاده کند که منجر به یک رویکرد جایگزین و مبتنی بر تحول برای استنتاج آماری می‌شود.

The Model-Free Prediction Principle expounded upon in this monograph is based on the simple notion of transforming a complex dataset to one that is easier to work with, e.g., i.i.d. or Gaussian. As such, it restores the emphasis on observable quantities, i.e., current and future data, as opposed to unobservable model parameters and estimates thereof, and yields optimal predictors in diverse settings such as regression and time series. Furthermore, the Model-Free Bootstrap takes us beyond point prediction in order to construct frequentist prediction intervals without resort to unrealistic assumptions such as normality.

Prediction has been traditionally approached via a model-based paradigm, i.e., (a) fit a model to the data at hand, and (b) use the fitted model to extrapolate/predict future data. Due to both mathematical and computational constraints, 20th century statistical practice focused mostly on parametric models. Fortunately, with the advent of widely accessible powerful computing in the late 1970s, computer-intensive methods such as the bootstrap and cross-validation freed practitioners from the limitations of parametric models, and paved the way towards the `big data' era of the 21st century. Nonetheless, there is a further step one may take, i.e., going beyond even nonparametric models; this is where the Model-Free Prediction Principle is useful.

Interestingly, being able to predict a response variable Y associated with a regressor variable X taking on any possible value seems to inadvertently also achieve the main goal of modeling, i.e., trying to describe how Y depends on X. Hence, as prediction can be treated as a by-product of model-fitting, key estimation problems can be addressed as a by-product of being able to perform prediction. In other words, a practitioner can use Model-Free Prediction ideas in order to additionally obtain point estimates and confidence intervals for relevant parameters leading to an alternative, transformation-based approach to statistical inference.