الاختيار التكيفي للانتظامية عبر الاستقرار في الانحدار متعدد المتغيرات ضمانات نظرية والتحقق في التطبيقات الواقعية
DOI:
https://doi.org/10.31185/bsj.Vol22.Iss43.1596الكلمات المفتاحية:
الاختيار بالاستقرار؛ الانتظامية التكيفية؛ الانحدار عالي الأبعاد؛ اتساق الاختيار؛ إعادة المعاينة الجزئيةالملخص
يتطلب الانحدار متعدد المتغيرات عالي الأبعاد استخدام أساليب الانتظامية من أجل تحقيق تقدير مستقر واختيار فعّال للمتغيرات، غير أن تحديد معامل الضبط الذي يفضي إلى استرجاع نموذجي قابل للتكرار ومتسق ما يزال يمثل تحديًا مفتوحًا. في هذا البحث، نقترح طريقة الاختيار التكيفي للانتظامية عبر الاستقرار (Adaptive Regularization Selection via Stability - ARSS)، وهي إجراء ذو مرحلتين يقوم على:
1. بناء أوزان تكيفية مستندة إلى البيانات لعقوبة محدبة موزونة من نوع ،
2. واختيار مستوى الانتظامية من خلال تصغير مؤشر عدم استقرار قائم على إعادة المعاينة الجزئية (subsampling) ومحسوب عبر شبكة من قيم .
نطوّر إطارًا نظريًا موحدًا يثبت وجود المقدِّر ووحدانيته، وحدود الاستقرار في العينات المحدودة (الاضطراب/ليبشيتز)، واتساق الاختيار؛ إذ إن قيمة الانتظامية المختارة بالاستقرار تحقق معدل التدرج عالي الأبعاد:
وتؤدي إلى:
في ظل الشروط المعيارية الخاصة بالقيمة الذاتية المقيّدة (restricted eigenvalue) وشرط الحد الأدنى لمعاملات الانحدار (beta-min conditions). وتحت افتراضات إضافية تتعلق بتناقص الأوزان، يتم إثبات خاصية الأوراكل (oracle property)، بما في ذلك الطبيعية التقاربية على المجموعة الفاعلة.
وعلى المستوى التجريبي، تُظهر محاكاة موسعة عبر قيم مختلفة لكل من و ، ومستويات التخلخل، وبنى الارتباط، أن طريقة ARSS تحقق معدلات أعلى للإيجابيات الحقيقية، ومعدلات أقل بصورة ملحوظة للاكتشافات الخاطئة، واستقرارًا أفضل بكثير في الاختيار مقارنة بكل من: LASSO، وAdaptive LASSO، وElastic Net، وSCAD، وطرائق الاختيار بالاستقرار التقليدية. كما تؤكد تطبيقات التحقق الواقعي على مجموعات بيانات في الطب الحيوي والتنبؤ بالأعطال (مثل بيانات UCI القلبية الوعائية وبيانات NASA C-MAPSS) قابلية الطريقة للتفسير ومتانتها.
توفّر طريقة ARSS مسارًا منهجيًا وقابلًا لإعادة الإنتاج لضبط الانتظامية في مشكلات الانحدار متعدد المتغيرات عالي الأبعاد، مع تقديم توصيات عملية تتعلق بإعادة المعاينة الجزئية وتصميم شبكة قيم .
المراجع
Refrencess
Arlot, S., & Celisse, A. (2010). A survey of cross-validation procedures for model selection. Statistics Surveys, 4(none). https://doi.org/10.1214/09-SS054
Awada, W., Khoshgoftaar, T. M., Dittman, D., Wald, R., & Napolitano, A. (2012). A review of the stability of feature selection techniques for bioinformatics data. 2012 IEEE 13th International Conference on Information Reuse & Integration (IRI), 356–363. https://doi.org/10.1109/IRI.2012.6303031
Bondell, H. D., & Reich, B. J. (2012). Consistent High-Dimensional Bayesian Variable Selection via Penalized Credible Regions. Journal of the American Statistical Association, 107(500), 1610–1624. https://doi.org/10.1080/01621459.2012.716344
Bunea, F., She, Y., & Wegkamp, M. H. (2011). Optimal selection of reduced rank estimators of high-dimensional matrices. The Annals of Statistics, 39(2). https://doi.org/10.1214/11-AOS876
Johnson, V. E., & Rossell, D. (2012). Bayesian Model Selection in High-Dimensional Settings. Journal of the American Statistical Association, 107(498), 649–660. https://doi.org/10.1080/01621459.2012.682536
Kalousis, A., Prados, J., & Hilario, M. (n.d.). Stability of Feature Selection Algorithms. Fifth IEEE International Conference on Data Mining (ICDM’05), 218–225. https://doi.org/10.1109/ICDM.2005.135
Křížek, P., Kittler, J., & Hlaváč, V. (n.d.). Improving Stability of Feature Selection Methods. In Computer Analysis of Images and Patterns (pp. 929–936). Springer Berlin Heidelberg. https://doi.org/10.1007/978-3-540-74272-2_115
Lei, J. (2025). A Modern Theory of Cross-validation Through the Lens of Stability. Foundations and Trends® in Statistics, 1(3–4), 391–548. https://doi.org/10.1561/3600000005
Meinshausen, N., & Bühlmann, P. (2010a). Stability Selection. Journal of the Royal Statistical Society Series B: Statistical Methodology, 72(4), 417–473. https://doi.org/10.1111/j.1467-9868.2010.00740.x
Meinshausen, N., & Bühlmann, P. (2010b). Stability Selection. Journal of the Royal Statistical Society Series B: Statistical Methodology, 72(4), 417–473. https://doi.org/10.1111/j.1467-9868.2010.00740.x
Özmen, A., & Weber, G. W. (2014). RMARS: Robustification of multivariate adaptive regression spline under polyhedral uncertainty. Journal of Computational and Applied Mathematics, 259, 914–924. https://doi.org/10.1016/j.cam.2013.09.055
Sips, M., Neubert, B., Lewis, J. P., & Hanrahan, P. (2009). Selecting good views of high‐dimensional data using class consistency. Computer Graphics Forum, 28(3), 831–838. https://doi.org/10.1111/j.1467-8659.2009.01467.x
Su, M., Zhong, Q., & Peng, H. (2021). Regularized multivariate polynomial regression analysis of the compressive strength of slag-metakaolin geopolymer pastes based on experimental data. Construction and Building Materials, 303, 124529. https://doi.org/10.1016/j.conbuildmat.2021.124529
Tibshirani, R. (1996). Regression Shrinkage and Selection Via the Lasso. Journal of the Royal Statistical Society Series B: Statistical Methodology, 58(1), 267–288. https://doi.org/10.1111/j.2517-6161.1996.tb02080.x
Ulrich, S., Kron, A., & de Lafontaine, J. (2008, August 18). Attitude Guidance and Control for Synchronized Maneuvers About a Fixed Rotation Axis. AIAA Guidance, Navigation and Control Conference and Exhibit. https://doi.org/10.2514/6.2008-7018
Wang, X., Qin, L., Zhang, H., Zhang, Y., Hsu, L., & Wang, P. (2015). A Regularized Multivariate Regression Approach for eQTL Analysis. Statistics in Biosciences, 7(1), 129–146. https://doi.org/10.1007/s12561-013-9106-9
Witten, D. M., & Tibshirani, R. (2009). Covariance-Regularized Regression and Classification for high Dimensional Problems. Journal of the Royal Statistical Society Series B: Statistical Methodology, 71(3), 615–636. https://doi.org/10.1111/j.1467-9868.2009.00699.x
التنزيلات
منشور
إصدار
القسم
الرخصة
الحقوق الفكرية (c) 2026 عبدالقادر مطلك حمد

هذا العمل مرخص بموجب Creative Commons Attribution 4.0 International License.