Оценка значений выборочного коэффициента линейной парной корреляции, статистически неотличимых от единицы

Сергей Алексеевич Добротин; Ольга Николаевна Косырева

doi:10.17308/sait/1995-5499/2025/1/12-23

Сергей Алексеевич Добротин Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Дзержинский филиал
Ольга Николаевна Косырева Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Дзержинский филиал https://orcid.org/0000-0003-2126-3275

DOI: https://doi.org/10.17308/sait/1995-5499/2025/1/12-23

Ключевые слова: косвенные измерения, стандартная неопределенность, выборка, коэффициент линейной парной корреляции, незначимое отличие от единицы, проверка статистической гипотезы

Аннотация

Оценка неопределенности результатов косвенных измерений обеспечивает их достоверность. В составе формулы для расчета стандартной неопределенности, указанной в ГОСТ 34100.3-2017, используется коэффициент линейной парной корреляции между результатами прямых измерений. В литературе отмечается эффект смещенности его выборочного значения вследствие таких причин, как ограниченность выборки, наличие погрешностей результатов измерений и т. п. Для использования частного случая этой формулы необходима разработка методики проверки гипотезы о незначимом отличии выборочного коэффициента линейной парной корреляции от единицы. В частном случае нормального распределения корреляционно зависимых случайных величин с одинаковыми параметрами данная гипотеза может быть заменена эквивалентной о незначимом отличии модуля свободного члена линейного уравнения регрессии от нуля. Методом статистического моделирования корреляционно зависимых нормальных величин с последующей проверкой указанной гипотезы получена зависимость выборочного коэффициента корреляции, неотличимого от единицы, от объема выборки. Приведена блок-схема реализации численного эксперимента. Проведена оценка стандартного отклонения получаемого коэффициента корреляции и показана его зависимость от объема выборки. Методом взвешенных наименьших квадратов по методике, указанной в РМГ 54-2002, получено уравнение регрессии дробно-линейного вида, описывающее зависимость выборочного коэффициента корреляции, неотличимого от единицы, от объема выборки.

Скачивания

Данные скачивания пока не доступны.

Биографии авторов

Сергей Алексеевич Добротин, Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Дзержинский филиал

д-р техн. наук, проф., заведующий кафедрой информационных, естественнонаучных и гуманитарных дисциплин Дзержинского филиала Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации

Ольга Николаевна Косырева, Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации, Дзержинский филиал

доцент кафедры информационных, естественнонаучных и гуманитарных дисциплин Дзержинского филиала Российской академии народного хозяйства и государственной службы при Президенте Российской Федерации

Литература

1. GOST 34100.3-2017/ISO/IEC Guide 98- 3:2008 Uncertainty of measurement. Part 3. Guide to the expression of uncertainty in measurement. Moscow, Standartinform, 2018. (In Russian).
2. Popov A. A., Kosyreva O. N. and Dobrotin S. A. (2024) Solving Problems in Finding the Expanded Indirect Measurement Uncertainty. Transactions of NNSTU n.a. R. E. Alekseev. 2(145). P. 149–161. (in Russian).
3. Bavrina A. P. and Borisov I. B. (2021) Modern Rules of the Application of Correlation Analysis. Medical almanac. 3(68), 70–73. (in Russian).
4. Francis D. P., Coats A. J. S. and Gibson D. G. (1999) How high can a correlation coefficient be? Effects of limited reproducibility of common cardiological measures. International Journal of Cardiology. 69. P. 185–189. DOI
5. Sandomirski S. G. (2019) Dependence of the Correlation Coefficient Between the Results of a Parameter Measurement and Its Values on the Reduced Measurement Error. Devices and Methods of Measurements. 10(1). P. 90–98. DOI
6. Saccenti E., Hendriks M.H.W.B. and Smilde A. K. (2020) Corruption of the Pearson correlation coefficient by measurement error and its estimation, bias, and correction under different error models. Scientific Reports. 10(1):438. P. 1–19. DOI
7. Rocco P., Cilurzo F., Minghetti P., Vistoli G. and Pedretti A. (2017) Simulation data for an estimation of the maximum theoretical value and confidence interval for the correlation coefficient. Data in Brief. 14. P. 291–294. DOI
8. Schober P., Boer C. and Schwarte L. A. (2018). Correlation Coefficients. Anesthesia & Analgesia. 126(5). P. 1763–1768. DOI
10. (in Russian). 10. Hägglund G. and Larsson R. (2006). Estimation of the Correlation Coefficient Based on Selected Data. Journal of Educational and Behavioral Statistics. 31(4). P. 377–411. DOI
11. Kulagin V. P., Ivanov A. I., Kuznecov Ju. M. and Serikova Ju. I. (2016) Korrektirovka pogreshnosti vychislenija kojefficientov korreljacii pri malyh vyborkah [Correction of the error in calculating correlation coefficients for small samples]. Proceedings of the International Symposium “Reliability and Quality”, May 23–31 2016, Penza, Russia. Penza, PGU. P. 261–263. URL
12. Onwuegbuzie A. and Daniel L. (1999) Uses and misuses of the correlation coefficient. Research in the Schools. 9. P. 73–90.
13. Slobodyan A. B. and Pashchenko F. F. (2017) Estimation of the maximum correlation coefficient using Bernstein copula. Automation and Remote Control. 78. P. 741–753. – DOI
14. Slobodyan A. B. (2017) About Estimation of the Maximum Correlation Coefficient. IEEE 11th International Conference on Application of Information and Communication Technologies (AICT), Moscow, Russia. P. 1–4. DOI
15. Baak M., Koopman R., Snoek H. and Klous S. (2020) A new correlation coefficient between categorical, ordinal and interval variables with Pearson characteristics. Computational Statistics & Data Analysis. 152(2). DOI
16. Chatterjee S. A. (2019) New Coefficient of Correlation. Journal of the American Statistical Association. 116. P. 2009–2022. DOI
17. Bolshev L. N. and Smirnov N. V. (1983) Tables of Mathematical Statistics. Moscow : Nauka, 1983. 416 p. (In Russian).
18. Dobrotin S. A. and Kosyreva O. N. (2024) Modeling the Distribution Density of the Linear Pair Correlation Coefficient. Modern State and Municipal Administration: in Search of Resources and Technologies for Social Development: Collection of Scientific Papers of the All-Russian Scientific and Practical Conference, April 18, 2024, Russian Presidential Academy of National Economy and Public Administration (RANEPA), Dzerzhinsky branch, Russia. P. 61–64. (in Russian).
19. Ahnazarova S. L. and Kafarov V. V. Optimization of Experiments in Chemistry and Chemical Engineering: A Textbook for Chemical Engineering Universities. Moscow: Higher School Publishing House. (in Russian).
20. GOST 34100.3.1-2017/ISO/IEC Guide 98-3/Suppl 1:2008 Uncertainty of measurement. Part 3. Guide to the expression of uncertainty in measurement. Supplement 1. Propagation of distributions using a Monte Carlo method. Moscow, Standartinform, 2018. (In Russian).
21. Bartenev V. G. and Bartenev G. B. (2021) On the New Representation of the Correlation Coefficient Estimate Distribution. Digital signal processing. 1. P. 59–62. (in Russian).
22. Characteristics of calibration instruments for measuring the composition and properties of substances and materials. Methodology for performing measurements using standard samples: Recommendations for interstate standardization 54-2002. Moscow, Standartinform, 2006. (In Russian).