Оптимизация алгоритмов вероятностного вывода в динамических вероятностных моделях на основе применения моделей динамики Гамильтона

Павел Валерьевич Полухин

doi:10.17308/sait/1995-5499/2023/2/120-131

Павел Валерьевич Полухин Воронежский государственный университет https://orcid.org/0000-0001-5645-6312

DOI: https://doi.org/10.17308/sait/1995-5499/2023/2/120-131

Ключевые слова: байесовские сети, вероятностный вывод, динамика Гамильтона, метод Монте-Карло, цепь Маркова, алгоритма Метрополиса — Гастингса, схема Гиббса

Аннотация

Исследование различных подходов к оптимизации вероятностного вывода в динамических вероятностных моделях охватывает широкий спектр задач связанных с поиском эффективных способов формирования выборок на основе метода Монте-Карло. Применение моделей механики Гамильтона дает возможность осуществлять оценку стохастических распределений за счет решения дифференциальный уравнений Гамильтона. В рамках исследования предлагается для решения задачи вероятностного вывода в динамических вероятностных моделях, например таких как динамические байесовские сети, использовать гибридный подход, основанный на комбинировании инструментов механики Гамильтона, алгоритмов Гиббса и Метрополиса — Гастингса. Данный подход, дополненный инструментами распараллеливания вычислений, позволяет повысить эффективность формирования выборок и точность апостериорного распределения вероятностей. В статье анализируются теоретические и практические вопросы, связанные с применением метода Монте-Карло, алгоритма Метрополиса — Гастингса, схемы Гиббса и моделей динамики Гамильтона для формирования апостериорных распределений статических и динамических байесовских сетей, раскрыты особенности генерации согласованных выборок. Теоретическое обоснование и проведенный на базе разработанного программного обеспечения вычислительный эксперимент демонстрируют эффективность предложенного гибридного алгоритма.

Скачивания

Данные скачивания пока не доступны.

Биография автора

Павел Валерьевич Полухин, Воронежский государственный университет

канд. техн. наук, кафедра математических методов исследования операций факультета прикладной математики, информатики и механики Воронежского государственного университета

Литература

1. Neal R. M. (1996) Bayesian Learning for Neural Networks. New York: Springer.
2. Pearl J. (1987) Evidential reasoning using stochastic simulation of causal models. J. of Artificial Intelligence. 32. P. 247–257.
3. Azarnova T. V. and Polukhin P. V. (2019) Advanced hybrid stochastic dynamic Bayesian network inference algorithm development in the context of the web applications test execution. Journal of Physics: Conf. Series: Materials Science and Engineering. 537. P. 052028.
4. Azarnova T. V., Polukhin P. V. and Barkalov S. A. (2017) Managing Web Application Testing Using Dynamic Bayesian Network Fuzzing. Bulletin of South-Ural University. Series: Computer technology, control, radio electronics. 17(2). P. 51–66 (in Russian).
5. Ross S. M. (1996) Stochastic Processes. Second edition. New York : Wiley.
6. Bishop C. M. (2006) Pattern recognition and machine learning. New York : Springer.
7. Liu J. S. and Chen R. (1998) Sequential Monte Carlo for Dynamic Systems. Journal of the ASA. 93(443). P. 1032–1044.
8. Moral P. D. (1996) Nonlinear Filtering: Interacting Particle Resolution. Markov Processing and Related Fields. 2(4). P. 555–580.
9. Russel S. and Norvig P. (2006) Artificial intelligence a modern approach, second edition. Moscow : Williams (in Russian).
10. Kelbert M. and Suhov Yu. M. (2007) Probability and statistics by example. Basic probability and statics. Moscow : MCNMO (in Russian).
11. Bunch P. and Godsill S. (2013) Improved particle approximations to the joint smoothing distribution using Markov chain Monte Carlo. IEEE Transactions on Signal Processing. 61(4). P. 956–953.
12. Volkov V. A. (2016) Numerical solution of nonlinear filtering problems based on particle filter. MAI Processing. (89). P. 1–21 (in Russian).
13. Tulupyev A. L. Posterior probability estimates in algebraic Bayesian networks. Bulletin of Saint-Petersburg. Series10: Applied mathematics. Computer Sciences. Processes Control. (2). P. 51– 59 (in Russian).
14. Kolmogorov A. N. (2005) Probability theory and mathematical statistics. Moscow : Nauka (in Russian).
15. Moral P. D. and Doucet A. (2014) Particle filter: An introduction with application. ESAIM. 14. P. 1–46.