Инструменты повышения эффективности численных алгоритмов обучения структуры динамических байесовских сетей

  • Павел Валерьевич Полухин Воронежский государственный университет
Ключевые слова: динамическая байесовская сеть, алгоритмы обучения, логарифм правдоподобия, вычисление матрицы Гессе, критерий Шварца, критерий Акаике, численные алгоритмы оптимизации

Аннотация

Модели динамических байесовских сетей используются для описания процессов, протекающих в условиях риска и неопределенности, случайный характер имеют не только вершины графа сети, но связи между вершинами. Для определения наличия причинно-следственных связей и их направленности применяют специальные экспертные и статистические методы обучения структуры и параметров сети. При использовании экспертных методов построения байесовских сетей структуру графа задает эксперт на основании своего опыта в исследуемой области, и тогда, обучаются только параметры сети, соответствующие условно-вероятностным распределениям вершин сети. Не всегда эксперт может правильно определить причинно-следственные связи между вершинами сети и их направленность. Достаточно эффективными являются формализованные процедуры обучения структуры и параметров сети. Формализованные методы обучения структуры сети включают этап определения зависимости между вершинами сети и этап определения направленности связей. На этапе определения направленности исследование носит локальный характер и подразумевает решение целого ряда оптимизационных задач. Как правило, в качестве алгоритмов обучения динамических байесовских сетей применяются численные оптимизационные алгоритмы. В связи с большой размерностью решаемых задач, эффективность процедур обучения динамических байесовских сетей зависит от эффективности используемых численных алгоритмов. Достаточно часто применяются численные алгоритмы, построенные на основе Ньютоновского подхода. В данной статье описано применение различных инструментов повышения эффективности Ньютоновских алгоритмов для решения задач обучения структуры динамических байесовских сетей. Применение методов Бройдена, Девидона-Флетчера-Пауэлла и Бройдена-Флетчера-Гольдфарба-Шанно позволяет существенно повысить эффективность алгоритмов, а также дает возможность использовать распараллеливание отдельных блоков.

Скачивания

Данные скачивания пока не доступны.

Биография автора

Павел Валерьевич Полухин, Воронежский государственный университет

кандидат техн. наук, кафедра математических методов исследования операций факультета прикладной математики, информатики и механики Воронежского государственного университета.

Литература

1. Азарнова, Т. В. Расширение функциональных возможностей фаззинга веб-приложений на основе динамических сетей Байеса / Т. В. Азарнова, П. В. Полухин // Научно-техническая информация. Серия 2. Информ. процессы и системы. – 2014. – No 9. – С. 12–19.
2. Вержбицкий, В. М. Численные методы (линейная алгебра и нелинейные уравнения) / В. М. Вержбицкий. – М. : Оникс 21 век, 2005. – 432 с.
3. Грот, М. Д. Оптимальные статистические решения / М. Д. Грот. – М. : Мир, 1974. – 491 с.
4. Магнус, Я. Р. Матричное дифференциальное исчисление с приложениями к статистике и эконометрике / Я. Р. Магнус, Х. Ней-деккер. – М. : Физматлит., 2002. – 496 с.
5. Фишер Р. А. Статистические методы для исследователей / Р. А. Фишер. – М. : Гостатизд, 1958. – 267 с.
6. Рао, С. Р. Линейные статистические методы и их применение / С. Р. Рао – М. : Наука, 1968. – 548 с.
7. Leman, E. L. Selected works by E. L. Leman / E. L. Leman. – New York : Springer, 2012. – 1109 p.
8. Korb, K. B. Bayesian Artificial Intelligence / K. B. Korb, A. E. Nicholson. – Boca Raton : CRC Press, 2004. – 491 p.
9. Турчак, Л. И. Основы численных методов / Л. И. Турчак, П. В. Плотников. – М. : Физматлит, 2003. – 304 с.
10. Wolfe, P. Convergence conditions for ascent methods / P. Wolfe // Siam Review, 1969. – Vol. 11, No. 2. – P. 226–235.
11. Nocedal, J. Numerical optimization / J. Nocedal, S.J. Wright. – N.Y. : Springer, 1999. – 634 p.
12. Кендалл, М. Статистические выводы и связи / М. Кендалл, А. Стюарт. – М. : Наука, 1973. – 878 с.
13. Турчак, Л. И. Основы численных методов / Л. И. Турчак, П. В. Плотников. – М. : Физматлит, 2003. – 304 с.
Опубликован
2019-09-23
Как цитировать
Полухин, П. В. (2019). Инструменты повышения эффективности численных алгоритмов обучения структуры динамических байесовских сетей. Вестник ВГУ. Серия: Системный анализ и информационные технологии, (4), 132-140. https://doi.org/10.17308/sait.2019.4/2688
Раздел
Интеллектуальные информационные системы