Модифицированный метод оценки качества генеративно-состязательных нейронных сетей
Аннотация
Актуальной проблемой является оценка эффективности и качества произвольных генеративно-состязательных нейронных сетей (GAN). В настоящее время приемлемые результаты получены только для сетей, генерирующих изображения определённого формата и размеров. Остальные типы и структуры данных возможно оценивать исключительно экспертным методом, недостатком которого является субъективность, низкая производительность, невозможность автоматизации обработки больших объемов информации. В ходе анализа существующих подходов к оценке эффективности GAN определены наиболее распространенные метрики, среди которых необходимо отметить Inception Score и Fréchet Inception Distance. Однако, данные метрики не могут быть использованы для оценки GAN, генерирующих объекты, отличных от изображений определенного формата. Это обусловлено спецификой нейронных сетей, используемых для расчета данных метрик. Поэтому в работе предлагается модифицированный метод оценки качества GAN, основанный на метрике Inception Score, отличающийся использованием произвольного классификатора для расчета расстояния Кульбака-Лейблера, что обеспечивает возможность анализа качества генерации произвольных объектов. Представлено математическое описание методов оценки качества GAN и внесенных модификаций. Проведены практические эксперименты на нескольких известных наборах данных: графических (MNIST) и численных (Human Activity Recognition Using Smartphones, Epileptic Seizure Recognition). Для каждого набора осуществлена апробация разработанного модифицированного метода оценки GAN. Полученные результаты подтверждают возможность применения метода для оценки произвольных наборов данных. Использование полученных теоретических и практических результатов при реализации и обучении GAN позволит повысить качество сгенерированных нейронными сетями образцов, автоматизировать процесс их оценки.
Скачивания
Литература
2. Borji A. Pros and cons of gan evaluation measures. Computer Vision and Image Understanding. 2019. 179. P. 41–65.
3. Heusel M., Ramsauer H., Unterthiner T., Nessler B. & Hochreiter S. Gans trained by a two time-scale update rule converge to a local nash equilibrium. In Advances in neural information processing systems. 2017. P. 6626–6637.
4. Iqbal T. & Ali H. Generative adversarial network for medical images (MI-GAN). Journal of medical systems. 2018. 42(11). P. 231.
5. Kokate P., Joshi A. D. & Tamizharasan P. S. An Empirical Comparison of Generative Adversarial Network (GAN) Measures. In Advances in Communication and Computational Technology. P. 1383–1396. Springer, Singapore.
6. Litvinov O. V., Bahshiev A. V., Fomin I. S. Primenenie generativno-sostyazatel’nyh setej v robototekhnike [Application of generative adversarial networks in robotics] Nedelya nauki SPb-PU. Sankt-Peterburg. 2018. P. 57–60. (in Russian)
7. Nagarajan, V. & Kolter J. Z. Gradient descent GAN optimization is locally stable. In Advances in neural information processing systems. 2017. P. 5585–5595.
8. Nagibin S. Ya., Levin S. E., Loskutov D. I., Shilov V. V. Vybor nejronnyh setej dlya ocenki i prognozirovaniya riskov promyshlennoj bezopasnosti predpriyatij [Selection of neural networks for assessing and predicting industrial security risks of enterprises]. Nacional’naya bezopasnost’ Rossii: aktual’nye aspekty. 2019. P. 37–45. (in Russian)
9. Paganini M., de Oliveira L. & Nachman B. Accelerating science with generative adversarial networks: an application to 3D particle showers in multilayer calorimeters. Physical review letters. 2018. 120(4). 042003.
10. Ramasubramanian K. & Singh A. Deep learning using keras and tensorflow. In Machine Learning Using R. 2019. P. 667–688. Apress, Berkeley, CA.
11. Salimans T., Goodfellow I., Zaremba W., Cheung V., Radford A. & Chen X. Improved techniques for training gans. In Advances in neural information processing systems 2016. P. 2234–2242.
12. San-Segundo R., Gil-Martín M., D’Haro-Enríquez L. F. & Pardo J. M. Classification of epileptic EEG recordings using signal transforms and convolutional neural networks. Computers in biology and medicine. 2019. 109. P. 148–158.
13. Suhan’ A. A. Generativno-sostyazatel’nye nejronnye seti v zadachah opredeleniya trendov [Generative adversarial neural networks in the problems of determining trends]. Moskovskij ekonomicheskij zhurnal. 2019. 6. P. 180–191. (in Russian)
14. Szegedy C., Vanhoucke V., Ioffe S., Shlens J. & Wojna Z. Rethinking the inception architecture for computer vision. In Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 2818–2826.
15. Wang X., Yu K., Wu S., Gu J., Liu Y., Dong C. & Change Loy C. Esrgan: Enhanced super-resolution generative adversarial networks. In Proceedings of the European Conference on Computer Vision (ECCV). 2018. P. 1–16.
16. Yi R., Liu Y. J., Lai Y. K. & Rosin P. L. ApdrawingGAN: Generating artistic portrait drawings from face photos with hierarchical GANs. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019. P. 10743–10752.
17. Zhang Z., Yang L., Chen L., Liu Q., Meng Y., Wang P. & Li M. A generative adversarial network–based method for generating negative financial samples. International Journal of Distributed Sensor Networks. 2020. 16(2). P. 213–229.
- Авторы сохраняют за собой авторские права и предоставляют журналу право первой публикации работы, которая по истечении 6 месяцев после публикации автоматически лицензируется на условиях Creative Commons Attribution License , которая позволяет другим распространять данную работу с обязательным сохранением ссылок на авторов оригинальной работы и оригинальную публикацию в этом журнале.
- Авторы имеют право размещать их работу в сети Интернет (например в институтском хранилище или персональном сайте) до и во время процесса рассмотрения ее данным журналом, так как это может привести к продуктивному обсуждению и большему количеству ссылок на данную работу (См. The Effect of Open Access).
