Метод обнаружения нарушений информационной безопасности в роевых робототехнических системах с использованием технологий машинного обучения
Ключевые слова:
роевые робототехнические системы, информационная безопасность, вредоносный робот, коллективное принятие решений, достижение консенсуса, машинное обучение
Аннотация
Интенсивное развитие роевой робототехники актуализирует вопросы обеспечения ее информационной безопасности. Известные подходы к обнаружению угроз информационной безопасности процесса коллективного принятия решений в роевых робототехнических системах используют физические параметры, которые сильно зависят от среды функционирования и аппаратной реализации системы. Поэтому трудно определить универсальные признаки аномального поведения робота, обеспечивающие точный порог отклонения и низкий процент ложных срабатываний. Целью работы является повышение эффективности достижения консенсуса в роевых робототехнических системах в условиях наличия неисправных или вредоносных роботов. Решение задачи обнаружения вредоносных роботов базируется на применении методов машинного обучения. В качестве классификатора вредоносных роботов использована искусственная нейронная сеть, обученная на наборе данных, сгенерированных с помощью разработанного ранее аналитического метода. Новизна представленного решения заключается в выборе параметров с варьируемыми значениями для проведения симуляций с целью формирования набора данных для обучения классификатора вредоносных роботов. Предложенный подход обеспечивает универсальность выявления вредоносных роботов независимо от их численности или стратегии поведения. Проведено имитационное моделирование роевой робототехнической системы, состоящей из 100 роботов. При наличии 20 % роботов с некорректным поведением, количество ложных срабатываний снижено на 41,07 % относительно метода-прототипа. Представленный метод реализован в виде программного обеспечения на языке программирования C++, которое может быть использовано при моделировании систем управления роевыми робототехническими системами.
Скачивания
Данные скачивания пока не доступны.
Литература
1. Higgins F., Tomlinson A. and Martin K. M. (2009) Threats to the swarm: Security considerations for swarm robotics. International Journal on Advances in Security. 2(2), P. 288–297.
2. Sargeant I. and Tomlinson A. (2018) Review of Potential Attacks on Robotic Swarms. Proceedings of SAI Intelligent Systems Conference. P. 628–646. DOI
3. Komarov I. I., Iureva R. A., Drannik A. L., Maslennikov O. S., Kovalenko M. E. and Egorov D. A. (2014) Issledovanie destruktivnogo vozdejstviya robotov-zloumyshlennikov na effektivnost’ raboty mul’tiagentnoj sistemy [Study of destructive impact of attackers robots on the efficiency of the multi-agent system]. Control processes and stability. 1(1). P. 336–340. (In Russian)
4. Basan E. A. and Basan E. S. (2017) Model’ ugroz dlya sistem gruppovogo upravleniya mobil’nymi robotami [A threat model for group control systems for mobile robots]. Procedings of All-Russian Scientific Conference «Sistemnyy sintez i prikladnaya sinergetika», 18–20 september 2017, Nizhny Arkhyz, Russia. Rostov-on-Don, SFEDU, P. 205–212. (In Russian)
5. Iureva R. A., Komarov I. I. and Dorodnikov N. A. (2016) Postroyeniye modeli narushitelya informatsionnoy bezopasnosti dlya mul’tiagentnoy robototekhnicheskoy sistemy c detsentralizovannym upravleniyem [Building the violent model information security for multi-agent robot systems with decentralized management]. Software systems and computational methods. 1 (1). P. 42–48. DOI
6. Zikratov I. A., Zikratova T. V. and Lebedev I. S. (2014) Trust model for information security of multi-agent robotic systems with a decentralized management. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 2 (90). P. 47–52. (In Russian)
7. Strobel V., Ferrer C. and Dorigo M. (2020) Blockchain Technology Secures Robot Swarms: A Comparison of Consensus Protocols and Their Resilience to Byzantine Robots. Front. Robot. AI. Frontiers Media S. A. 7, 54. DOI
8. Strobel V. Ferrer C. and Dorigo M. (2018) Managing Byzantine Robots via Blockchain Technology in a Swarm Robotics Collective Decision Making Scenario: Robotics track. International Conference on Autonomous Agents and Multiagent Systems. 1. P. 541–549.
9. Lamport L., Shostak R. and Pease M. (1982) The Byzantine Generals Problem. ACM Transactions on Programming Languages and Systems. 4 (3). P. 382–401.
10. Nosirov Z. A. and Fomichev V. M. (2021) Analysis of Blockchain Technology: Architectural Basics, Application Examples, Future Trends, Problems and Disadvantages. Systems of Control,
Communication and Security. (2). P. 37–75. DOI
11. Hamann H. (2018) Swarm Robotics: A Formal Approach. Springer International Publishing, 210 p. DOI
12. Canciani F., Talamali M. S., Marshall A. R. and Reina A. (2019) Keep calm and vote on: Swarm resiliency in collective decision making [Electronic resource]. International Conference
on Robotics and Automation. URL
13. Iureva R. A., Komarov I. I. and Maslennikov O. S. (2016) Razrabotka metoda obnaruzheniya i identifikacii skrytogo destruktivnogo vozdejstviya na mul’tiagentnye robototekhnicheskie sistemy [Development of a method for detecting and identifying a hidden destructive impact on multi-agent robotic systems]. Software systems and computational methods. (4). P. 375–382, DOI
14. Zikratov I. A., Zikratova T. V., Lebedev I. S. and Gurtov A. V. (2014) Trust and reputation model design for objects of multi-agent robotics systems with decentralized control. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 3 (91). P. 30–38. (In Russian)
15. Tebueva F. B., Ryabtsev S. S. and Struchkov I. V. (2021) A method of counteracting Byzantine robots with a random behavior strategy during collective design-making in swarm robotic systems. E3S Web of Conferences. 270. P. 1–8. DOI
16. Petrenko V. I., Tebueva V. I., Ryabtsev S. S., Gurchinsky M. M. and Struchkov I. V. (2021) Consensus achievement method for a robotic swarm about the most frequently feature of an environment based on blockchain technology. IOP Conference Series: Materials Science and Engineering. 1069(1). P. 1–8. DOI
17. Petrenko V. I., Tebueva F. B., Ryabtsev S. S., Gurchinsky M. M. and Struchkov I. V. (2020) Consensus achievement method for a robotic swarm about the most frequently feature of an environment. IOP Conference Series: Materials Science and Engineering. 919 (4). P. 1–8. DOI
18. Petrenko V. I. (2021) Multi-agent Deep Reinforcement Learning Method for Mobile Cyber-Physical Systems with Increased Functional Safety Requirements. Systems of Control, Communication and Security. (3). P. 179–206. DOI
19. Valentini G., Brambilla D., Hamann H. and Dorigo M. (2016) Collective perception of environmental features in a robot swarm. International Conference on Swarm Intelligence. 9882.
P. 65–76. DOI
20. Valentini G., Hamann H. and Dorigo, M. (2014) Self-organized collective decision making: The weighted voter model. Proceedings of the 13th international conference on autonomous agents and multiagent systems, AAMAS’14. P. 45–52.
21. Ncfu pmkb, swarm-robotics GitLab [Electronic resource]. URL
22. E-puck education robot [Electronic resource]. URL
23. GitHub - tiny-dnn/tiny-dnn: header only, dependency-free deep learning framework in C++14 [Electronic resource]. URL
24. Zakiev A., Tsoy T. and Magid E. (2018) Swarm Robotics: Remarks on Terminology and Classification. Lecture notes in computer science. 11097. P. 291–300. DOI
2. Sargeant I. and Tomlinson A. (2018) Review of Potential Attacks on Robotic Swarms. Proceedings of SAI Intelligent Systems Conference. P. 628–646. DOI
3. Komarov I. I., Iureva R. A., Drannik A. L., Maslennikov O. S., Kovalenko M. E. and Egorov D. A. (2014) Issledovanie destruktivnogo vozdejstviya robotov-zloumyshlennikov na effektivnost’ raboty mul’tiagentnoj sistemy [Study of destructive impact of attackers robots on the efficiency of the multi-agent system]. Control processes and stability. 1(1). P. 336–340. (In Russian)
4. Basan E. A. and Basan E. S. (2017) Model’ ugroz dlya sistem gruppovogo upravleniya mobil’nymi robotami [A threat model for group control systems for mobile robots]. Procedings of All-Russian Scientific Conference «Sistemnyy sintez i prikladnaya sinergetika», 18–20 september 2017, Nizhny Arkhyz, Russia. Rostov-on-Don, SFEDU, P. 205–212. (In Russian)
5. Iureva R. A., Komarov I. I. and Dorodnikov N. A. (2016) Postroyeniye modeli narushitelya informatsionnoy bezopasnosti dlya mul’tiagentnoy robototekhnicheskoy sistemy c detsentralizovannym upravleniyem [Building the violent model information security for multi-agent robot systems with decentralized management]. Software systems and computational methods. 1 (1). P. 42–48. DOI
6. Zikratov I. A., Zikratova T. V. and Lebedev I. S. (2014) Trust model for information security of multi-agent robotic systems with a decentralized management. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 2 (90). P. 47–52. (In Russian)
7. Strobel V., Ferrer C. and Dorigo M. (2020) Blockchain Technology Secures Robot Swarms: A Comparison of Consensus Protocols and Their Resilience to Byzantine Robots. Front. Robot. AI. Frontiers Media S. A. 7, 54. DOI
8. Strobel V. Ferrer C. and Dorigo M. (2018) Managing Byzantine Robots via Blockchain Technology in a Swarm Robotics Collective Decision Making Scenario: Robotics track. International Conference on Autonomous Agents and Multiagent Systems. 1. P. 541–549.
9. Lamport L., Shostak R. and Pease M. (1982) The Byzantine Generals Problem. ACM Transactions on Programming Languages and Systems. 4 (3). P. 382–401.
10. Nosirov Z. A. and Fomichev V. M. (2021) Analysis of Blockchain Technology: Architectural Basics, Application Examples, Future Trends, Problems and Disadvantages. Systems of Control,
Communication and Security. (2). P. 37–75. DOI
11. Hamann H. (2018) Swarm Robotics: A Formal Approach. Springer International Publishing, 210 p. DOI
12. Canciani F., Talamali M. S., Marshall A. R. and Reina A. (2019) Keep calm and vote on: Swarm resiliency in collective decision making [Electronic resource]. International Conference
on Robotics and Automation. URL
13. Iureva R. A., Komarov I. I. and Maslennikov O. S. (2016) Razrabotka metoda obnaruzheniya i identifikacii skrytogo destruktivnogo vozdejstviya na mul’tiagentnye robototekhnicheskie sistemy [Development of a method for detecting and identifying a hidden destructive impact on multi-agent robotic systems]. Software systems and computational methods. (4). P. 375–382, DOI
14. Zikratov I. A., Zikratova T. V., Lebedev I. S. and Gurtov A. V. (2014) Trust and reputation model design for objects of multi-agent robotics systems with decentralized control. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 3 (91). P. 30–38. (In Russian)
15. Tebueva F. B., Ryabtsev S. S. and Struchkov I. V. (2021) A method of counteracting Byzantine robots with a random behavior strategy during collective design-making in swarm robotic systems. E3S Web of Conferences. 270. P. 1–8. DOI
16. Petrenko V. I., Tebueva V. I., Ryabtsev S. S., Gurchinsky M. M. and Struchkov I. V. (2021) Consensus achievement method for a robotic swarm about the most frequently feature of an environment based on blockchain technology. IOP Conference Series: Materials Science and Engineering. 1069(1). P. 1–8. DOI
17. Petrenko V. I., Tebueva F. B., Ryabtsev S. S., Gurchinsky M. M. and Struchkov I. V. (2020) Consensus achievement method for a robotic swarm about the most frequently feature of an environment. IOP Conference Series: Materials Science and Engineering. 919 (4). P. 1–8. DOI
18. Petrenko V. I. (2021) Multi-agent Deep Reinforcement Learning Method for Mobile Cyber-Physical Systems with Increased Functional Safety Requirements. Systems of Control, Communication and Security. (3). P. 179–206. DOI
19. Valentini G., Brambilla D., Hamann H. and Dorigo M. (2016) Collective perception of environmental features in a robot swarm. International Conference on Swarm Intelligence. 9882.
P. 65–76. DOI
20. Valentini G., Hamann H. and Dorigo, M. (2014) Self-organized collective decision making: The weighted voter model. Proceedings of the 13th international conference on autonomous agents and multiagent systems, AAMAS’14. P. 45–52.
21. Ncfu pmkb, swarm-robotics GitLab [Electronic resource]. URL
22. E-puck education robot [Electronic resource]. URL
23. GitHub - tiny-dnn/tiny-dnn: header only, dependency-free deep learning framework in C++14 [Electronic resource]. URL
24. Zakiev A., Tsoy T. and Magid E. (2018) Swarm Robotics: Remarks on Terminology and Classification. Lecture notes in computer science. 11097. P. 291–300. DOI
Опубликован
2022-04-26
Как цитировать
Петренко, В. И., Тебуева, Ф. Б., Рябцев, С. С., Павлов, А. С., & Гурчинский, М. М. (2022). Метод обнаружения нарушений информационной безопасности в роевых робототехнических системах с использованием технологий машинного обучения. Вестник ВГУ. Серия: Системный анализ и информационные технологии, (1), 43-55. https://doi.org/10.17308/sait.2022.1/9200
Выпуск
Раздел
Информационная безопасность
- Авторы сохраняют за собой авторские права и предоставляют журналу право первой публикации работы, которая по истечении 6 месяцев после публикации автоматически лицензируется на условиях Creative Commons Attribution License , которая позволяет другим распространять данную работу с обязательным сохранением ссылок на авторов оригинальной работы и оригинальную публикацию в этом журнале.
- Авторы имеют право размещать их работу в сети Интернет (например в институтском хранилище или персональном сайте) до и во время процесса рассмотрения ее данным журналом, так как это может привести к продуктивному обсуждению и большему количеству ссылок на данную работу (См. The Effect of Open Access).
