Об уточнении понятия «доверенности» систем искусственного интеллекта
- Авторы: Тиханычев О.В.1
-
Учреждения:
- ГК "Техносерв"
- Выпуск: № 3 (2024)
- Страницы: 44-54
- Раздел: Статьи
- URL: https://bakhtiniada.ru/2454-0714/article/view/359409
- DOI: https://doi.org/10.7256/2454-0714.2024.3.44097
- EDN: https://elibrary.ru/JOPHLF
- ID: 359409
Цитировать
Полный текст
Аннотация
Предметом исследования является понятие «доверенности» искусственного интеллекта, управляющего робототехническими средствами разной степени автономности. Актуальность выбора предмета исследования как принципов применения робототехнических систем различного назначения, в том числе в группе, и объекта исследования, которым являются алгоритмические проблемы, возникающие в части реализации алгоритмов групповых действий, определяется имеющимся противоречием между потребностью совместного применения робототехнических систем, в первую очередь автономных, и сложностью программной реализации этого требования. Реализация тенденций группового применения в сфере робототехники порождает определённые технологические проблемы, связанные с эффективностью и безопасностью алгоритмического обеспечения автономных и управляемых робототехнических систем. Проявлением подобных проблем могут являться ошибки применения, которые снижают эффективность совместных действий. В робототехнике основная потенциальная причина появления подобной ситуации – недостаточная эффективность существующих алгоритмов управления групповым применением, определяемая низким уровнем проработки проблемы. В статье сформулирован перечень типовых ситуаций, определяющих применение автономных и управляемых роботов в группе с наличием ведущего (лидера). На основании предлагаемой классификации проанализированы возможные алгоритмы, обеспечивающие управление перемещением в группе: как расчёты по целевому маневрированию, так по обеспечению взаимной безопасности. Рассмотрены основные ситуации, относительно которых сформулированы виды маневра и описан математический аппарат для их расчётов. На основе обзорного анализа типовых алгоритмов управления перемещением в пространстве, синтезирована постановка научной задачи решения проблемы разработки групповых алгоритмов и математических методов, определяющих их оптимальное применение в системе, как аналога “новой этики” для робототехнических систем
Ключевые слова
робототехническая система, искусственный интеллект, управляющее программное обеспечение, доверенный искусственный интеллект, контроль алгоритмов поведения, безопасное поведение, мораль робототехнических систем, этика робототехнических систем, математическое обеспечение безопасности, управление безопасным поведением
Об авторах
Олег Васильевич Тиханычев
ГК "Техносерв"
Email: to.technoserv@gmail.com
ORCID iD: 0000-0003-4759-2931
заместитель начальника отдела управления перспективных разработок;
Список литературы
Симулин А. А. и др. Некоторые аспекты использования робототехники в военном деле // Сборники конференций НИЦ Социосфера. 2015. № 27. С. 67-71. Чиров Д.С., Новак К.В. Перспективные направления развития робототехнических комплексов специального назначения // Вопросы безопасности. 2018. № 2. С. 50-59. doi: 10.25136/2409-7543.2018.2.22737. Хрипунов С.П., Благодарящев И.В., Чиров Д.С. Военная робототехника: современные тренды и векторы развития // Тренды и управление. 2015. № 4. С. 410-422. Pflimlin É. Drones et robots: La guerre des futurs. France: Levallois-Perret, 2017. Roosevelt, Ann. Ar my Directs Cuts, Adjustments, To FCS. Defense Daily, 2017. Hamilton T How AI will Alter Multi-Domain Warfare. Future Combat Air & Space Capabilities Summit, 2023. No. 4 URL: https://www.aerosociety.com/events-calendar/raes-future-combat-air-and-space-capabilities-summit Tikhanychev O. Influence of the Problem of Safety Control of Heuristic Algorithms on the Development of Robotics. In: Shamtsyan, M., Pasetti, M., Beskopylny, A. (eds) Robotics, Machinery and Engineering Technology for Precision Agriculture. Smart Innovation, Systems and Technologies 2022, No. 247. Singapore: Springer. https://doi.org/10.1007/978-981-16-3844-2_31. Beard J Autonomous weapons and human responsibilities, Georgetown Journal of International Law 2014. No. 45, P. 617-681. Tikhanychev O The Control System of Heuristic Algorithms as a Prototype of the "Morality" of Autonomous Robots. II International Scientific Forum on Sustainable Development and Innovation. WFSDI-2023. URL: https://doi.org/10.1007/978-981-16-3844-2_31. Ćwiąkała P. Testing Procedure of Unmanned Aerial Vehicles (UAVs) Trajectory in Automatic Missions. Appl. Sci. 2019, No. 9, P/ 3488. URL: https://doi.org/10.3390/app9173488. Johnson D. Computer Systems: Moral entities but not moral agents. In: Ethics and Information Technology. 2016, No. 8, Р. 195-204. URL: https://doi.org/10.1007/s10676-006-9111. Schuller A. At the Crossroads of Control: The Intersection of Artificial Intelligence in Autonomous Weapon Systems with International Humanitarian Law, Harvard National Security Journal. 2017, No. 8, P. 379-425. Ухоботов В.И., Изместьев И.В. Об одной задаче преследования при наличии сопротивления среды // Вестник ЮУрГУ. Серия: Математика. Механика. Физика. 2016. № 2. C. 62-66. URL: https://doi.org/10.14529/mmph160208. Дубанов А.А. Моделирование траектории преследователя в пространстве при методе параллельного сближения // Программные системы и вычислительные методы. 2021. № 2. C. 1–10. URL: https://doi.org/10.7256/2454-0714.2021.2.36014 Tikhanychev O. Self-Check System of Heuristic Algorithms as a "New Moral" of Intelligent Systems AIP Conference Proceedings. 2023, No. 2700, 040028. URL: https://doi.org/10.1063/5.0124956.
Дополнительные файлы
