Авторизация
У Запоріжжі 6 липня внаслідок атаки російського безпілотника загинули троє цивільних, серед яких 19-річна студентка Запорізького національного університету Тетяна Бубинець. За даними The New York Times, дрон міг бути оснащений експериментальною системою штучного інтелекту, яка дозволяла йому самостійно розпізнавати та обирати ціль на завершальному етапі польоту. Детальніше - «ЗаБор».
Дрон міг самостійно обрати ціль
Як пише The New York Times, смертельна атака сталася 6 липня. Тоді група російських безпілотників атакувала Запоріжжя. Один із них прямував у район автозаправної станції, однак врізався в стіну багатоповерхового будинку та вибухнув.
Унаслідок атаки загинула 19-річна Тетяна Бубинець, яка навчалася на бухгалтерській спеціальності в Запорізькому національному університеті. Також смертельні поранення отримали 41-річний Олексій Свірін та 48-річний Роман Карпій.
За інформацією журналістів The New York Times, українські військові, експерти з безпілотників та фахівці, які досліджували уламки, дійшли висновку, що цей дрон міг використовувати автономну систему штучного інтелекту.
За їхньою версією, оператори могли задати безпілотнику загальний район або маршрут до заправки, однак конкретний об'єкт для ураження він нібито визначав уже самостійно. Система могла бути навчена розпізнавати певні об'єкти — зокрема пропанові балони.
Водночас журналісти зазначають, що такі висновки ґрунтуються на аналізі уламків та даних українських військових і експертів.
На уламках знайшли мінікомп'ютер Nvidia
Однією з головних ознак можливого використання автономної системи став мінікомп'ютер Nvidia Jetson Orin, який, за даними The New York Times, знайшли в уламках російських безпілотників.
Nvidia підтвердила журналістам, що на переданих їй фотографіях дійсно зображений комп'ютерний модуль Jetson Orin. Такі пристрої використовуються розробниками для роботи з алгоритмами штучного інтелекту та машинного навчання.
В українських сил ППО також звернули увагу на відсутність антен на деяких таких безпілотниках. Це могло свідчити про те, що для наведення їм не був потрібний постійний зв'язок з оператором.
Втім, сама по собі відсутність антени ще не є доказом автономного наведення. Безпілотник також може рухатися за заздалегідь заданим маршрутом. Проте, за даними співрозмовників The New York Times, виявлений модуль Nvidia та результати дослідження його програмного забезпечення стали додатковими аргументами на користь версії про випробування ШІ.
Експерти вважають це першим задокументованим випадком
Старша наукова співробітниця Центру штучного інтелекту Вадхвані при Центрі стратегічних і міжнародних досліджень Катерина Бондар заявила The New York Times, що атака 6 липня може бути першим задокументованим випадком загибелі цивільних внаслідок удару російського безпілотника, оснащеного системою автономного самонаведення на основі штучного інтелекту.
За словами українських чиновників, доступ до комп'ютерного модуля дозволив дослідити завантажені на нього дані. Там нібито були зображення місцевості, які могли допомагати безпілотнику орієнтуватися, а також інформація про типи об'єктів, які система була навчена розпізнавати.
Експерт Харківського авіаційного інституту Вадим Кушніков у коментарі виданню назвав такий безпілотник заздалегідь запрограмованою системою, навченою розпізнавати певні об'єкти.
Полковник Сергій Мінаєв, який командує силами протиповітряної оборони в Запоріжжі, заявив журналістам, що поява таких технологій становить небезпеку не лише для України.
«Машини приймають рішення про удар», — сказав він.
росія випробовує ШІ на «Молніях» та інших дронах
За даними українських експертів із протиповітряної оборони, росія почала випробування безпілотників «Молнія» із системами штучного інтелекту ще у травні. Раніше також фіксували тестування систем самонаведення на безпілотниках V2U.
У деяких випадках штучний інтелект використовується лише на завершальному етапі атаки — так званій «останній милі». Тобто спочатку оператор або заздалегідь задана програма направляє дрон у певний район, а система самонаведення вже допомагає знайти конкретну ціль.
Повністю автономна система відрізняється тим, що людина не бере участі в остаточному виборі об'єкта для удару.
The New York Times зазначає, що українські військові виявляли в Запоріжжі кілька російських безпілотників із характеристиками, які можуть свідчити про випробування таких технологій. Частина з них вибухала, а деякі після падіння залишалися достатньо неушкодженими для дослідження.
Як у Запоріжжі намагаються протидіяти новій загрозі
Через постійні атаки дронів у Запоріжжі та області вже використовують різні способи захисту. Йдеться, зокрема, про дрони-перехоплювачі та антидронові сітки, якими прикривають дороги й окремі об'єкти.
Як зазначає видання, для протидії системам комп'ютерного розпізнавання також можуть застосовувати камуфляж. Зокрема, біля потенційних цілей розміщують матеріали та конструкції, які можуть ускладнити розпізнавання об'єктів камерою безпілотника.
Водночас експерти наголошують, що розвиток автономної зброї викликає дедалі більше питань щодо контролю людини над рішенням про застосування сили.
Правозахисні організації та Міжнародний комітет Червоного Хреста виступають за збереження людського контролю над автономними системами озброєння. Їх непокоїть ситуація, за якої машина може самостійно визначати, який об'єкт вважати законною ціллю.
У Запоріжжі ж, яке розташоване неподалік від лінії фронту, нові технології російських атак уже стали не теоретичною загрозою. За даними The New York Times, атака 6 липня могла стати одним із перших випадків, коли можливе використання автономного штучного інтелекту в російському дроні пов'язують із загибеллю цивільних.
