Нова хвиля оборонних технологій формується, де штучний інтелект не є допоміжною функцією, а стає ключовим компонентом смертоносних операцій. Scout AI, стартап із Кремнієвої долини, нещодавно продемонстрував систему, здатну автономно ідентифікувати та знищувати цілі – в даному випадку, вантажівка – з використанням безпілотних літальних апаратів та наземних транспортних засобів, контрольованих ІІ. Це знаменує собою значне зрушення у бік більш автономних військових можливостей, породжуючи як перспективи, і серйозні побоювання.
Демонстрація: ІІ в Дії
У закритому випробуванні на військовій базі в Каліфорнії, ІІ-система “Fury Orchestrator” від Scout AI отримала просту команду: виявити та знищити синю вантажівку, що знаходиться за 500 метрів на схід від аеродрому. Система, побудована на модифікованій моделі ІІ з відкритим вихідним кодом, що містить понад 100 мільярдів параметрів, взяла під контроль самохідний транспортний засіб та два озброєні дрони. Протягом кількох хвилин дрони виявили мету та детонували вибуховий заряд, підтвердивши успіх місії. То була не симуляція; це була жива демонстрація летальності, заснованої на ІІ.
** Ключовий висновок полягає в тому, що ІІ тепер здатний приймати рішення на полі бою без участі людини. ** Це включає вибір мети, навігацію та застосування смертоносної сили.
Гонка за Домінування в Області Військового ІІ
Швидкий розвиток ІІ в оборонній сфері зумовлений переконанням, що він стане вирішальним у майбутніх конфліктах. Політики та військові стратеги бачать у ІІ спосіб отримати перевагу, тому уряд США обмежив продаж передових ІІ-чіпів своїм суперникам, таким як Китай. Однак експерти застерігають, що хоча потенціал високий, так само високі і ризики.
Майкл Хоровіц, колишній чиновник Пентагону, визнає важливість розширення кордонів ІІ, але попереджає, що практична реалізація є складною. Великі мовні моделі непередбачувані, і навіть базові завдання ІІ можуть призвести до несподіваної поведінки. Кібербезпека таких систем також викликає серйозне занепокоєння.
Архітектура ІІ: Як Це Працює
Система Scout AI покладається на ієрархічну структуру ІІ. Велика фундаментальна модель інтерпретує високорівневі команди та делегує завдання меншим, спеціалізованим ІІ-агентам, які працюють на наземному транспортному засобі та дронах. Ці агенти потім керують системами нижнього рівня, що відповідають за рух, націлювання та детонацію. Ця каскадна автономія дозволяє системі адаптуватися до змінних умов, але також вносить потенціал для помилок чи непередбачених наслідків.
“Це те, що відрізняє нас від застарілої автономії. Ці системи не можуть перепланувати на місці, виходячи з отриманої інформації та наміру командира; вони просто виконують наосліп дії”. – Кобі Адокс, генеральний директор Scout AI.
Етичні та Практичні Проблеми
Розгортання систем озброєння, керованих ІІ, порушує серйозні етичні питання. Експерти з контролю над озброєннями та фахівці з етики ІІ попереджають, що ІІ може мати труднощі з розмежуванням між комбатантами та некомбатантами, що призведе до жертв серед цивільного населення. Війна в Україні вже продемонструвала, наскільки легко споживчі дрони можуть бути перетворені на зброю, стираючи межі між військовою та цивільною технологіями.
Незважаючи на ці побоювання, Scout AI наполягає на тому, що його технологія відповідає правилам ведення бойових дій, встановленим міністерством оборони США та міжнародним нормам. Компанія уклала чотири контракти з Міністерством оборони та прагне додаткового фінансування для розробки систем управління роєм дронів.
Найбільшою проблемою буде перетворення цих демонстрацій на надійні, безпечні та передбачувані військові системи. Як зазначає Хоровиць, “Ми не повинні плутати їх демонстрації з розгорнутими можливостями, які мають військову надійність і кібербезпеку”.
Майбутнє війни швидко змінюється і ІІ знаходиться в авангарді. Хоча потенційні вигоди очевидні, ризики – як етичні, і практичні – не можна ігнорувати.
