Новая волна оборонных технологий формируется, где искусственный интеллект больше не является вспомогательной функцией, а становится ключевым компонентом смертоносных операций. Scout AI, стартап из Кремниевой долины, недавно продемонстрировал систему, способную автономно идентифицировать и уничтожать цели – в данном случае, грузовик – с использованием беспилотных летательных аппаратов и наземных транспортных средств, контролируемых ИИ. Это знаменует собой значительный сдвиг в сторону более автономных военных возможностей, порождая как перспективы, так и серьезные опасения.
Демонстрация: ИИ в Действии
В закрытом испытании на военной базе в Калифорнии, ИИ-система «Fury Orchestrator» от Scout AI получила простую команду: обнаружить и уничтожить синий грузовик, находящийся в 500 метрах к востоку от аэродрома. Система, построенная на модифицированной модели ИИ с открытым исходным кодом, содержащей более 100 миллиардов параметров, взяла под контроль самоходное транспортное средство и два вооруженных дрона. В течение нескольких минут дроны обнаружили цель и детонировали взрывчатый заряд, подтвердив успех миссии. Это была не симуляция; это была живая демонстрация летальности, основанной на ИИ.
Ключевой вывод заключается в том, что ИИ теперь способен принимать решения на поле боя без участия человека. Это включает выбор цели, навигацию и применение смертоносной силы.
Гонка за Доминирование в Области Военного ИИ
Быстрое развитие ИИ в оборонной сфере обусловлено убеждением, что он станет решающим в будущих конфликтах. Политики и военные стратеги видят в ИИ способ получить преимущество, поэтому правительство США ограничило продажу передовых ИИ-чипов своим соперникам, таким как Китай. Однако эксперты предостерегают, что, хотя потенциал высок, так же высоки и риски.
Майкл Хоровиц, бывший чиновник Пентагона, признает важность расширения границ ИИ, но предупреждает, что практическая реализация сложна. Большие языковые модели непредсказуемы, и даже базовые задачи ИИ могут привести к неожиданному поведению. Кибербезопасность таких систем также вызывает серьезную обеспокоенность.
Архитектура ИИ: Как Это Работает
Система Scout AI полагается на иерархическую структуру ИИ. Большая фундаментальная модель интерпретирует высокоуровневые команды и делегирует задачи меньшим, специализированным ИИ-агентам, работающим на наземном транспортном средстве и дронах. Эти агенты затем управляют системами нижнего уровня, отвечающими за движение, нацеливание и детонацию. Эта каскадная автономия позволяет системе адаптироваться к меняющимся условиям, но также вносит потенциал для ошибок или непредвиденных последствий.
«Это то, что отличает нас от устаревшей автономии. Эти системы не могут перепланировать на месте, исходя из полученной информации и намерения командира; они просто выполняют действия вслепую». – Коби Адокс, генеральный директор Scout AI.
Этические и Практические Проблемы
Развертывание систем вооружения, управляемых ИИ, поднимает серьезные этические вопросы. Эксперты по контролю над вооружениями и специалисты по этике ИИ предупреждают, что ИИ может испытывать трудности с разграничением между комбатантами и некомбатантами, что приведет к жертвам среди гражданского населения. Война в Украине уже продемонстрировала, насколько легко потребительские дроны могут быть превращены в оружие, стирая границы между военной и гражданской технологиями.
Несмотря на эти опасения, Scout AI настаивает на том, что его технология соответствует правилам ведения боевых действий, установленным министерством обороны США, и международным нормам. Компания заключила четыре контракта с Министерством обороны и стремится к дополнительному финансированию для разработки систем управления роем дронов.
Самой большой проблемой будет преобразование этих демонстраций в надежные, безопасные и предсказуемые военные системы. Как отмечает Хоровиц, «Мы не должны путать их демонстрации с развернутыми возможностями, обладающими военными надежностью и кибербезопасностью».
Будущее войны быстро меняется, и ИИ находится в авангарде. Хотя потенциальные выгоды очевидны, риски – как этические, так и практические – нельзя игнорировать.
