Источники CNN утверждают, что США едва не атаковали китайский корабль, на борту которого, по их мнению, находились компоненты ядерного оружия.
Ложный отчёт ИИ едва не привёл к военному конфликту
По данным CNN, ложный разведывательный отчёт, частично созданный с помощью ИИ, едва не спровоцировал атаку американских военных на китайский корабль на Ближнем Востоке. Источник в отчёте заявил, что инцидент «едва не привёл к войне». Он наглядно показывает риски внедрения ИИ в работу Министерства обороны США.
Engadget запросил у Минобороны комментарий по поводу репортажа CNN. Статья будет обновлена, если ведомство ответит.
Как возникла ошибка
Отчёт подготовил аналитик командования специальных операций. Он задал чат‑боту вопрос о декларации китайского судна. Чат‑бот объединил разведданные из открытых источников с секретными сигналами. В результате он сделал вывод: на корабле находятся компоненты программы создания ядерного оружия.
Этот вывод едва не привёл к задержанию судна. Только после дополнительной проверки выяснилось, что вывод сгенерировал ИИ.
Что осталось неизвестным
CNN не удалось выяснить, какой именно инструмент ИИ использовал аналитик — коммерческую модель или правительственную разработку. Также неизвестно, что на самом деле перевозил корабль.
Контекст: активное внедрение ИИ в Минобороны
В январе министр обороны Пит Хегсет выпустил памятку. В ней он потребовал, чтобы Минобороны стало «первым в области искусственного интеллекта». Ведомство должно было экспериментировать с моделями ведущих американских ИИ‑компаний.
Не все партнёрства прошли гладко. Например, компания Anthropic отказалась предоставлять свои модели для разработки автономного оружия. Из‑за этого на какое‑то время её сотрудничество с правительством было ограничено.
Тем не менее Минобороны заключило ряд других соглашений:
- В феврале SpaceXAI договорилась о предоставлении военным доступа к модели Grok.
- В мае NVIDIA, Microsoft и Amazon объединились, чтобы предложить Минобороны свои ИИ‑технологии.
Такие контракты выгодны компаниям, поэтому они активно стремятся их заключить. Но применение ИИ в государственных и военных задачах несёт особые риски — они серьёзнее, чем при использовании обычного корпоративного ПО.
