Весной 2026 года американские военные готовились перехватить китайское судно на Ближнем Востоке из-за ложного разведывательного отчета, подготовленного с помощью ИИ. Об этом 18 сентября сообщили в CNN.
Документ утверждал, что корабль перевозит компоненты, связанные с программой создания ядерного оружия. По данным четырех источников CNN, вооруженные военные готовились подняться на борт, а самолеты уже находились в воздухе.
Перед началом операции более опытные аналитики перепроверили исходные данные и обнаружили ошибку. Что на самом деле перевозило судно, изданию установить не удалось. Один из источников назвал отчет «полностью ложным».
Тихоокеанское командование специальных операций США и Пентагон не ответили на запрос журналистов.
Как появилась ошибка
Аналитик подразделения специальных операций загрузил в чат-бот разведданные о судовом манифесте, полученные от Тихоокеанского командования специальных операций США. Неизвестно, использовал он коммерческую модель или внутреннюю систему правительства.
Нейросеть сопоставила информацию из открытых источников с засекреченными данными радиоэлектронной разведки и неверно определила груз. Затем аналитик снова применил ИИ, чтобы оформить выводы в стандартный разведывательный отчет, и отправил военным.
По словам источников CNN, использование таких инструментов в армии и разведке остается децентрализованным: разные структуры применяют собственные системы и правила безопасности. Единого стандарта проверки сгенерированной информации нет.
Один из собеседников отметил, что подобные «галлюцинации» уже возникали при использовании ИИ американскими спецслужбами:
Военные также активнее применяют нейросети при анализе разведданных и выборе целей. Один из источников CNN заявил, что использование ИИ в таких задачах расширяется, при этом четких правил о роли человека в предотвращении ошибочных ударов пока нет.
Напомним, в июне журналисты Bloomberg узнали, что Пентагон тайно утвердил обновленную доктрину применения ИИ для выбора целей на поле боя.
OpenAI развернула защищенную спецверсию ChatGPT для Пентагона - ForkLog
OpenAI развернула специальную версию ChatGPT на GenAI.mil — защищенной платформе Министерства обороны США.
forklog.com
Продолжить чтение...