Опасный инцидент, грозивший перерастанием в полномасштабное вооруженное столкновение между Вашингтоном и Пекином, произошел весной этого года. Как сообщает CNN со ссылкой на свои источники, американское военное командование было на грани проведения операции по захвату китайского судна из-за недостоверных данных, предоставленных искусственным интеллектом. Система ошибочно классифицировала груз на корабле как компоненты для иранской ядерной программы.
Согласно полученным сведениям, американская сторона оперативно начала подготовку к силовому перехвату: военные самолеты уже были подняты в
воздух, а командование приступило к детальному планированию штурма. Ситуацию спасла лишь своевременная проверка документов. В последний момент чиновники решили перепроверить отчет, подготовленный аналитиком командования спешных операций, и обнаружили, что документ был создан чат-ботом. Программный алгоритм неверно распознал содержимое манифеста судна.
Один из осведомленных источников CNN подчеркнул масштаб угрозы, назвав этот ложный отчет информацией, которая
почти развязала войну.
Телеканал напоминает, что любое прямое вмешательство США в деятельность китайского флота неминуемо могло спровоцировать глобальный конфликт.
Причиной сбоя стал процесс обработки данных военным специалистом. Аналитик использовал чат-бота для изучения сведений о грузе, и нейросеть, смешав информацию из открытых источников с секретными разведданными, сделала ошибочный вывод. Полученный результат аналитик использовал для генерации итогового доклада руководству.
Данный инцидент происходит на фоне масштабной стратегии США по интеграции ИИ во все сферы разведки и оборонного ведомства, включая обработку необработанных данных и выбор целей для авиаударов. В прошлом году Пентагон уже инвестировал 200 миллионов долларов в контракт с компанией xAI, принадлежащей Илону Маску, для ускорения цифровизации. Одновременно с этим министерство обороны США подписало соглашения с разработчиками моделей OpenAI и Anthropic.
Однако сотрудничество с технологическими гигантами сопровождается серьезными трениями. Ранее The Wall Street Journal сообщала, что Дональд Трамп использовал разработки Anthropic для планирования крупного авиаудара по территории Ирана. Это вызвало жесткую реакцию со стороны руководства компании: глава Anthropic Дарио Амодеи настаивал на гарантиях, что его технологии не станут инструментом для автономного оружия или тотальной слежки без участия человека. В ответ на это Пентагон классифицировал Anthropic как риск для цепочки поставок.
На данный момент процесс разрыва отношений с разработчиком продолжается. Как заявил главный технический директор Пентагона и заместитель министра обороны по исследованиям и разработкам Эмиль Майкл, ведомство планирует полностью прекратить использование систем от Anthropic в своих структурах до конца сентября.
