Согласно отчету CNN, США едва не приняли решение о захвате китайского судна, основываясь на ложном разведывательном отчете, созданном с помощью искусственного интеллекта. Аналитик командования специальных операций США представил информацию, согласно которой судно якобы перевозило компоненты ядерной программы Китая через Ближний Восток. Подготовка к операции включала поддержку авиации, однако в последний момент выяснилось, что чат-бот, использованный для генерации отчета, неверно идентифицировал материалы на борту судна.
Четыре источника, знакомые с ситуацией, сообщили CNN, что ошибка могла привести к серьезным последствиям, вплоть до начала военного конфликта. Официальные лица быстро отреагировали на ситуацию, что позволило избежать потенциальной катастрофы. Эта ситуация подчеркивает важность точности и надежности технологий ИИ в критически важных областях, таких как национальная безопасность.
Данный инцидент вызывает серьезные вопросы о том, как искусственный интеллект может повлиять на принятие решений в военной сфере. Ошибки в разведывательных данных могут иметь катастрофические последствия, что подчеркивает необходимость более строгого контроля и проверки информации, генерируемой ИИ, прежде чем она будет использована для оперативных действий.