Галлюцинация ИИ о китайских ядерных компонентах едва не привела к военной атаке США

Аналитик Командования специальных операций США едва не спровоцировал военный конфликт, доверившись отчету, сгенерированному искусственным интеллектом, в котором ложно утверждалось, что китайское судно перевозит компоненты ядерного оружия на Ближнем Востоке. По данным CNN, американские военные готовились к перехвату судна при поддержке авиации, прежде чем чиновники обнаружили, что чат-бот, использованный для анализа данных, допустил ошибку в идентификации груза. Источники, знакомые с ситуацией, назвали этот инцидент критическим сбоем, который едва не привел к вооруженному столкновению. Случившееся подчеркивает серьезные риски интеграции генеративного ИИ в чувствительные процессы военной разведки, где автоматизированные ошибки могут иметь катастрофические последствия. Инцидент вызвал необходимость пересмотра протоколов использования ИИ в оборонных операциях, подчеркивая важность участия человека в принятии решений для предотвращения подобных инцидентов в будущем.