Армия США едва не захватила китайское судно из-за галлюцинации искусственного интеллекта

Военная операция США едва не переросла в международный конфликт после того, как отчет разведки, созданный искусственным интеллектом, ошибочно указал на наличие ядерного оружия на борту китайского судна. Аналитик использовал чат-бот для обработки данных, что привело к неверной оценке груза. Эта ложная информация была оформлена в официальный отчет и распространена среди военных, что спровоцировало подготовку к вооруженному досмотру судна. Ошибку обнаружили незадолго до начала операции, что позволило избежать опасного столкновения. Инцидент подчеркивает серьезные риски, связанные с внедрением генеративного ИИ в процессы принятия военных решений. По мере того как армия США расширяет использование ИИ-инструментов, отсутствие единого протокола проверки данных остается критической проблемой. Это ставит под вопрос эффективность человеческого контроля в операциях высокого уровня, где любая ошибка может привести к непредсказуемым геополитическим последствиям.