Военные США столкнулись с рисками из-за ложного отчета, сгенерированного ИИ

Вооруженные силы США недавно столкнулись с серьезной угрозой безопасности, связанной с использованием искусственного интеллекта в разведке. Согласно сообщениям, система ИИ сгенерировала «галлюцинированный» разведывательный отчет о местоположении китайского военного корабля. Эти ложные данные едва не спровоцировали тактический ответ, прежде чем аналитики обнаружили ошибку. Инцидент подчеркивает растущие риски, связанные с интеграцией генеративного ИИ в чувствительные процессы принятия военных решений. Эксперты предупреждают, что, хотя ИИ предлагает преимущества в скорости и обработке данных, феномен «галлюцинаций» — когда модели уверенно выдают ложную информацию за факт — представляет серьезную угрозу национальной безопасности. Министерство обороны США сейчас находится под давлением, вынуждающим внедрять более строгие протоколы проверки и механизмы контроля со стороны человека, чтобы предотвратить подобные инциденты. Это событие служит суровым напоминанием об ограничениях современных технологий ИИ в критических ситуациях, где точность необходима для предотвращения непреднамеренной геополитической эскалации.