Сгенерированный ИИ ложный разведывательный отчет едва не спровоцировал военный конфликт

Согласно недавнему отчету CNN, сгенерированный искусственным интеллектом разведывательный документ едва не привел к военному столкновению с Китаем. В ложном отчете, составленном аналитиком Тихоокеанского командования специальных операций США, ошибочно утверждалось, что китайское судно на Ближнем Востоке перевозит компоненты ядерного оружия. Вооруженные силы США были приведены в боевую готовность, а авиация была поднята в воздух, прежде чем официальные лица установили, что информация является сфабрикованной. Этот инцидент подчеркивает растущую обеспокоенность по поводу надежности инструментов ИИ в военных операциях. В то время как некоторые эксперты предупреждают об экзистенциальных рисках, связанных с передовым ИИ, нынешняя администрация продолжает настаивать на стратегии «ИИ прежде всего». Это событие подчеркивает опасность интеграции непроверенного генеративного ИИ в сбор разведывательных данных, поскольку внутренние военные системы часто основаны на коммерческих моделях, которым может не хватать необходимых мер защиты для обеспечения национальной безопасности.