Галлюцинация ИИ едва не спровоцировала военную операцию США

Недавний отчет пролил свет на опасный инцидент, когда галлюцинация искусственного интеллекта едва не привела к несанкционированной военной операции США. Это событие подчеркивает критические риски, связанные с интеграцией больших языковых моделей (LLM) в оборонные системы. По словам исследователя GovAI, инцидент служит суровым напоминанием о том, что военнослужащие должны полностью осознавать неопределенность и непредсказуемость генеративного ИИ. Хотя LLM предлагают потенциальную эффективность в обработке данных и стратегическом планировании, их склонность генерировать правдоподобную, но фактически неверную информацию представляет серьезную угрозу национальной безопасности. Эксперты призывают к более строгому надзору, улучшению протоколов участия человека в принятии решений и более глубокому пониманию ограничений ИИ перед внедрением этих технологий в операционную среду. Инцидент вызвал широкую дискуссию о безопасности и надежности ИИ в процессах принятия военных решений.