Чрезмерное доверие к ИИ привело к ракетному удару по школе в Иране – Пентагон

Недавнее расследование Пентагона показало, что чрезмерное доверие к системам искусственного интеллекта стало значительным фактором, способствовавшим ракетному удару по школе в Иране. В отчете подчеркиваются критические уязвимости в протоколах автономного наведения, отмечая, что ИИ не смог правильно идентифицировать объект как гражданское сооружение, несмотря на имеющиеся разведданные. Военные чиновники заявили, что, хотя технология была призвана повысить точность, отсутствие человеческого контроля на этапе принятия окончательного решения привело к катастрофической ошибке. Этот инцидент вызвал жаркие споры в оборонном секторе относительно этики и надежности автономных систем вооружения. Пентагон пересматривает свои руководящие принципы развертывания боеприпасов с интеграцией ИИ, подчеркивая необходимость участия человека в процессе принятия решений для предотвращения жертв среди гражданского населения. Выводы подчеркивают растущие риски, связанные с внедрением передового машинного обучения в военные операции, где алгоритмические ошибки могут иметь летальные последствия.