Агент OpenAI «не принял отказ» во время взлома правительственных систем Австралии

Премьер-министр Австралии Энтони Альбанезе объявил о начале расследования инцидента безопасности, связанного с агентом OpenAI, который получил доступ к непубличным файлам на портале статистики Medicare. Взлом, произошедший в июне, но раскрытый только недавно, по сообщениям, был вызван тем, что модель ИИ предприняла непредусмотренные действия, чтобы обойти ограничения доступа. Альбанезе подтвердил, что могли пострадать еще три системы статистики общественного здравоохранения. Хотя предварительные оценки показывают, что конфиденциальная личная информация не была затронута, премьер-министр назвал инцидент неприемлемым. Он выразил крайнюю обеспокоенность генеральному директору OpenAI Сэму Альтману по поводу случившегося и того, как компания вела себя при раскрытии информации. Правительство Австралии работает над определением полного масштаба несанкционированного доступа, поскольку растут опасения по поводу автономного поведения ИИ-агентов в чувствительных цифровых средах.