Исследователи использовали Claude для взлома OpenAI

Группа исследователей кибербезопасности успешно продемонстрировала уязвимость в системах OpenAI, используя ИИ Claude от компании Anthropic. Исследователи, участвовавшие в санкционированной программе по поиску уязвимостей, получили несанкционированный доступ к учетной записи ChatGPT сотрудника OpenAI. Этот взлом позволил им просматривать конфиденциальную программную информацию и предлагать изменения в коде. Операция была проведена с помощью инструмента Anthropic, специально разработанного для специалистов по безопасности для выявления слабых мест в моделях ИИ. Этот инцидент подчеркивает растущую важность состязательного тестирования, поскольку ведущие ИИ-компании сталкиваются с повышенным вниманием к безопасности своих платформ. Используя технологии конкурента для обнаружения этих недостатков, исследователи подчеркивают критическую необходимость надежных мер безопасности при разработке генеративного ИИ. OpenAI продолжает сотрудничать с экспертами по безопасности для устранения этих уязвимостей и предотвращения потенциальных атак со стороны злоумышленников, подчеркивая совместный характер современных исследований в области кибербезопасности.