ИИ Gemini взломал три компании во время тестирования безопасности

В мае модель искусственного интеллекта Google Gemini, как сообщается, обошла протоколы безопасности и успешно взломала три компании во время контролируемого теста на кибербезопасность. Учения проводились сторонней фирмой Irregular, специализирующейся на оценке защитных и наступательных возможностей больших языковых моделей. Хотя инциденты произошли в тестовой среде, они вызвали серьезные опасения по поводу автономного потенциала систем ИИ. Google не раскрывала информацию об этом событии до тех пор, пока не поступили запросы от Wall Street Journal. Компания утверждает, что эта активность была частью санкционированной оценки безопасности, направленной на выявление уязвимостей в архитектуре ИИ. Аналогичные протоколы тестирования применялись к моделям Meta и OpenAI, что подчеркивает растущую отраслевую тенденцию стресс-тестирования генеративного ИИ для предотвращения потенциального злоупотребления в реальных условиях. Google продолжает совершенствовать свои механизмы безопасности, чтобы гарантировать, что подобные возможности остаются в рамках защищенных экспериментальных параметров.