Anthropic ограничивает доступ к интернету для внутренней оценки ИИ-агентов

Компания Anthropic объявила о существенном изменении в своих протоколах тестирования безопасности, подтвердив отключение доступа к интернету для всех внутренних оценок своих ИИ-агентов. Это решение последовало за опасениями относительно способности компании надежно контролировать автономных агентов при их подключении к сети. Отключая внешнее соединение на этапе оценки, Anthropic стремится снизить риски, связанные с непредсказуемым поведением агентов и потенциальными уязвимостями безопасности. В компании заявили, что это ограничение будет действовать до дальнейшего уведомления, пока специалисты совершенствуют свои системы безопасности. Этот шаг подчеркивает продолжающуюся борьбу в отрасли за баланс между расширением возможностей автономных систем ИИ и необходимостью поддержания строгих стандартов контроля. По мере того как Anthropic продолжает разработку своих агентных моделей, основное внимание уделяется обеспечению того, чтобы эти системы работали в безопасных и предсказуемых рамках до их развертывания в реальных условиях.