AI-лаборатории хотят внутренних аудиторов, но, возможно, им стоит сначала закрыть входную дверь

По мере того как крупные лаборатории искусственного интеллекта все чаще стремятся внедрить внутренние системы аудита для решения проблем безопасности и рисков, связанных с неконтролируемыми агентами, критики отрасли ставят под сомнение эффективность этих мер саморегулирования. В статье предполагается, что, хотя внутренний надзор является позитивным шагом, его может быть недостаточно, если фундаментальные протоколы безопасности остаются уязвимыми. Вместо того чтобы полагаться исключительно на внутренний аудит, автор утверждает, что лабораториям следует уделить первоочередное внимание укреплению своей основной инфраструктуры и контролю доступа для предотвращения несанкционированного использования. Сосредоточившись на фундаментальной гигиене безопасности, а не только на реактивном аудите, компании могли бы более эффективно снижать опасности, связанные с передовым искусственным интеллектом. Дискуссия подчеркивает растущее напряжение между быстрыми темпами развития ИИ и необходимостью надежных, прозрачных стандартов безопасности, выходящих за рамки внутреннего корпоративного управления.