Meta Muse против ChatGPT Agent: сравнение двух подходов к безопасности ИИ

Meta и OpenAI недавно представили потребительских ИИ-агентов, способных выполнять реальные задачи: отправлять электронные письма, бронировать поездки и совершать покупки. Хотя обе компании стремятся автоматизировать повседневные дела, они используют принципиально разные архитектуры безопасности. Meta Muse использует «защищенную виртуальную машину» (Secure VM) и отдельный процесс «Sentinel» для изоляции агента от учетных данных пользователя и проверки действий перед их выполнением. Напротив, подход OpenAI опирается на обученную и контролируемую модель с функциями «режима наблюдения», хотя тесты показывают 67% успешности защиты от активных атак. Автор утверждает, что, хотя архитектурный подход Meta теоретически более надежен, он остается непроверенным на практике по сравнению с прозрачным дизайном OpenAI. Статья завершается практическим контрольным списком для пользователей, подчеркивающим важность осторожности, проверки логов и ограничения доступа агента к конфиденциальной финансовой и личной информации.