Base Labs запускает партнерство по безопасности ИИ с Hugging Face и Goodfire

Исследовательская группа Base Labs, отделившаяся от Baseten, объявила о новом стратегическом партнерстве с Hugging Face и Goodfire для повышения стандартов безопасности моделей искусственного интеллекта с открытыми весами. Сотрудничество направлено на разработку и публикацию стандартизированных методологий обучения, мониторинга и оценки открытых моделей, что решает растущие проблемы прозрачности и безопасности систем ИИ. Используя инфраструктуру Hugging Face и опыт Goodfire в области интерпретируемости, Base Labs намерена предоставить сообществу разработчиков надежные инструменты для обеспечения безопасности и надежности ИИ с открытым исходным кодом. Эта инициатива является важным шагом на пути к созданию отраслевых стандартов безопасности моделей, позволяя исследователям лучше понимать внутренние механизмы крупномасштабного ИИ. Партнерство планирует выпустить ресурсы с открытым исходным кодом, которые помогут выявлять потенциальные уязвимости, способствуя созданию более безопасной экосистемы для будущего развития генеративного ИИ.