Эти эксперты по ИИ хотят проводить рискованные исследования открыто

Trillium Labs, новая исследовательская организация в области искусственного интеллекта, бросает вызов отраслевой норме, согласно которой высокорискованные исследования проводятся за закрытыми дверями. В то время как многие передовые лаборатории предпочитают хранить в секрете свои разработки в области самообучения и поведения моделей, Trillium Labs стремится проводить исследования открыто. Организация считает, что прозрачность необходима для обеспечения безопасности и прогресса в сфере передового ИИ. Публикуя свои выводы и методологии, команда надеется создать среду для совместной работы, где исследователи смогут коллективно анализировать и совершенствовать модели с высоким уровнем риска. Этот подход существенно отличается от текущей тенденции разработки «черных ящиков», которой следуют крупные технологические компании. Trillium Labs намерена сосредоточиться на технических проблемах согласования и безопасности моделей, утверждая, что открытость — лучший способ снизить потенциальные риски, связанные с развитием все более автономных систем.