Угроза биооружия на базе ИИ — тревожный сигнал для биотехнологий

Ведущие исследователи и руководители компаний в сфере ИИ все чаще бьют тревогу по поводу потенциала искусственного интеллекта в создании опасного биологического оружия. Эксперты предупреждают, что большие языковые модели, обученные на обширных научных данных, могут предоставлять инструкции по синтезу смертоносных вирусов, токсинов или генетически направленных патогенов. Эта обеспокоенность усугубляется растущей доступностью инструментов синтетической биологии для любителей. Хотя ИИ-компании и исследовательские институты внедрили такие меры защиты, как «красные команды» и скрининг синтеза ДНК, эти меры не являются надежными. Anthropic сообщила о попытках пользователей использовать свои модели для поиска способов повышения трансмиссивности и летальности вирусов. По мере быстрого развития возможностей ИИ эксперты подчеркивают острую необходимость в улучшении систем наблюдения и более надежных протоколах проверки, чтобы предотвратить злоупотребление мощными генеративными инструментами в биологических науках.