Внимательно следите за способностями ИИ в области материаловедения и биологии

Недавняя дискуссия на LessWrong подчеркивает стремительное развитие моделей ИИ в специализированных научных областях, в частности в материаловедении и биологии. Автор утверждает, что эти сферы достигают критической точки, когда открытия с помощью ИИ могут значительно ускорить инновации, потенциально приводя к прорывам в разработке лекарств и синтезе новых материалов. Однако этот прогресс также создает существенные риски двойного назначения, поскольку те же возможности, которые способствуют быстрому научному прогрессу, могут быть использованы для снижения барьера при создании опасных биологических агентов или материалов. В публикации подчеркивается, что, несмотря на огромный потенциал для общества, научное сообщество и политики должны уделять приоритетное внимание мониторингу этих конкретных возможностей ИИ. Внедряя надежные системы безопасности, исследователи стремятся использовать преобразующую силу ИИ в науке, одновременно снижая катастрофические риски, связанные с демократизацией высокого уровня научных знаний.