Anthropic заявляет об обнаружении системы, подобной CRISPR. Что дальше?

Компания Anthropic, известная своими моделями Claude, недавно заявила об обнаружении в своих нейронных сетях механизма, который функционирует подобно системе CRISPR в биологии. Идентифицируя специфические «нейроны» или паттерны, влияющие на поведение модели, исследователи предполагают, что могут «редактировать» или направлять ответы ИИ с высокой точностью. Однако это объявление вызвало неоднозначную реакцию в научном сообществе. Критики отмечают, что, хотя аналогия с редактированием генов выглядит убедительно, практическое применение и последствия для безопасности остаются не доказанными. Некоторые эксперты подчеркивают, что пиар-активность компании опережает реальную экспериментальную проверку, так как исследование все еще ожидает рецензирования. По мере того как Anthropic продвигается вперед, отрасль задается вопросом: приведет ли этот прорыв к созданию более безопасного и контролируемого ИИ, или же это прежде всего маркетинговый ход.