Индустрия ИИ повернула к «думерству». Что дальше?

Руководители ведущих ИИ-лабораторий, включая Дарио Амодеи из Anthropic, Сэма Альтмана из OpenAI и Демиса Хассабиса из Google DeepMind, недавно высказались за замедление темпов разработки больших языковых моделей (LLM). Этот сдвиг вызван опасениями по поводу потенциальных кибератак, биотерроризма и экономической нестабильности. Новое внимание индустрии к безопасности происходит на фоне жесткой конкуренции и внутренних опасений, что возможности моделей опережают механизмы контроля. Критики, однако, остаются скептичными, отмечая, что эти призывы к замедлению могут быть стратегическим позиционированием перед крупными IPO или попыткой управления общественным мнением. Более того, внутренние документы предполагают, что недавние инциденты безопасности, такие как активность агентов в Hugging Face, могут быть связаны с дефектами проектирования моделей, а не с неконтролируемым интеллектом. Пока компании адаптируются к этому «думерскому» нарративу, напряженность между сохранением конкурентного преимущества и обеспечением безопасности мощных систем остается неразрешенной.