Генеральный директор Anthropic призывает замедлить разработку ИИ и предупреждает о риске захвата интернета

Генеральный директор Anthropic Дарио Амодеи представил план по стратегическому «регулированию темпов» разработки передовых моделей ИИ. В своем блоге объемом 3000 слов Амодеи предупреждает, что без должного надзора современные системы ИИ могут создать серьезные угрозы, включая кибератаки и потерю контроля. Он особо подчеркнул, что в течение 6–12 месяцев рои автономных агентов могут стать способными захватить интернет. Его концепция предлагает внедрение независимых омбудсменов в ИИ-компаниях, создание стандартизированных контрольных точек оценки и координацию между демократическими странами. Хотя Амодеи настаивает на осторожности, он выступает против полной остановки разработок, отмечая, что сохранение технологического лидерства перед лицом автократий необходимо для национальной безопасности. Предложение также затрагивает вопросы ограничения экспорта чипов для ИИ в Китай и введения штрафов за дистилляцию моделей, чтобы гарантировать, что стремительное развитие технологий остается безопасным для человечества.