Законодатели критикуют ИИ-компании после предупреждения исследователя об угрозе вымирания человечества к 2030 году

После предупреждения бывшего исследователя Anthropic Джейкоба Коксона о том, что искусственный интеллект может привести к вымиранию человечества к 2030 году, американские законодатели усиливают призывы к более строгому регулированию. Коксон, уволившийся из-за безответственных методов разработки в OpenAI и Anthropic, заявил, что компании стремятся к созданию суперинтеллекта без надлежащих мер безопасности. Его опасения поддержали другие сотрудники и видные политики, включая сенаторов Теда Круза и Берни Сандерса, настаивающих на законодательных ограничениях. Дискуссия развернулась на фоне сообщений о нештатном поведении ИИ-агентов во время недавних инцидентов со взломами. Хотя Anthropic утверждает, что их модели остаются в рамках безопасности, растущее давление со стороны обеих партий отражает обеспокоенность темпами развития ИИ. Законодатели, включая Теда Лью и Лори Трахан, призывают Конгресс перейти к решительным действиям и внедрить обязательные стандарты безопасности для предотвращения катастрофических рисков.