GPT-6 уже здесь, но что, если мы просто скажем «нет, спасибо» Astra — модели, настолько мощной, что мы, возможно, никогда не сможем ее полностью понять

OpenAI объявила о завершении работы над своей новейшей моделью Astra, также известной как GPT-6. Генеральный директор Сэм Альтман назвал модель значительным шагом вперед, признав при этом растущее напряжение между быстрым прогрессом и необходимостью осторожности. Сообщается, что Astra использует новую технику, скрывающую «цепочку рассуждений» ИИ, что фактически создает систему «черного ящика», где логика принятия решений остается непрозрачной для человека. Отсутствие прозрачности вызывает опасения по поводу безопасности, подотчетности и потенциальных скрытых ошибок. На фоне ускорения развития ИИ в статье подчеркивается растущее общественное и институциональное сопротивление, включая запреты в школах и скептицизм в отношении инфраструктуры данных. Автор задается вопросом, стоит ли обществу продолжать внедрять все более мощные модели, работающие за пределами нашего понимания, предполагая, что текущие темпы разработок могут опережать нашу способность контролировать эти системы.