Наше пакетное задание в 3 часа ночи выполнялось по пиковому тарифу Пекина

Разработчик обнаружил дорогостоящую ошибку в расписании пакетной обработки данных из-за динамического ценообразования API DeepSeek. Сервис взимает значительно более высокие тарифы в пиковые часы по пекинскому времени (09:00-12:00 и 14:00-18:00). Поскольку разработчик планировал задачи по восточному времени США, их «внепиковое» окно обслуживания в 3 часа ночи непреднамеренно совпало с разгаром пекинского пика. Статья подчеркивает важность использования планирования с учетом часовых поясов, например, привязки заданий cron к 'Asia/Shanghai', чтобы избежать скрытых расходов. Помимо планирования, автор отмечает, что оптимизация кэширования промптов обеспечивает еще большую экономию, так как попадания в кэш стоят значительно дешевле. Публикация служит предостережением для инженеров, интегрирующих API LLM с динамическим ценообразованием, напоминая командам о необходимости проверки соответствия настроек часового пояса инфраструктуры логике биллинга провайдера.
This is a summary. Read the full article at the original source:
Dev.toПохожие
Как ИИ-агенты могут привести к неконтролируемым расходам для предприятий
По мере того как предприятия все чаще внедряют автономных ИИ-агентов в свои рабочие процессы, возникает значительный финансовый риск: неконтролируемое…
Чтобы остановить неконтролируемые угрозы ИИ, нужно больше, чем просто разговоры о P(doom)
В своей гостевой колонке для CNET автор Джейми Бартлетт исследует растущие риски, связанные с передовым искусственным интеллектом. Бартлетт утверждает…
OpenAI формирует математическую консультативную группу, так как её ИИ решил более 100 открытых задач
OpenAI официально создала специализированную математическую консультативную группу для контроля за исследованиями в области продвинутого ИИ-мышления.…



