ИИ дешевеет, а ваш компьютер дорожает: как OpenAI и Anthropic устроили гонку цен

В сентябре на рынке ИИ произошел заметный сдвиг: OpenAI и Anthropic практически одновременно представили новые модели, стоимость использования которых значительно ниже предыдущих версий. В то же время компания DeepSeek предложила кэшированный ввод по цене 0,003 доллара за миллион токенов. Автор статьи анализирует, что это снижение цен обусловлено не только инженерными инновациями, такими как оптимизация KV-кэша и повышение эффективности моделей, но и изменением финансовых моделей оплаты вычислительных мощностей. Несмотря на удешевление услуг ИИ, стоимость аппаратного обеспечения, включая оперативную память DDR5 и аренду графических процессоров H100, продолжает расти. В материале подробно рассматриваются причины этой ценовой гонки, влияние на рынок открытых весов и текущая ситуация с доступностью высокопроизводительного железа. Статья предлагает глубокий взгляд на экономику современной индустрии искусственного интеллекта и то, как компании балансируют между снижением цен для пользователей и ростом затрат на инфраструктуру.
This is a summary. Read the full article at the original source:
HabrПохожие
SGLang без магии: как устроены основные настройки инференса LLM
Статья на Habr от команды Ecom Tech посвящена глубокому разбору настроек популярного фреймворка для инференса LLM — SGLang. Автор отмечает, что при ма…
Экспериментальная платформа Playground от Google использует ИИ для создания игр
Google представила экспериментальную платформу Playground, которая использует генеративный искусственный интеллект для упрощения процесса создания игр…
Неочевидные возможности ИИ: почему стоит сохранять оптимизм
Автор статьи делится личным опытом использования искусственного интеллекта, отмечая, что многие специалисты недооценивают реальный потенциал современн…


