Почему выходные токены LLM API стоят в 4-8 раз дороже входных

Откройте страницу с ценами любого крупного LLM API — OpenAI, Anthropic, Google, неважно — и вы каждый раз увидите одну и ту же картину: выходные токены стоят в несколько раз дороже входных. И это не небольшая надбавка. У современных моделей это соотношение стабильно держится в диапазоне от 4x до 8x. Это не причуда ценообразования конкретного вендора — это прямое следствие того, как эти модели фактически работают.

Настоящая причина: вход обрабатывается параллельно, выход — последовательно

Обработка входных токенов — вашего промпта, системного сообщения, истории диалога — происходит за один прямой проход (forward pass). Модель считывает весь вход сразу и параллельно вычисляет attention по всему объёму. Современные GPU чрезвычайно хороши именно в таких пакетных параллельных вычислениях, поэтому промпт на 3000 токенов и промпт на 300 токенов не требуют пропорционально разного времени вычислений, как можно было бы предположить по числу токенов — доминирующей статьёй затрат оказываются накладные расходы на однократный запуск модели, а не длина того, что она читает.

Генерация выходных токенов устроена принципиально иначе. Каждый новый токен зависит от всех предыдущих токенов, включая те, что модель только что сгенерировала сама — поэтому 500-й токен ответа невозможно вычислить, пока не существует 499-й. Это вынуждает к последовательному циклу: один прямой проход на каждый выходной токен, выполняемые один за другим, без возможности распараллелить их по последовательности. Сгенерировать 500 выходных токенов означает запустить модель 500 раз подряд, а не один раз.

Именно эта асимметрия в вычислениях — один параллельный проход для входа и N последовательных проходов для N выходных токенов — объясняет, почему ценообразование у всех крупных провайдеров выглядит одинаково, независимо от компании, архитектуры модели или региона. Это не столько бизнес-решение, сколько прямая передача клиенту базовой стоимости вычислений.

Что это значит для ваших промптов

Практический вывод предельно прост: многословный ответ модели стоит непропорционально дороже, чем длинный промпт с коротким ответом, даже если суммарное количество токенов выглядит похожим. Если вы пытаетесь сократить расходы на API, урезание длины вывода обычно экономит больше на токен, чем урезание длины ввода.

Несколько конкретных рычагов:

Явно ограничивайте длину ответа. Инструкция в системном промпте вроде «ответь одним абзацем» или лимит max_tokens даёт для стоимости больше, чем сокращение вашего собственного промпта.
Просите структурированный вывод вместо прозы. Объект JSON с тремя полями зачастую намного короче эквивалентного текста, объяснённого предложениями, и так же полезен на следующих этапах обработки.
Не переусердствуйте с пояснениями в системном промпте ради экономии на выводе. Более длинный и точный системный промпт (вход, дёшево), надёжно дающий короткий правильный ответ (выход, дорого), обычно выгоднее, чем короткий расплывчатый промпт, из-за которого модель подстраховывается длинным ответом.
Используйте более дешёвую модель для высокообъёмного, малосложного вывода. Если задача не требует уровня рассуждений топовой модели — классификация, извлечение данных, короткие ответы, — цена вывода у бюджетной модели зачастую на порядок ниже.

Расчёт реальной суммы в долларах

Соотношение объясняет, почему вывод дороже, но точная сумма в долларах зависит от того, какую модель вы используете и сколько токенов реально расходует каждая сторона запроса. Поскольку соотношение вход/выход — и множитель между ними — действительно варьируется от модели к модели (бюджетная модель и флагманская модель применяют разные коэффициенты), единственный надёжный способ узнать свою реальную стоимость — подставить фактические цифры для конкретной модели.

Именно это и делает Калькулятор цен API LLM от CodeKitHub: выберите модель, введите количество входных и выходных токенов — и он покажет стоимость входа, стоимость выхода и итог, а также ежемесячную оценку, если вы примерно знаете, сколько запросов будете делать. Если вы не уверены, сколько токенов расходует ваш реальный промпт, инструмент Счетчик токенов AI даст точное количество с использованием настоящего токенизатора, а не грубую оценку по числу символов.

Оба инструмента полностью работают в вашем браузере — без API-ключа, без аккаунта, ничего никуда не отправляется.