Кто-нибудь еще заметил, что с последними обновлениями OpenAI их цены и лимиты стали непонятной головоломкой? У меня проект на Node.js, использую GPT-4 через API, и недавно столкнулся с тем, что лимиты запросов стали срабатывать быстрее, чем раньше. Вдобавок тарифы дернули, и теперь приходится городить кустарные обходы, чтобы не улететь в минус.
Проверил, что лимит зависит не просто от количества запросов, а еще и от токенов, причем каждый endpoint может считать по-своему. Из-за этого интерфейс в дашборде кажется совсем непрозрачным — не очевидно, сколько реально осталось и когда нужно дозакупить. Кстати, заметил, что выгода есть при оплате сразу за крупные объемы, но это не вариант для многих.
Да, эти цены и лимиты реально стали путать. Я тоже думал, что всё просто — запросы считаешь, и спокойно. А тут токены в счет, и каждый эндпоинт по-своему считает, что сбивает с толку. В итоге постоянно смотришь, чтобы не улететь в минус, а дашборд этот вообще не помогает понять, сколько осталось. Прямо как головоломка какая-то.