Логируем запросы к OpenAI API — как вы это делаете?
Пробовал разные варианты, но с логированием запросов к OpenAI API всё не так просто, как кажется. Самый частый вопрос — что именно стоит сохранять, чтобы потом можно было отладить проблему, но при этом не засорять логи и не писать лишние данные?
Кто работал с этим на практике? Интересует именно реальный опыт, а не общая теория.
Я обычно сохраняю только сам запрос, ответ и статус запроса — этого хватает, чтобы понять, где глюк. Важное — не логировать слишком много, особенно личные данные, чтобы не засорять и не создавать риски. Если что-то не ясно, можно добавить метки по времени и ID вызова, чтобы проще было найти нужный момент.
Я обычно храню запрос, ответ и временную метку, этого хватает, чтобы быстро локализовать проблему. Плюс иногда дополнительно сохраняю ID сессии — помогает проще сгруппировать логи по разным юзерам или задачам. Главное — не тянуть в логи весь контент, особенно если там пользовательские данные.