Подключите LangSmith к шлюзу EveryAPI
LangSmith — платформа наблюдаемости и оценки для приложений LangChain и инструментированных клиентов. Трассируйте клиент OpenAI, направленный на EveryAPI, и отдельно контролируйте, какие входные и выходные данные приложения отправляются в LangSmith.
Одна строка base URL направляет LangSmith на EveryAPI
Глобальный Base URL по умолчанию / Base URL с приоритетом для Китая: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
От нуля до первого вызова
- Зарегистрируйтесь в LangSmith
Создайте проект LangSmith или используйте одобренное развёртывание на собственной инфраструктуре, затем получите учётные данные по актуальной документации LangSmith.
smith.langchain.com
- Установите SDK
Установите версию SDK LangSmith, совместимую с вашими пакетами OpenAI или LangChain.
- Задайте переменные окружения
Настройте трассировку LangSmith и параметры проекта через актуальные переменные окружения или опции клиента. Ключи LangSmith и EveryAPI храните как секреты.
- Направьте клиент OpenAI на EveryAPI + wrap_openai
Инструментируйте клиент OpenAI с base URL https://api.everyapi.ai/v1 с помощью обёртки или интеграции с LangChain, которую поддерживает установленный у вас SDK.
- Посмотрите трассировки
Отправьте тестовый запрос и убедитесь, что собирается именно нужная телеметрия. По расходу и биллингу EveryAPI ориентируйтесь на дашборд EveryAPI как на источник истины.
О связке LangSmith × EveryAPI
Цифры стоимости в LangSmith не совпадают с дашбордом EveryAPI?
LangSmith оценивает стоимость по публичным ценам моделей у апстримов; EveryAPI использует единые цены + подбор, а фактическая сумма списания для вас как покупателя — та, что показывает дашборд EveryAPI. Ситуация та же, что с Langfuse / Helicone.
Чем wrap_openai отличается от декоратора traceable?
wrap_openai добавляет трассировку одному экземпляру клиента OpenAI; @traceable добавляет span к любой функции, не только к LLM. Их можно использовать вместе: wrap_openai фиксирует вызов LLM, а @traceable оборачивает вокруг него вашу бизнес-функцию, образуя дерево трассировки.