Подпишитесь на наши ежедневные и еженедельные рассылки, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли материалах об ИИ. Узнать больше
Сегодня LangChain, стартап, способствующий разработке приложений большой языковой модели (LLM) с помощью своей среды с открытым исходным кодом, объявил, что привлек $25 млн в раунде серии A, возглавляемом Sequoia Capital. Компания также сообщила, что запускает LangSmith, свой первый платный продукт LLMOps для общего доступа.
Разработанная как платформа «все в одном», LangSmith позволяет разработчикам ускорить рабочие процессы приложений LLM, охватывая весь жизненный цикл проекта, от разработки и тестирования до развертывания и мониторинга. Она была запущена в закрытом бета-тестировании в июле прошлого года и уже используется тысячами предприятий каждый месяц, по данным компании.
Решение о запуске этого предложения было принято в связи с тем, что разработчикам необходимы решения для создания приложений на основе языковых моделей, а также расширенная видимость и инструменты, которые позволят гарантировать их высокую производительность и надежность в процессе производства.
Чего ожидать от LangSmith от LangChain?
Благодаря своей открытой инфраструктуре LangChain предоставил разработчикам крайне необходимый набор инструментов программирования — с общим набором лучших практик и компонуемых строительных блоков — для создания приложений на базе LLM. Он может извлекать LLM через API, объединять их вместе и подключать их к источникам данных и инструментам для выполнения различных задач. Проект начинался как простое подсобное хозяйство, но быстро развился и стал основой более 5000 приложений LLM, включая внутренние приложения, автономные агенты, игры, автоматизацию чатов и многое другое.
Однако предоставления инструментария для создания приложений будет недостаточно. На каждом этапе вывода приложения LLM в производство есть множество препятствий — вот где появляется LangSmith, новое платное решение. Оно позволяет разработчикам отлаживать, тестировать и контролировать свои приложения LLM.
При создании прототипа разработчики, использующие LangSmith, могут получить полную видимость всей последовательности вызовов LLM и обнаружить источник ошибок и узких мест производительности в реальном времени для отладки и итерации. Они могут сотрудничать с экспертами в предметной области, чтобы улучшить поведение приложения и даже наложить человеческий поток или оценку с помощью ИИ для проверки релевантности, правильности, вредоносности, нечувствительности и многого другого.
После завершения разработки прототипа унифицированная платформа помогает пользователям развернуть его с помощью размещенного LangServe и обеспечивает полную прозрачность происходящего в производстве, охватывая все: от затрат и задержек до аномалий и ошибок.
В конечном итоге это позволяет предприятиям поставлять приложения LLM, которые хорошо работают в производстве как с точки зрения качества, так и экономической эффективности.
Значительное раннее внедрение
В сообщении в блоге, анонсирующем инвестиции, Соня Хуан и Роми Бойд из Sequoia написали, что с момента запуска закрытого бета-тестирования в июле 2023 года на LangSmith зарегистрировалось более 70 000 пользователей. В настоящее время эту технологию ежемесячно используют более 5000 компаний, включая такие известные отраслевые имена, как Rakuten, Elastic, Moody’s и Retool.
«Elastic обеспечивает безопасность своего Elastic AI Assistant в LangChain и использует LangSmith для наглядности, помогая им быстро перейти к производству. Rakuten полагается на LangSmith для тщательного тестирования и сравнительного анализа, чтобы они могли принимать компромиссные решения относительно своего второго пилота Rakuten AI for Business, встроенного в LangChain, систематическим образом. А Moody’s полагается на LangSmith для автоматизированной оценки, легкой отладки и экспериментов, чтобы они могли быстро итерировать и вводить инновации», — отметили Хуан и Бойд.
Хотя технология уже начала вызывать интерес, ожидается, что ее внедрение только возрастет — теперь, когда она стала общедоступной в быстро развивающемся пространстве искусственного интеллекта.
«Команда работает в насыщенном проблемном пространстве, где есть много чего исследовать, и ими руководит сообщество увлеченных пользователей, у которых нет недостатка в важных проблемах, требующих решения», — добавили руководители Sequoia, отметив, что для LangChain это только начало.
В качестве следующего шага LangChain заявляет, что планирует ввести несколько возможностей для расширения платформы LangSmith. Это будет включать поддержку регрессионного тестирования, возможность запуска онлайн-оценщиков на выборке производственных данных, улучшенную фильтрацию и поддержку разговоров, а также простое развертывание приложений с размещенным LangServe. Также будут запущены функции корпоративного уровня для помощи в администрировании и безопасности.
С этим раундом от Sequoia общий привлеченный капитал LangChain достиг $35 млн. Предыдущий раунд в $10 млн лидировал в Benchmark, согласно данным Crunchbase. Другие предложения, помогающие в оценке и мониторинге приложений LLM, — TruLens от TruEra, W&B Prompts и Pheonix от Arize.