Платформа для управления корпоративными расходами Ramp стремительно догоняет Stripe в создании платных посредников для вывода логических заключений с помощью ИИ.
Ramp в среду вечером запустила собственный сервис маршрутизации моделей искусственного интеллекта под названием Router, который позволяет пользователям и компаниям использовать различные большие языковые модели и переключаться между ними через API. Компания сообщает, что использует созданный ею маршрутизатор для собственных нужд в сфере ИИ в течение последних трёх лет.
Сервис пока доступен только в Соединённых Штатах. Им можно пользоваться бесплатно до конца 2026 года (пользователям всё равно придётся оплачивать расходы на вывод логических заключений с помощью ИИ), и он предоставляется с начальным предложением кредита в размере 26 долларов. Компания не сообщила, сколько будет стоить услуга в следующем году.
Router работает аналогично OpenRouter, хотя последний предлагает гораздо больше вариантов моделей ИИ, чем текущие предложения Ramp.
Router предоставляет доступ к моделям от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Он также предлагает несколько «стратегий», помогающих клиентам маршрутизировать запросы ИИ к моделям на основе их предпочтений. Например, одна из них позволяет пользователям устанавливать предпочтения для гибких уровней использования поставщиков моделей, а другая позволяет Router выбирать, к какой модели направлять запросы, на основе до трёх заданных пользователем критериев. Пользователи также могут настроить маршрутизацию только сложных задач к дорогостоящим моделям или легко тестировать модели без необходимости переключения.
У пользователей также есть панель управления, которая позволяет им видеть расходы на токены, стоимость, задержку, попытки возврата и другие подробности.
Примечательно, что у Router есть политика отказа от хранения данных: по умолчанию он будет записывать входные данные модели, выходные данные и вызовы инструментов в течение одного года, хотя компания заявляет, что удалит «персональные данные, прежде чем использовать этот контент для улучшения продукта».
Для компании Ramp выход в бизнес маршрутизации моделей открывает двуединую возможность: она получает доступ к быстрорастущему рынку логического вывода на базе искусственного интеллекта и предлагает своим существующим клиентам услугу маршрутизации моделей, которая органично вписывается в её существующие продукты, включая мониторинг использования токенов искусственного интеллекта и управление расходами на токены.
И если Router окажется столь же привлекательной площадкой для тестирования моделей, как OpenRouter, то Ramp, возможно, также сможет построить долгосрочные отношения с лабораториями искусственного интеллекта и поставщиками логических выводов по всему миру. Это может помочь Ramp, которая в июне привлекла 750 миллионов долларов при оценке в 44 миллиарда долларов, привлечь новых клиентов и получить новую точку входа для продажи своих продуктов по управлению расходами.
Читайте также другие новости на нашем сайте: Главная страница
Источник: techcrunch.com
Добавить комментарий