Вкратце
Если вы когда-нибудь хотели, чтобы ChatGPT работал немного быстрее, OpenAI, похоже, отвечает на ваши молитвы.
Лаборатория искусственного интеллекта выпустила новый режим под названием Ultrafast, который, по её словам, призван серьёзно ускорить темпы работы новейшей и наиболее мощной модели — GPT-5.6 Sol.
Компания утверждает, что Ultrafast может работать со скоростью, в 14 раз превышающей стандартную обработку, выдавая до 750 выходных токенов в секунду. Токены представляют собой отдельные фрагменты текста, генерируемые большой языковой моделью при взаимодействии с человеком.
«До сих пор получение скорости в реальном времени обычно означало выбор более мелкой или специализированной модели, — говорится в сообщении компании в блоге в четверг. — Ultrafast указывает на прогресс в новом направлении: повышение производительности труда в секунду».
Конкуренты OpenAI, такие как Anthropic, также запустили ускоренные версии своих моделей. У Claude есть быстрый режим, хотя он не обеспечивает такой скорости, как предлагает OpenAI.
OpenAI предполагает, что эту высокопроизводительную версию GPT-5.6 Sol можно использовать в различных корпоративных процессах, в первую очередь в реагировании на инциденты, обслуживании клиентов и поддержке, анализе финансовых рынков и электронной коммерции, а также в других соответствующих областях.
В настоящее время Ultrafast, который выпускается в виде предварительного просмотра, работает благодаря партнёрству OpenAI с производителем чипов Cerebras. В настоящее время этот предварительный просмотр доступен только небольшой группе клиентов, хотя OpenAI заявляет, что расширит доступ к этой функции по мере «роста мощностей».
Читайте также другие новости на нашем сайте: Главная страница
Источник: techcrunch.com
