OpenAI открыла Decisions API для всех — ответ на Jev от TypeSafe
AI-редакция, проверено редакторомOpenAI сделала Decisions API на базе ChatGPT Luna доступной всем клиентам, конкурируя с Jev от TypeSafe, но в публичных индексах пока уступает.
Что случилось
OpenAI сделала модель Decisions API широко доступной пользователям впервые1. Для всех клиентов она открылась в четверг, анонс был на конференции для разработчиков 29 сентября1. Это ответ на Jev от TypeSafe: такие модели выбирают из заданных вариантов и выдают оценку уверенности1. Вместо отдельной модели OpenAI перенастроила ChatGPT Luna для ускорения инференса и снижения стоимости1.
Почему важно
По словам Nikunj Handa, продакт-лида API OpenAI, ответ ускорился с одной-трёх секунд до 100–180 миллисекунд1. В индексах AIM System One Index и Artificial Analysis Decision Index модель OpenAI занимает восьмое и четырнадцатое места, а Jev — седьмое и третье1. При этом модели TypeSafe пока самые востребованные на OpenRouter1.
Что это значит для тебя
Если ты разработчик, Decisions API можно попробовать вместо LLM в задачах выбора из вариантов: Speak сократила время между действиями с 1,4 до 0,13 секунды1. Подходящая модель зависит от нагрузки, поэтому её стоит проверить на своих данных, а не по рейтингам.
Что дальше
Handa говорит, что OpenAI может в будущем провести специальное обучение моделей для таких задач1. Он также назвал целью около 60 миллисекунд1.
Источники
- OpenAI makes its Jev competitor widely available as decision model competition heats up — TechCrunch · AI, медиа