OpenAI сообщила, что обновленная GPT-4 Turbo направлено не только на более аккуратную генерацию кода, но и призвано уменьшить число случаев «лени» модели, когда она вообще не выполняет задачи.
В сообщении говорится, что более 70% тех, кто использует GPT-4 через API, перешли на версию Turbo.
Компания пообещала, что в ближайшие несколько месяцев появятся другие обновления GPT-4 Turbo, включая общую доступность с Vision. Это позволит пользователям применять больше мультимодальных действий, например по генерации текста в изображение.
Новая модель также включает исправление ошибки, влияющей на неанглоязычные поколения UTF-8.
OpenAI запустила более мелкие модели ИИ text-embedding-3-small и text-embedding-3-large. Это позволит ChatGPT и Assistants API, использующим генерацию с расширенным поиском, точнее устанавливать взаимосвязи между различным контентом, к которому они обращаются.
В тесте многоязычного поиска MIRACL модель text-embedding-3-small продемонстрировала средний балл 44,%, а в тесте для задач по английскому языку (MTEB) — 62,3%.
Цену на text-embedding-3-small удалось снизить а в 5 раз по сравнению с text-embedding-ada-002 (до $0,00002 за тысячу токенов).
text-embedding-3-large — это новая модель встраивания до 3072 измерений. в тестах MIRACL она показала средний балл в 54,9%, а в MTEB — 64,6%. text- embedding-3-large будет стоить $0,00013 за тысячу токенов.
Кроме того, теперь разработчики могут удалять некоторые числа из конца последовательности с сохранением свойств путём передачи параметра API измерений. Например, в тесте MTEB встраивание text-embedding-3-large можно сократить до размера 256, при этом превосходя по производительности text-embedding-ada-002 с размером 1536.
На следующей неделе OpenAI представит новую модель GPT-3.5 Turbo. Стоимость входных токенов снизится на 50% до $0,0005 за тысячу, а стоимость выходных — на 25%, до $0,0015. В модели повысили точность ответов в запрошенных форматах и исправили ошибку, которая вызывала проблему кодирования текста для вызовов функций не на английском языке.
Наконец, компания представила новый бесплатный API модерации text-moderation-007 и инструменты, которые дают разработчикам больше контроля над ключами API. Теперь они могут назначать разрешения для ключей API на странице ключей. На панели мониторинга появились метрики на уровне ключа API после включения отслеживания. Это упрощает просмотр использования на уровне каждой функции, команды, продукта или проекта, если есть отдельные ключи API для каждого.
В декабре OpenAI подтвердила, что получает жалобы от некоторых пользователей, которые утверждают, что в последнее время при использовании GPT-4 или ChatGPT API чат-бот либо отказывается отвечать на вопросы, либо прерывает разговор.
Ещё летом пользователи сообщали, что GPT-4 выдаёт нелогичные ответы, большее число ошибок, не хочет работать с предоставленным ранее контекстом, игнорирует инструкции и запоминает только самую последнюю подсказку.
Это подтвердило исследование из Стэнфордского университета, которое демонстрирует, что модель стала хуже справляться с задачами генерации кода.
