OpenAI анонсировала выпуск GPT-4 Turbo, модели искусственного интеллекта с поддержкой 128 тысяч токенов и более доступной ценой в три раза по сравнению с GPT-4

На первой конференции для разработчиков OpenAI была представлена улучшенная версия языковой модели GPT-4, названная GPT-4 Turbo. Новая модель обладает большей мощностью и при этом имеет более доступную цену по сравнению с GPT-4.

GPT-4 Turbo была обучена на данных, собранных в апреле 2023 года, в то время как GPT-4 использовал данные, датированные сентябрем 2021 года. Нейросеть GPT-4 Turbo обучалась на множестве примеров из интернета для прогнозирования вероятности появления слов на основе контекста окружающего текста. Например, если предложение заканчивается фразой «С нетерпением жду…», GPT-4 Turbo может предсказать продолжение фразы, такое как «…вашего ответа».

GPT-4 Turbo будет доступна в двух версиях: одна для анализа только текста, а другая способна понимать контекст и изображения. Версия для анализа текста уже доступна в виде предварительной версии через API, а обе версии модели будут общедоступными в ближайшие недели.

Важное изменение связано с увеличением контекстного окна до 128 тыс. токенов, что в четыре раза больше, чем у GPT-4. Это эквивалентно 300 страницам текста в одном обращении, что позволяет языковой модели лучше понимать смысл запросов и выдавать наиболее соответствующие и продуманные ответы, не отклоняясь от темы. Размер контекстного окна, равный 300 страницам текста или примерно 100 тыс. слов, соответствует размеру романов «Грозовой перевал» Эмили Бронте или «Гарри Поттер и узник Азкабана» Джоан Роулинг. Это самое большое контекстное окно среди всех коммерчески доступных моделей ИИ и превосходит контекстное окно модели Claude 2 от Anthropic, которая поддерживает до 100 тыс. токенов.

В блоге OpenAI было объявлено об оптимизации производительности модели GPT-4 Turbo. Теперь пользователи могут воспользоваться этой моделью за цену, которая в три раза ниже для входных токенов и в два раза ниже для выходных токенов по сравнению с моделью GPT-4.

OpenAI сообщает, что использование модели GPT-4 Turbo теперь стоит 0,01 доллара за 1000 входных токенов (приблизительно 750 слов) и 0,03 доллара за 1000 выходных токенов. Это значит, что новая версия GPT-4 стала в три раза дешевле предыдущей модели. Стоимость использования GPT-4 Turbo для обработки изображений будет зависеть от размера изображения. Например, обработка изображения размером 1080 × 1080 пикселей в GPT-4 Turbo будет стоить 0,00765 доллара.

GPT-4 Turbo является языковой моделью, которая может преобразовывать текст в речь и обрабатывать запросы с использованием изображений. Она также интегрируется с DALL-E 3. Улучшения в GPT-4 Turbo позволяют модели выполнять более сложные задачи в рамках одного запроса. Пользователи могут указывать язык кодирования, такой как XML или JSON, для получения результатов.

OpenAI также обещает защиту авторских прав корпоративным пользователям с помощью программы Copyright Shield, аналогичные решения уже приняты Google и Microsoft для своих ИИ-моделей.