Дата публикации: 23.07.2024
На этой неделе компания OpenAI представила более легкую версию своей самой продвинутой модели большого языка (LLM) GPT-4o. Названная GPT-4o mini, она заменит GPT-3.5 Turbo в качестве модели по умолчанию, используемой в бесплатной версии ChatGPT, а для разработчиков она призвана стать более доступным вариантом по сравнению с GPT-4o, которую OpenAI выпустила несколько месяцев назад. Но чем именно отличаются эти две модели и какую из них следует использовать? Вот что вам нужно знать.
Меньшая модель с некоторыми ограничениями, по крайней мере пока.
Самый большой компромисс GPT-4o mini заключается в том, что он пока не поддерживает обработку видео и аудио, хотя изображения работают. OpenAI утверждает, что планирует интегрировать эти функции позже, но пока для их получения вам придется использовать собственно GPT-4o.
В остальном модель должна обеспечить производительность, схожую с GPT-4o, по крайней мере, согласно графикам, предоставленным OpenAI. Однако из-за того, что методы проведения тестов в разных компаниях могут отличаться, некоторые разработчики предпочитают придерживаться выжидательной позиции при оценке производительности.
Ценообразование
Поскольку GPT-4o mini должен работать так же, как и GPT-4o, наибольшее долгосрочное различие между этими двумя моделями будет заключаться в цене, которая в большей степени влияет на разработчиков, а не на индивидуальных пользователей. GPT-4o в настоящее время стоит 5 долларов за 1 миллион входных токенов и 15 долларов за 1 миллион выходных токенов. GPT-4o mini, напротив, будет стоить 15 центов за 1 миллион входных токенов и 60 центов за 1 миллион выходных токенов, что делает его гораздо более доступным, особенно для длительных проектов. OpenAI утверждает, что 1 миллион выходных токенов, представленных в ценовой политике, примерно эквивалентен 2500 страницам книги стандартного формата.
Для пользователей, использующих приложение GPT, бесплатный доступ к стандартному GPT-4o будет по-прежнему ограничен, но 4o-mini заменит 3,5 Turbo, как только закончатся лимиты на использование его более крупного собрата.
Те же функции безопасности
Одна из областей, в которой OpenAI не допустила никаких отклонений между GPT-4o и GPT-4o mini, — это безопасность. В новой, более компактной модели реализованы те же меры безопасности, которые OpenAI встроила в GPT-4o, включая тестирование более чем 70 внешними экспертами для выявления потенциальных рисков, которые модель может представлять для своих пользователей.
Кроме того, GPT-4o mini — первая модель OpenAI, в которой реализована новая модель «иерархии», что, по словам компании, позволит улучшить способность модели сбрасывать инъекции подсказок, попытки джейлбрейка и другие недобросовестные действия, такие как извлечение системных подсказок.
GPT-4o mini уже доступен в приложении ChatGPT, на сайте и в API.
Вам может быть интересно
