Разработка плагинов ChatGPT: технический обзор и руководство по требованиям

Появление возможностей по разработке плагинов ChatGPT вызвало энтузиазм в сообществе, предоставив интересные  возможности для использования ChatGPT, его экосистемы и отрасли в целом. В AXIOMA мы изучили документацию по подготовке плагинов ChatGPT и работаем над созданием прототипа своего проекта. Мы получили понимание того, как работают плагины ChatGPT и каковы их технические требования. Ниже мы рассмотрим ключевые аспекты разработки плагинов ChatGPT, включая структуру, требования к бекенду, процессы отправки и проверки плагинов.

С помощью плагинов ChatGPT, компании смогут использовать возможности ИИ и для предоставления персонализированного опыта  и новых способов взаимодействия с клиентами. Мы увлеченно изучаем потенциал диалогового ИИ, пробуем внедрять инновационные достижения в отрасли и приглашаем вас присоединиться к нам в этом процессе.

Кроме того, согласно заявлениям Microsoft, ожидается, что плагины ChatGPT будут совместимы с BingAI и Microsoft Copilot, которые будут представлены в Windows 11. Эта совместимость открывает захватывающие возможности для дальнейшей интеграции и синергии с экосистемой Microsoft.

Необходимая структура плагина ChatGPT

Плагины ChatGPT состоят из двух основных компонентов: файл манифеста и файл с  описанием API в формате OpenAPI. 

Файл манифеста

Файл манифеста представляет собой структурированный документ в формате JSON, содержащий важную информацию о плагине. Он содержит следующие поля и блоки: 

• Название плагина, отдельно для человека и для модели (name_for_human и name_for_model),
• Описание плагина, отдельно для человека и для модели (description_for_human и description_for_model),
• Версия (schema_version),
• Расположение иконки изображения (logo_url),
• Политика использования плагина (legal_info_url),
• Контактные данные разработчика (contact_email),
• Блок, содержащий схему авторизации (auth),
• Блок со ссылкой на файл, содеражщий OpenAPI описание ресурсов, доступных плагину (api).

Отметим, что для описаний и наименований есть два параметра: "description_for_human" и "description_for_model", а также "name_for_human" и "name_for_model". Важно предоставить оба описания таким образом, чтобы и люди, и модель искусственного интеллекта могли их понять. Кроме того, рекомендуется создавать эти описания в неитральной манере, избегая любых попыток подтолкнуть модель использовать плагин.

Описание API в формате OpenAPI:

Описание API в формате OpenAPI определяет ресурсы и параметры для взаимодействия между моделью и веб-сайтом компании. Важно отметить, что в рамках этой структуры модель языка самостоятельно определяет условия, когда делать запросы к предоставляемому плагином API. Хотя разработчики или пользователи могут структурировать свои запросы таким образом, чтобы увеличить вероятность использования моделью плагина, в общем случае ни разработчик, ни пользователь не могут заставить модель использовать плагин для обработки конкретного запроса.

OpenAI рекомендует использовать минимальное количество ресурсов (обычно 2-3) с небольшим количеством параметров. Описание одного эндопоинта не должно превышать 200 символов. Эти жёсткие ограничения позволяют экономить количество токенов в контекстном окне.

Хостинг файлов манифеста

В соответствии с требованиями OpenAI файл манифеста должен быть размещен на том же домене, что и API. В корне веб-сайта должна находиться специальная директории с названием ".well-known", внутри которой файл манифеста с именем "ai-plugin.json". Это гарантирует, что файл манифеста находится на том же домене, что и информация, представленная для пользователей, включая изображения и контактные данные, а также API. Файл должен быть доступен всё время жизни плагина.

Процесс отправки плагина на проверку

Как только файл манифеста готов, он отправляется на проверку специальному боту OpenAI, "plugin submission bot". Этот процесс включает тщательную оценку, включая потенциальные ручные проверки со стороны OpenAI, чтобы обеспечить соответствие руководствам и стандартам качества OpenAI. Проверка обычно занимает примерно одну неделю.

Если требуются какие-либо изменения в плагине, например такие как обновление описания или изменение метода аутентификации API, процесс проверки необходимо инициировать заново. Это означает, что файл плагина должен быть повторно отправлен на проверку OpenAI. Это гарантирует, что любые обновления или модификации в плагине соответствуют требованиям, прежде чем плагин будет одобрен и станет доступным для всех пользователей платформы ChatGPT.

После одобрения плагин становится доступным для всех пользователей платформы ChatGPT. До проверки, к плагину будет импть доступ только ограниченное число пользователей, а именно максимально 15 пользоватлей смогут иметь доступ к плагину.

Ограничения плагинов ChatGPT

При разработке и интеграции плагинов ChatGPT важно учитывать определенные ограничения, установленные OpenAI. Они могут влиять на количество доступных токенов в контекстом окне, количество плагинов, время ответа и постобработку моделью ответов API.

Размер окна: Размер контекстного окна является важным фактором при интеграции плагинов в ChatGPT. Хотя более новые модели увеличили максимальное количество токенов вмещающихся в контекстное окно, интеграция плагинов приводит к снижению количества доступных токенов, что потенциально может повлиять на точность и связность беседы. Важно найти баланс между добавлением дополнительных функций и сохранением способности модели управлять вниманием и оставаться в теме.

Ограничение на 3 плагина: В настоящее время ChatGPT поддерживает не более трех активных плагинов одновременно в интерфейсе чата. Это ограничение обеспечивает экономию токенов в контекстом окне. Пользователям необходимо расставить приоритеты и использовать только 3 самых необходимых плагина, а от остальных на данном этапе пользователю придется отказаться.

Время ответа: должно пройти не более 45 секунд с момента отправки запроса до получения ответа. Если время ответа превышает это ограничение, запрос будет отклонен из-за тайм-аута. Стоит отметить, что OpenAI планирует в будущем еще больше ужесточить это требование, подчеркивая важность скорости работы системы.

Постобработка моделью ответов через API: Модель ChatGPT может преобразовывать ответы API в соответствии со своей механикой. Например, если пользователь запрашивает таблицу, модель попытается сгенерировать структуру, похожую на таблицу, даже если ответ через API был в форме списка. Разработчики должны знать об этом поведении и не ожидать от системы ответа один-в-один схожего с ответом полученным плагином через API.

Для обеспечения лучшего пользовательского опыта, разработчикам необходимо учитывать эти ограничения. Важно быть в курсе любых обновлений, поскольку OpenAI продолжает совершенствовать возможности и корректировать требования к разработке плагинов ChatGPT.

Заключение

Понимание структуры, требований к манифесту плагина и его размещению позволит компаниям и разработчикам обеспечить успешную интеграцию и улучшить пользовательский опыт своих клиентов. Соблюдение рекомендаций и ограничений OpenAI, а также предоставление точной информации в файле манифеста и описании API имеет решающее значение для беспроблемной интеграции. Плагины ChatGPT предоставляют возможность использовать силу ИИ и преобразить взаимодействие с пользователями.

В нашей подробной статье «Изучение потенциала плагинов ChatGPT: расширение возможностей, преодоление ограничений и стимулирование роста бизнеса» представлен более широкий взгляд на ChatGPT и его возможности. В нем рассматриваются различные аспекты, в том числе технические и бизнес-соображения, стратегии повышения вовлеченности пользователей и идеи по стимулированию роста бизнеса. Эта статья является ценным ресурсом для компаний, которые хотят изучить весь потенциал плагинов ChatGPT и открыть новые возможности.

Используя знания, представленные в нашей статье, компании могут получить более глубокое представление о ChatGPT и его потенциальных приложениях, что позволит им принимать обоснованные решения и максимально использовать преимущества ИИ для своих пользователей и своего роста.