> For the complete documentation index, see [llms.txt](https://docs.cherryai.com.cn/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.cherryai.com.cn/docs/russian/pre-basic/providers/zi-ding-yi-fu-wu-shang.md). # Пользовательский провайдер Cherry Studio не только интегрирует основные сервисы моделей ИИ, но и предоставляет вам мощные возможности настройки. С помощью **настраиваемого AI-поставщика** этой функции вы сможете легко подключить любую нужную вам модель ИИ. ## Почему нужно настраивать AI-поставщика? * **Гибкость:** Больше не ограничены списком предустановленных поставщиков, свободно выбирайте модель ИИ, которая лучше всего соответствует вашим требованиям. * **Разнообразие:** Пробуйте модели ИИ с разных платформ и открывайте их уникальные преимущества. * **Контролируемость:** Непосредственно управляйте своими API-ключами и адресами доступа, обеспечивая безопасность и конфиденциальность. * **Настраиваемость:** Подключайте модели, развернутые в частной инфраструктуре, чтобы удовлетворить потребности конкретных бизнес-сценариев. ## Как добавить собственного AI-поставщика? Всего за несколько простых шагов вы можете добавить собственного AI-поставщика в Cherry Studio:
1. **Откройте настройки:** В левой панели навигации интерфейса Cherry Studio нажмите «Настройки» (значок шестерёнки). 2. **Перейдите в раздел моделей:** На странице настроек выберите вкладку «Сервисы моделей». 3. **Добавить провайдера:** На странице «Сервисы моделей» вы увидите список уже имеющихся поставщиков. Нажмите кнопку «+ Добавить» под списком, чтобы открыть окно «Добавить поставщика». 4. **Заполните информацию:** В окне вам нужно заполнить следующую информацию: * **Название поставщика:** Дайте своему настраиваемому поставщику легко узнаваемое название (например: MyCustomOpenAI). * **Тип поставщика:** Выберите тип поставщика из выпадающего списка. Сейчас поддерживаются: * OpenAI * Gemini * Anthropic * Azure OpenAI 5. **Сохранить конфигурацию:** После заполнения нажмите кнопку «Добавить», чтобы сохранить конфигурацию. ## Настройка собственного AI-поставщика
После добавления вам нужно найти только что добавленного поставщика в списке и выполнить подробную настройку: 1. **включённом состоянии** Справа в списке настраиваемых поставщиков есть переключатель включения; в положении «включено» этот пользовательский сервис активен. 2. **API-ключ:** * Введите API-ключ (API Key), предоставленный вашим AI-поставщиком. * Нажав справа кнопку «Проверить», можно подтвердить действительность ключа. 3. **Адрес API:** * Введите адрес API-доступа к сервису ИИ (Base URL). * Обязательно обратитесь к официальной документации вашего AI-поставщика, чтобы получить правильный API-адрес. 4. **Управление моделями:** * Нажмите кнопку «+ Добавить», чтобы вручную добавить ID моделей, которые вы хотите использовать у этого поставщика. Например: `gpt-3.5-turbo`、`gemini-pro` и т. д.
* Если вы не уверены в точном названии модели, обратитесь к официальной документации вашего AI-поставщика. * Нажав кнопку «Управление», можно редактировать или удалять уже добавленные модели. ## Начать использование После завершения всех настроек вы сможете в чате Cherry Studio выбрать своего собственного AI-поставщика и модель и начать разговор с ИИ! ## Использование vLLM в качестве настраиваемого AI-поставщика vLLM — это быстрая и простая в использовании библиотека вывода LLM, похожая на Ollama. Ниже описано, как интегрировать vLLM в Cherry Studio: 1. **Установите vLLM:** Следуйте официальной документации vLLM () и установите vLLM. ```sh pip install vllm # если вы используете pip uv pip install vllm # если вы используете uv ``` 2. **Запустите сервис vLLM:** Запустите сервис, используя OpenAI-совместимый интерфейс, предоставляемый vLLM. Есть два основных способа, как показано ниже: * Использовать`vllm.entrypoints.openai.api_server`Запустить ```sh python -m vllm.entrypoints.openai.api_server --model gpt2 ``` * Использовать`uvicorn`Запустить ```sh vllm --model gpt2 --served-model-name gpt2 ``` Убедитесь, что сервис успешно запущен и слушает на порту по умолчанию `8000` на. Конечно, вы также можете с помощью параметра`--port`указать номер порта сервиса vLLM. 3. **Добавьте поставщика vLLM в Cherry Studio:** * Следуя шагам, описанным выше, добавьте нового настраиваемого AI-поставщика в Cherry Studio. * **Название поставщика:** `vLLM` * **Тип поставщика:** Выберите `OpenAI`。 4. **Настройте поставщика vLLM:** * **API-ключ:** Поскольку vLLM не требует API-ключа, это поле можно оставить пустым или заполнить чем угодно. * **Адрес API:** Укажите API-адрес сервиса vLLM. По умолчанию адрес: `http://localhost:8000/`(если используется другой порт, измените его соответственно). * **Управление моделями:** Добавьте название модели, загруженной в vLLM. В примере, запущенном выше,`python -m vllm.entrypoints.openai.api_server --model gpt2`в этом месте следует указать`gpt2` 5. **Начать диалог:** Теперь вы можете в Cherry Studio выбрать поставщика vLLM и `gpt2` модель и начать разговор с LLM, работающей на vLLM! ## Подсказки и советы * **Внимательно прочитайте документацию:** Перед добавлением собственного поставщика обязательно внимательно прочитайте официальную документацию используемого AI-поставщика, чтобы узнать ключевую информацию об API-ключе, адресе доступа, названии модели и т. д. * **Проверьте API-ключ:** С помощью кнопки «Проверить» можно быстро убедиться в действительности API-ключа и избежать невозможности использования из-за ошибки в ключе. * **Обратите внимание на API-адрес:** У разных AI-поставщиков и моделей API-адрес может отличаться, обязательно указывайте правильный адрес. * **Добавляйте модели по мере необходимости:** Добавляйте только те модели, которые вы действительно будете использовать, чтобы избежать лишних и бесполезных моделей. *** ### 💡 Получить помощь и отправить отзыв Если вы в процессе настройки или использования столкнётесь с любыми вопросами, багами или предложениями по улучшению функций, пожалуйста, обратитесь к [Обратная связь и предложения](/docs/russian/question-contact/suggestions.md) официальным каналам, указанным там. --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.cherryai.com.cn/docs/russian/pre-basic/providers/zi-ding-yi-fu-wu-shang.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.