Доработка разделов управление сервисом, обзор сервиса
This commit is contained in:
Elena Rechkina
+36
-94
@@ -1,12 +1,10 @@
|
||||
# Настройка и управление AI платформы
|
||||
# Управление сервисом
|
||||
|
||||
Раздел описывает ключевые компоненты платформы и процедуры их настройки. Рассмотрены основные сущности системы и приведены пошаговые инструкции по созданию и управлению компонентами платформы.
|
||||
В разделе рассмотрены компоненты сервиса **AI платформа** и приведены пошаговые инструкции по их созданию и управлению компонентами.
|
||||
|
||||
## Тенанты
|
||||
## Создать тенант
|
||||
|
||||
**Тенант** представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.
|
||||
|
||||
#### Создать тенант
|
||||
**Тенант** представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается в личном кабинете Beeline Cloud.
|
||||
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
@@ -16,108 +14,52 @@
|
||||
6. Введите имя тенанта.
|
||||
7. Нажмите **Создать тенант**.
|
||||
|
||||
#### Сменить тенант
|
||||
## Добавить модель
|
||||
|
||||
В чате с LLM-моделями есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:
|
||||
**Модель (Large Language Model, LLM)** это комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. Модель подключается к тенанту для обработки запросов.
|
||||
|
||||
1. Перейдите в AI платформу [**чат с LLM-моделями**](../ai/ai-chat-llm.md).
|
||||
2. В левом меню откройте раздел **Тенанты**.
|
||||
3. Выберите из списка подходящий тенант.
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
3. Выберите **Сервис AI платформа**.
|
||||
4. В левом меню откройте раздел **Модели**.
|
||||
5. Нажмите кнопку **Добавить модель**.
|
||||
6. Заполните параметры модели:
|
||||
- **Тенант**: выберите тенант, в котором будет использоваться модель.
|
||||
- **Модель**: выберите из списка подходящую LLM-модель.
|
||||
- **Токены**: введите лимит использования токенов в час.
|
||||
7. Нажмите кнопку **Добавить модель**.
|
||||
|
||||
|
||||
|
||||
## Добавить базу знаний
|
||||
|
||||
::: details Завиисмость от тенантов
|
||||
В другом тенанте может отличаться:
|
||||
**База знаний** представляет собой специализированный контейнер данных, который дополняет ответы модели на основе содержимого базы. База знаний позволяет модели использовать внешние данные (файлы, документы) для генерации ответов.
|
||||
|
||||
- Список доступных моделей;
|
||||
- Список Баз знаний;
|
||||
- Список системных промптов.
|
||||
|
||||
Все вышеперечисленные сущности привязываются к тенанту.
|
||||
|
||||
:::
|
||||
|
||||
## Модель
|
||||
|
||||
**Модель (Large Language Model, LLM)** это комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.
|
||||
|
||||
#### Добавить модель
|
||||
|
||||
Платформа поддерживает добавление моделей несколькими способами:
|
||||
Сервис поддерживает добавление базы знаний несколькими способами:
|
||||
|
||||
- **При создании тенанта** — на этапе начальной настройки;
|
||||
- **Через интерфейс чата** — выберите **Модели** в левом меню и нажмите **Добавить модель**.
|
||||
- **Через интерфейс чата с LLM** — выберите **Базы знаний** в левом меню чата с LLM и нажмите **Создать базу знаний**.
|
||||
|
||||
1. Перейдите в раздел **AI платформа**.
|
||||
2. Нажмите кнопку **Добавить модель**.
|
||||
3. Заполните параметры модели:
|
||||
- **Тенант**: выберите ранее созданный тенант.
|
||||
- **Модель**: выберите подходящую LLM-модель из каталога доступных.
|
||||
- **Токены**: введите лимит использоваения **токенов в час**.
|
||||
4. Нажмите кнопку **Добавить модель**.
|
||||
|
||||
## Базы знаний
|
||||
|
||||
**База знаний** представляет собой специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.
|
||||
|
||||
#### Добавить базу знаний
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать базу знаний**.
|
||||
4. Заполните параметры базу знаний:
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
3. Выберите **Сервис AI платформа**.
|
||||
4. В левом меню откройте раздел **База знаний**.
|
||||
5. Нажмите кнопку **Создать базу знаний**.
|
||||
6. Заполните параметры базу знаний:
|
||||
- **Тенант**: выберите из списка тенант.
|
||||
- **Имя**: введите имя базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
5. Нажмите **Создать базу знаний**.
|
||||
7. Нажмите **Создать базу знаний**.
|
||||
|
||||
#### Использовать базу знаний (RAG)
|
||||
Наполнение базы знаний документами, на основании которых будет генерироваться ответ модели, выполняется в чате с LLM.
|
||||
|
||||
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
||||
## Удалить тенант, модель, базу знаний
|
||||
|
||||
|
||||
|
||||
И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации.
|
||||
|
||||
|
||||
|
||||
Как видим, модель получила данные из базы знаний и сослалась на них.
|
||||
|
||||
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе Ликбез.
|
||||
|
||||
## Промпты
|
||||
|
||||
**Системное сообщение (Prompt)** определяет логику ответов модели. Есть возможность настраивать шаблон запроса.
|
||||
|
||||
#### Добавить промпт
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать системный промпт**.
|
||||
4. Заполните параметры промпта:
|
||||
- **Название**: введите название систменого промпта.
|
||||
- **Содержание**: введите содержание промпта.
|
||||
5. Нажмите **Создать**.
|
||||
|
||||
#### Редактирование системного промпта
|
||||
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
## Удаление тенанта, модели, базы знаний
|
||||
|
||||
1. Перейдите в консоль управления.
|
||||
2. Откройте раздел c нужным ресурсом сервиса:
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
3. Выберите **Сервис AI платформа**.
|
||||
4. Откройте раздел c нужным компонентом сервиса:
|
||||
- **Тенанты**,
|
||||
- **Модели**,
|
||||
- **Базы знаний**.
|
||||
3. В таблице найдите строку с нужным ресурсом.
|
||||
4. Нажмите … и выберите **Удалить**.
|
||||
5. В открывшемся окне подтвердите операцию, нажав **Удалить**.
|
||||
5. В таблице найдите строку с нужным компонентом сервиса.
|
||||
6. Нажмите … и выберите **Удалить**.
|
||||
7. В открывшемся окне подтвердите операцию, нажав **Удалить**.
|
||||
|
||||
Reference in New Issue
Block a user