описание платформы
This commit is contained in:
+39
-27
@@ -1,37 +1,38 @@
|
||||
# Настройка / управление сервсиом
|
||||
# Настройка и управление AI платформы
|
||||
|
||||
Данное руководство описывает процедуру настройки и управлением AI Platform.
|
||||
Раздел описывает ключевые компоненты платформы и процедуры их настройки. Рассмотрены основные сущности системы и приведены пошаговые инструкции по созданию и управлению компонентами платформы.
|
||||
|
||||
## Тенанты
|
||||
|
||||
### Создать тенант
|
||||
**Тенант** представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.
|
||||
|
||||
#### Создать тенант
|
||||
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
3. Выберите **Сервис AI Platform**.
|
||||
3. Выберите **Сервис AI платформа**.
|
||||
4. В левом меню откройте раздел **Тенанты**.
|
||||
5. Нажмите кнопку **Создать тенант**.
|
||||
6. Введите имя тенанта.
|
||||
7. Нажмите **Создать тенант**.
|
||||
|
||||
### Сменить тенант
|
||||
#### Сменить тенант
|
||||
|
||||
В чате с ЛЛМ есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:
|
||||
В чате с LLM-моделями есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:
|
||||
|
||||
1. Перейдите в AI Platform [**чат с LLM-моделями**](#ai-chat-llm.md).
|
||||
1. Перейдите в AI платформу [**чат с LLM-моделями**](../ai/ai-chat-llm.md).
|
||||
2. В левом меню откройте раздел **Тенанты**.
|
||||
3. Выберите из списка подходящий тенант.
|
||||
|
||||

|
||||

|
||||
|
||||
::: details
|
||||
<summary>Завиисмость от тенантов</summary>
|
||||
::: details Завиисмость от тенантов
|
||||
В другом тенанте может отличаться:
|
||||
|
||||
- Список доступных моделей
|
||||
- Список Баз знаний
|
||||
- Список системных промптов
|
||||
- Список доступных моделей;
|
||||
- Список Баз знаний;
|
||||
- Список системных промптов.
|
||||
|
||||
Все вышеперечисленные сущности привязываются к тенанту.
|
||||
|
||||
@@ -39,30 +40,39 @@
|
||||
|
||||
## Модель
|
||||
|
||||
### Создать модель
|
||||
**Модель (Large Language Model, LLM)** это комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.
|
||||
|
||||
1. Перейдите в раздел **AI Platform → Модель**.
|
||||
#### Добавить модель
|
||||
|
||||
Платформа поддерживает добавление моделей несколькими способами:
|
||||
|
||||
- **При создании тенанта** — на этапе начальной настройки;
|
||||
- **Через интерфейс чата** — выберите **Модели** в левом меню и нажмите **Добавить модель**.
|
||||
|
||||
1. Перейдите в раздел **AI платформа**.
|
||||
2. Нажмите кнопку **Добавить модель**.
|
||||
3. Заполните параметры модели:
|
||||
- **Тенант**: выберите ранее [созданный тенант](ai-setting#создать-тенант).
|
||||
- **Модель**: выберите подходящую **LLM-модель** из каталога доступных.
|
||||
- **Тенант**: выберите ранее созданный тенант.
|
||||
- **Модель**: выберите подходящую LLM-модель из каталога доступных.
|
||||
- **Токены**: введите лимит использоваения **токенов в час**.
|
||||
4. Нажмите кнопку **Добавить модель**.
|
||||
|
||||
## Базы знаний
|
||||
|
||||
### Создать базу знаний
|
||||
**База знаний** представляет собой специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте **AI Platform → База знаний**.
|
||||
#### Добавить базу знаний
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать базу знаний**.
|
||||
4. Заполните параметры базы знаний:
|
||||
4. Заполните параметры базу знаний:
|
||||
- **Тенант**: выберите из списка тенант.
|
||||
- **Имя**: введите имя базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
5. Нажмите **Создать базу знаний**.
|
||||
|
||||
### Использовать базу знаний (RAG)
|
||||
#### Использовать базу знаний (RAG)
|
||||
|
||||
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
||||
|
||||
@@ -78,17 +88,19 @@
|
||||
|
||||
## Промпты
|
||||
|
||||
### Создать промпт
|
||||
**Системное сообщение (Prompt)** определяет логику ответов модели. Есть возможность настраивать шаблон запроса.
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте раздел **AI Platform → системные промпты**.
|
||||
#### Добавить промпт
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать системный промпт**.
|
||||
4. Заполните параметры промпта:
|
||||
4. Заполните параметры промпта:
|
||||
- **Название**: введите название систменого промпта.
|
||||
- **Содержание**: введите содержание промпта.
|
||||
5. Нажмите **Создать**.
|
||||
|
||||
### Редактирование системного промпта
|
||||
#### Редактирование системного промпта
|
||||
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
||||
|
||||
Reference in New Issue
Block a user