Добавление настроек к платформе
This commit is contained in:
@@ -0,0 +1,74 @@
|
||||
# Настройка / управление сервсиом
|
||||
- **ограничения для сервиса** ограничения на кол-во ресурсов (ВРМ, тарифы и тд)
|
||||
|
||||
|
||||
## Создать тенант
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте раздел **AI Platform → Тенант**.
|
||||
3. Нажмите кнопку **Создать тенант**.
|
||||
4. Введите имя тенанта.
|
||||
5. Нажмите **Создать тенант**.
|
||||
|
||||
## Создать модель
|
||||
|
||||
1. Перейдите в раздел **AI Platform → Модель**.
|
||||
2. Инициируйте процесс добавления модели через кнопку **Добавить модель**.
|
||||
3. В выпадающем списке выберите ранее [созданный тенант](ai-setting#создать-тенант).
|
||||
4. Выберите подходящую **LLM-модель** из каталога доступных.
|
||||
5. Установите лимит использования **токенов в час**.
|
||||
6. Завершите процесс кнопкой **Добавить модель**.
|
||||
|
||||
## Создать базу знаний
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте **AI Platform → База знаний**.
|
||||
3. Нажмите кнопку **Создать базу знаний**.
|
||||
4. Заполните параметры базу знаний:
|
||||
- **Тенант**: выберите из списка тенант.
|
||||
- **Имя**: введите имя базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
5. Нажмите **Создать базу знаний**.
|
||||
|
||||
### Использование базы знаний (RAG)
|
||||
|
||||
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
||||
|
||||

|
||||
|
||||
И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации.
|
||||
|
||||

|
||||
|
||||
Как видим, модель получила данные из базы знаний и сослалась на них.
|
||||
|
||||
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [RAG](#Likbez-RAG).
|
||||
|
||||
## Создать промпт
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте раздел **AI Platform → системные промпты**.
|
||||
3. Нажмите кнопку **Создать системный промпт**.
|
||||
4. Заполните параметры промпта:
|
||||
- **Название**: введите название систменого промпта.
|
||||
- **Содержание**: введите содержание промпта.
|
||||
5. Нажмите **Создать**.
|
||||
|
||||
### Редактирование системного промпта
|
||||
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал [Чат с LLM](#ai-chat-llm.md) предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
||||
|
||||

|
||||
|
||||
## Удалить тенант, модель, базу знаний
|
||||
|
||||
1. Перейдите в консоль управления.
|
||||
2. Откройте раздел c нужным ресурсом сервиса:
|
||||
- **Тенанты**,
|
||||
- **Модели**,
|
||||
- **Базы знаний**.
|
||||
3. В таблице найдите строку с нужным ресурсом.
|
||||
4. Нажмите … и выберите **Удалить**.
|
||||
5. В открывшемся окне подтвердите операцию, нажав **Удалить**.
|
||||
|
||||
Reference in New Issue
Block a user