Левченко Людмила Алексеевна
81 lines
5.4 KiB
Markdown
81 lines
5.4 KiB
Markdown
# Настройка / управление сервсиом
|
|
|
|
Данное руководство описывает процедуру настройки и управлением AI Platform для работы с сервисом.
|
|
|
|
## Создать тенант
|
|
|
|
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
|
2. В верхнем меню нажмите на пункт **Сервисы**.
|
|
3. Выберите **Сервис AI Platform**.
|
|
4. В левом меню откройте раздел **Тенанты**.
|
|
5. Нажмите кнопку **Создать тенант**.
|
|
6. Введите имя тенанта.
|
|
7. Нажмите **Создать тенант**.
|
|
|
|
## Создать модель <!--НУЖНО УТОЧНИТЬ ЗА ТОКЕНЫ -->
|
|
|
|
1. Перейдите в раздел **AI Platform → Модель**.
|
|
2. Нажмите кнопку **Добавить модель**.
|
|
3. Заполните параметры модели:
|
|
- **Тенант**: выберите ранее [созданный тенант](ai-setting#создать-тенант).
|
|
- **Модель**: выберите подходящую **LLM-модель** из каталога доступных.
|
|
- **Токены**: введите лимит использоваения **токенов в час**.
|
|
4. Нажмите кнопку **Добавить модель**.
|
|
|
|
## Создать базу знаний
|
|
|
|
1. Войдите в консоль управления.
|
|
2. Откройте **AI Platform → База знаний**.
|
|
3. Нажмите кнопку **Создать базу знаний**.
|
|
4. Заполните параметры базы знаний:
|
|
- **Тенант**: выберите из списка тенант.
|
|
- **Имя**: введите имя базы знаний.
|
|
- **Описание**: введите описание базы знаний.
|
|
5. Нажмите **Создать базу знаний**.
|
|
|
|
### Использование базы знаний (RAG)
|
|
|
|
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
|
|
|
|
|
|
|
И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации.
|
|
|
|
|
|
|
|
Как видим, модель получила данные из базы знаний и сослалась на них.
|
|
|
|
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе Ликбез.
|
|
|
|
## Создать промпт
|
|
|
|
1. Войдите в консоль управления.
|
|
2. Откройте раздел **AI Platform → системные промпты**.
|
|
3. Нажмите кнопку **Создать системный промпт**.
|
|
4. Заполните параметры промпта:
|
|
- **Название**: введите название систменого промпта.
|
|
- **Содержание**: введите содержание промпта.
|
|
5. Нажмите **Создать**.
|
|
|
|
### Редактирование системного промпта
|
|
|
|
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
|
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## Удалить тенант, модель, базу знаний
|
|
|
|
1. Перейдите в консоль управления.
|
|
2. Откройте раздел c нужным ресурсом сервиса:
|
|
- **Тенанты**,
|
|
- **Модели**,
|
|
- **Базы знаний**.
|
|
3. В таблице найдите строку с нужным ресурсом.
|
|
4. Нажмите … и выберите **Удалить**.
|
|
5. В открывшемся окне подтвердите операцию, нажав **Удалить**.
|