Files
fox/src/ai/ai-setting.md
T

78 lines
5.1 KiB
Markdown
Raw Normal View History

# Настройка / управление сервсиом
## Создать тенант
1. Войдите в консоль управления.
2. Откройте раздел **AI Platform → Тенант**.
3. Нажмите кнопку **Создать тенант**.
4. Введите имя тенанта.
5. Нажмите **Создать тенант**.
## Создать модель <!--НУЖНО УТОЧНИТЬ -->
1. Перейдите в раздел **AI Platform → Модель**.
2. Нажмите кнопку **Добавить модель**.
3. Заполните параметры модели:
- **Тенант**: выберите ранее [созданный тенант](ai-setting#создать-тенант).
- **Модель**: выберите подходящую **LLM-модель** из каталога доступных.
- **Токены**: введите лимит использоваения **токенов в час**.
4. Нажмите кнопку **Добавить модель**.
## Создать базу знаний
1. Войдите в консоль управления.
2. Откройте **AI Platform → База знаний**.
3. Нажмите кнопку **Создать базу знаний**.
4. Заполните параметры базы знаний:
- **Тенант**: выберите из списка тенант.
- **Имя**: введите имя базы знаний.
- **Описание**: введите описание базы знаний.
5. Нажмите **Создать базу знаний**.
### Использование базы знаний (RAG)
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
![alt text](Chat_AI_Choice_RAG_SalesHelper_1024.png)
И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации.
![alt text](Chat_AI_Answer_RAG_SOHO_1024.png)
Как видим, модель получила данные из базы знаний и сослалась на них.
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе Ликбез.
## Создать промпт
1. Войдите в консоль управления.
2. Откройте раздел **AI Platform → системные промпты**.
3. Нажмите кнопку **Создать системный промпт**.
4. Заполните параметры промпта:
- **Название**: введите название систменого промпта.
- **Содержание**: введите содержание промпта.
5. Нажмите **Создать**.
### Редактирование системного промпта
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
![alt text](/src/ai/image/Chat_AI_Edit_System_prompt_1024.png)
![alt text](/src/ai/image/Chat_AI_Create_System_prompt_1024.png)
![alt text](/src/ai/image/Chat_AI_Choice_System_prompt_1024.png)
## Удалить тенант, модель, базу знаний
1. Перейдите в консоль управления.
2. Откройте раздел c нужным ресурсом сервиса:
- **Тенанты**,
- **Модели**,
- **Базы знаний**.
3. В таблице найдите строку с нужным ресурсом.
4. Нажмите &hellip; и выберите **Удалить**.
5. В открывшемся окне подтвердите операцию, нажав **Удалить**.