fox/src/ai/ai-setting.md

# Настройка и управление AI платформы

Раздел описывает ключевые компоненты платформы и процедуры их настройки. Рассмотрены основные сущности системы и приведены пошаговые инструкции по созданию и управлению компонентами платформы.

## Тенанты

**Тенант** представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.

#### Создать тенант

1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
2. В верхнем меню нажмите на раздел **Сервисы**.
3. Выберите **Сервис AI платформа**.
4. В левом меню откройте раздел **Тенанты**.
5. Нажмите кнопку **Создать тенант**.
6. Введите имя тенанта.
7. Нажмите **Создать тенант**.

#### Сменить тенант

В чате с LLM-моделями есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:

1. Перейдите в AI платформу [**чат с LLM-моделями**](../ai/ai-chat-llm.md).
2. В левом меню откройте раздел **Тенанты**.
3. Выберите из списка подходящий тенант.

![alt text](./image/Chat_Ai_Tenant_1024.png)
![alt text](./image/Chat_Ai_Tenant_list_1024.png)

::: details Завиисмость от тенантов
В другом тенанте может отличаться:

- Список доступных моделей;
- Список Баз знаний;
- Список системных промптов.

Все вышеперечисленные сущности привязываются к тенанту.

:::

## Модель

**Модель (Large Language Model, LLM)** это комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.

#### Добавить модель

Платформа поддерживает добавление моделей несколькими способами:

- **При создании тенанта** — на этапе начальной настройки;
- **Через интерфейс чата** — выберите **Модели** в левом меню и нажмите **Добавить модель**.

1. Перейдите в раздел **AI платформа**.
2. Нажмите кнопку **Добавить модель**.
3. Заполните параметры модели:
    - **Тенант**: выберите ранее созданный тенант.
    - **Модель**: выберите подходящую LLM-модель из каталога доступных.
    - **Токены**: введите лимит использоваения **токенов в час**.
4. Нажмите кнопку **Добавить модель**.

## Базы знаний

**База знаний** представляет собой специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.

#### Добавить базу знаний

1. Перейдите в раздел AI платформа.
2. В левом меню откройте раздел **База знаний**.
3. Нажмите кнопку **Создать базу знаний**.
4. Заполните параметры базу знаний:
    - **Тенант**: выберите из списка тенант.
    - **Имя**: введите имя базы знаний.
    - **Описание**: введите описание базы знаний.
5. Нажмите **Создать базу знаний**.

#### Использовать базу знаний (RAG)

В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.

![alt text](./image/Chat_AI_Choice_RAG_SalesHelper_1024.png)

И в таком случае,при формировании ответа,  модель уже будет использовать макимально актуальную информацию при генерации рекомендации.

![alt text](./image/Chat_AI_Answer_RAG_SOHO_1024.png)

Как видим, модель получила данные из базы знаний и сослалась на них.

Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе Ликбез.

## Промпты

**Системное сообщение (Prompt)** определяет логику ответов модели. Есть возможность настраивать шаблон запроса.

#### Добавить промпт

1. Перейдите в раздел AI платформа.
2. В левом меню откройте раздел **База знаний**.
3. Нажмите кнопку **Создать системный промпт**.
4. Заполните параметры промпта:
    - **Название**: введите название систменого промпта.
    - **Содержание**: введите содержание промпта.  
5. Нажмите **Создать**.

#### Редактирование системного промпта

Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.

![alt text](./image/Chat_AI_Edit_System_prompt_1024.png)

![alt text](./image/Chat_AI_Create_System_prompt_1024.png)

![alt text](./image/Chat_AI_Choice_System_prompt_1024.png)

## Удаление тенанта, модели, базы знаний

1. Перейдите в консоль управления.
2. Откройте раздел c нужным ресурсом сервиса:
   - **Тенанты**,
   - **Модели**,
   - **Базы знаний**.
3. В таблице найдите строку с нужным ресурсом.
4. Нажмите … и выберите **Удалить**.
5. В открывшемся окне подтвердите операцию, нажав **Удалить**.