diff --git a/src/ai/ai-setting.md b/src/ai/ai-setting.md new file mode 100644 index 0000000..738f695 --- /dev/null +++ b/src/ai/ai-setting.md @@ -0,0 +1,74 @@ +# Настройка / управление сервсиом +- **ограничения для сервиса** ограничения на кол-во ресурсов (ВРМ, тарифы и тд) + + +## Создать тенант + +1. Войдите в консоль управления. +2. Откройте раздел **AI Platform → Тенант**. +3. Нажмите кнопку **Создать тенант**. +4. Введите имя тенанта. +5. Нажмите **Создать тенант**. + +## Создать модель + +1. Перейдите в раздел **AI Platform → Модель**. +2. Инициируйте процесс добавления модели через кнопку **Добавить модель**. +3. В выпадающем списке выберите ранее [созданный тенант](ai-setting#создать-тенант). +4. Выберите подходящую **LLM-модель** из каталога доступных. +5. Установите лимит использования **токенов в час**. +6. Завершите процесс кнопкой **Добавить модель**. + +## Создать базу знаний + +1. Войдите в консоль управления. +2. Откройте **AI Platform → База знаний**. +3. Нажмите кнопку **Создать базу знаний**. +4. Заполните параметры базу знаний: + - **Тенант**: выберите из списка тенант. + - **Имя**: введите имя базы знаний. + - **Описание**: введите описание базы знаний. +5. Нажмите **Создать базу знаний**. + +### Использование базы знаний (RAG) + +В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог. + +![alt text](Chat_AI_Choice_RAG_SalesHelper_1024.png) + +И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации. + +![alt text](Chat_AI_Answer_RAG_SOHO_1024.png) + +Как видим, модель получила данные из базы знаний и сослалась на них. + +Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [RAG](#Likbez-RAG). + +## Создать промпт + +1. Войдите в консоль управления. +2. Откройте раздел **AI Platform → системные промпты**. +3. Нажмите кнопку **Создать системный промпт**. +4. Заполните параметры промпта: + - **Название**: введите название систменого промпта. + - **Содержание**: введите содержание промпта. +5. Нажмите **Создать**. + +### Редактирование системного промпта + +Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя. +Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал [Чат с LLM](#ai-chat-llm.md) предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии. + +![alt text](Chat_AI_Edit_System_prompt_1024.png) + +## Удалить тенант, модель, базу знаний + +1. Перейдите в консоль управления. +2. Откройте раздел c нужным ресурсом сервиса: + - **Тенанты**, + - **Модели**, + - **Базы знаний**. +3. В таблице найдите строку с нужным ресурсом. +4. Нажмите … и выберите **Удалить**. +5. В открывшемся окне подтвердите операцию, нажав **Удалить**. +