описание платформы
This commit is contained in:
Левченко Людмила Алексеевна
+16
-32
@@ -1,4 +1,8 @@
|
||||
# Чат с LLM
|
||||
|
||||
Раздел описывает работу с LLM-моделями. Описание включает обзор элементов управления, процесс выбора моделей и используемую терминологию для эффективного взаимодействия с AI платформой.
|
||||
|
||||
|
||||
## Обзор сервиса Чат с LLM
|
||||
|
||||
**Чат с LLM** — это интуитивно понятный интерфейс для общения с LLM (Large Language Model). Подходит для знакомства с моделями, а также для встраивания на любой сайт в виде виджета. Чат дает возможность выбирать различные LLM модели, базы знаний и настраивать системные промпты под свои задачи.
|
||||
@@ -10,24 +14,16 @@
|
||||
В интерфейсе доступен следующий функционал:
|
||||
|
||||
1. **Выбор модели:**
|
||||
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню.
|
||||
|
||||
Рекомендации по выбору модели доступны в разделе [Доступные модели](#ai-chat-llm-Дотупные-модели).
|
||||
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню. Рекомендации по выбору модели доступны в разделе [Доступные модели](../ai/ai-chat-llm.md#дотупные-модели).
|
||||
|
||||
2. **Выбор базы знаний:**
|
||||
Для генерации ответов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню.
|
||||
|
||||
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](#ai-chat-llm-База-знаний).
|
||||
Для генерации отвеfтов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню. Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](../ai/ai-overview-platform.md#ликбез).
|
||||
|
||||
3. **Выбор системного промпта:**
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
|
||||
Подробно про промпты можно почитать тут: [Промпты](#ai-chat-llm-Промпты)
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя. Подробно про промпты можно почитать тут: [Промпты](../ai/ai-overview-platform.md#ликбез).
|
||||
|
||||
4. **Очистка контекста диалога:**
|
||||
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата.
|
||||
|
||||
Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](#LLM)
|
||||
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата. Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](../ai/ai-chat-llm.md#ограничения-llm).
|
||||
|
||||
5. **Диалог пользователя с чатом**
|
||||
Диалог с чатом пользователь ведёт как в обычном чате в режиме вопрос-ответ.
|
||||
@@ -36,24 +32,14 @@
|
||||
|
||||
|
||||
|
||||
## Быстрый старт - убрать
|
||||
|
||||
Для авторизации и начала работы с чатом необходимо выполнить следующие шаги:
|
||||
|
||||
1. **Подключение**: Перейдите по адресу `ai.beeline.ru`
|
||||
2. **VPN/VDL**: Обязательно подключитесь через корпоративный VPN или VDL
|
||||
3. **Авторизация**: Нажмите «Начать работу» или «Перейти в чат»
|
||||
4. **MobileID**: Пройдите стандартную авторизацию через MobileID
|
||||
5. **Начало работы**: После авторизации вы попадете в интерфейс чата
|
||||
|
||||
## Выбор LLM
|
||||
## Выбор LLM
|
||||
|
||||
Следующим шагом надо выбрать одну из доступных моделей.
|
||||
|
||||
|
||||
|
||||
По умолчанию установлена модель Gemma 3, но мы рекомендуем начинать эксперименты с модели Qwen 3 32B, которая имеет больший контекст, поддерживает нативный вызов инструментов, а также может работать как в режиме с рассуждениями (включен по умолчанию) или без них - в таком случае нужно передать в запросе "/no_think".
|
||||
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](#Доступные-модели).
|
||||
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](../ai/ai-chat-llm.md#доступные-модели).
|
||||
|
||||
## Доступные модели
|
||||
|
||||
@@ -65,8 +51,7 @@
|
||||
| Gemma 3 | 128k | 27B | ❌ | ❌ | ✅ |
|
||||
| Qwen 3 | 131k | 32B | ✅ |✅ | ❌|
|
||||
|
||||
::: details
|
||||
<summary> Описание доступных моделей </summary>
|
||||
::: details Описание доступных моделей
|
||||
|
||||
* **DeepSeek Chat**
|
||||
|
||||
@@ -80,16 +65,16 @@
|
||||
|
||||
Основная модель, с которой мы рекомендуем начинать эксперименты. Поддерживает нативный вызов инструментов.
|
||||
Может работать как в режиме:
|
||||
1. с рассуждениями (включен по умолчанию)
|
||||
2. без рассуждений (нужно передать в запросе /no_think).
|
||||
- с рассуждениями (включен по умолчанию)
|
||||
- без рассуждений (нужно передать в запросе /no_think).
|
||||
|
||||
:::
|
||||
|
||||
#### После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
|
||||
После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
|
||||
|
||||
# Ликбез
|
||||
## Ликбез
|
||||
|
||||
## Что такое LLM
|
||||
### Что такое LLM
|
||||
Представьте, что у вас есть программа, которая прочитала миллионы книг, статей и страниц из интернета, а потом научилась предсказывать, какие слова могут идти друг за другом в любом тексте. Примерно так устроена большая языковая модель, или LLM (Large Language Model).
|
||||
|
||||
**LLM** — это просто большая куча матриц и векторной алгебры, которая обучается на огромном количестве текстов. В процессе обучения модель не просто запоминает информацию, а учится находить связи между словами, понимать закономерности языка и генерировать осмысленные ответы на самые разные вопросы. Когда вы задаёте LLM вопрос, она «вспоминает» подходящие по смыслу фразы и пытается предугадать, какие слова должны идти дальше, чтобы ответ звучал логично и понятно.
|
||||
@@ -121,7 +106,6 @@
|
||||
|
||||
LLM эффективны для обработки текста и решения стандартных задач, но для сложных кейсов требуют дополнительной инфраструктуры — баз знаний, интеграций с внешними системами и инструментов выполнения кода.
|
||||
|
||||
|
||||
### Схема работы LLM с базой знаний
|
||||
|
||||
|
||||
|
||||
@@ -1,62 +1,57 @@
|
||||
# Быстрый старт с AI Platform
|
||||
|
||||
В этом руководстве описана процедура начальной настройки AI Platform для работы с сервисом.
|
||||
Данный раздел содержит пошаговое руководство по начальной настройке платформы для работы с AI платформой. Описанная последовательность действий позволяет быстро развернуть рабочее окружение и обеспечить базовую функциональность сервиса.
|
||||
|
||||
Последовательно выполните следующие шаги:
|
||||
Процесс включает:
|
||||
|
||||
1. Создать тенант.
|
||||
2. Добавить модель.
|
||||
3. Перейти в чат с LLM.
|
||||
4. Создать базу знаний.
|
||||
5. Редактровать промпт.
|
||||
6. Задать вопрос модели.
|
||||
- Создать тенант.
|
||||
- Добавить модель.
|
||||
- Перейти в чат с LLM.
|
||||
- Редактровать промпт.
|
||||
- Задать вопрос модели.
|
||||
|
||||
Рекомендуется выполнять шаги в указанном порядке для корректной работы всех компонентов системы.
|
||||
|
||||
## Перед началом работы
|
||||
|
||||
- [Зарегистрируйтесь](../start/getting-started.md#1-регистрация-в-beeline-cloud) в личном кабинете Beeline Cloud.
|
||||
[Зарегистрируйтесь](../start/getting-started.md#1-регистрация-в-beeline-cloud) в личном кабинете Beeline Cloud.
|
||||
|
||||
## 1. Создать тенант
|
||||
## 1. Создание тенанта
|
||||
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на пункт **Сервисы**.
|
||||
3. Выберите **Сервис AI Platform**.
|
||||
4. В левом меню откройте раздел **Тенанты**.
|
||||
5. Нажмите кнопку **Создать тенант**.
|
||||
6. Введите имя тенанта.
|
||||
7. Нажмите **Создать тенант**.
|
||||
1. В верхнем меню нажмите на пункт **Сервисы**.
|
||||
2. Выберите **Сервис AI платфома**.
|
||||
3. В левом меню откройте раздел **Тенанты**.
|
||||
4. Нажмите кнопку **Создать тенант**.
|
||||
5. Введите имя тенанта.
|
||||
6. Нажмите **Создать тенант**.
|
||||
|
||||
## 2. Добавить модель
|
||||
## 2. Добавление модели
|
||||
|
||||
1. В левом меню откройте раздел **Модель**.
|
||||
2. Нажмите кнопку **Добавить модель**.
|
||||
3. В поле **Тенант** выберите [созданный тенант](#1-создать-тенант).
|
||||
4. В поле **Модель** выберите из списка LLM-модель.
|
||||
5. Установите количество токенов в час — это количество символов текста, на которые LLM-модель разбивает запрос пользователя и свой ответ, 1 токен — это примерно 2-3 символа.
|
||||
3. В поле **Тенант** выберите созданный тенант.
|
||||
4. В поле **Модель** выберите из списка подходящую **LLM-модель**.
|
||||
5. Установите лимит использования токенов в час.
|
||||
6. Нажмите **Добавить модель**.
|
||||
|
||||
## 3. Добавить базу знаний - под вопросом, удалить из быстрого старта?
|
||||
## 3. Переход в UI AI платформа чат LLM
|
||||
|
||||
3. В левом меню откройте раздел **База знаний**
|
||||
4. Нажмите [Создать базу знаний](#4-добавить-базу-знаний).
|
||||
5. Заполните параметры базу знаний:
|
||||
- **Тенант**: выберите из списка тенант.
|
||||
- **Имя**: введите имя базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
6. Нажмите **Создать базу знаний**.
|
||||
Доступ к чату осуществляется по **уникальной ссылке**, которая формируется после создания тенанта. Администратор предоставляет эту ссылку пользователям, добавленным в тенант. Переход по ссылке открывает интерфейс [чата с настроенными LLM-моделями](../ai/ai-chat-llm.md).
|
||||
|
||||
## 4. Переход в чат - доработать
|
||||
## 4. Добавление промпта
|
||||
|
||||
После входа в личный кабинет beeline cloud вы попадаете в AI Platform [**чат с LLM-моделями**](#ai-chat-llm.md).
|
||||
|
||||
|
||||
## 5. Добавить промпт
|
||||
|
||||
1. Перейдите в AI Platform [**чат с LLM-моделями**](#ai-chat-llm.md).
|
||||
1. Перейдите в AI платфома **чат с LLM-моделями**.
|
||||
2. В левом меню откройте раздел **Системные промпты**.
|
||||
- Если системный промпт (по умолчанию) не походит для ответа, [добавьте новый промпт](#5-добавить-промпт).
|
||||
- указать, что заполнить.
|
||||
|
||||
## 6. Отправить запрос к модели
|
||||
Если системный промпт (по умолчанию) не походит для ответа, добавьте новый промпт:
|
||||
|
||||
3. Нажмите кнопку **Создать системный промпт**.
|
||||
4. Заполните параметры промпта:
|
||||
- **Название**: введите название систменого промпта.
|
||||
- **Содержание**: введите содержание промпта.
|
||||
5. Нажмите **Создать**.
|
||||
|
||||
## 5. Запрос к модели
|
||||
|
||||
1. В чате с LLM-моделями в левом меню перейдите в раздел **Чат**.
|
||||
2. Откроется чат. В текстовом поле **введите запрос к LLM-модели**.
|
||||
|
||||
@@ -1,14 +1,8 @@
|
||||
# Обзор сервиса Beeline AI Platform
|
||||
# Обзор сервиса Beeline AI платфома
|
||||
|
||||
Сервис **AI Platform** предоставляет доступ к большим языковым моделям (Large Language Models, LLM). LLM-модели готовы к использованию и избавляют пользователя от необходимости самостоятельного развертывания и изучения связанных технологий.
|
||||
Сервис **AI платфома** предоставляет доступ к большим языковым моделям (Large Language Models, LLM). LLM-модели готовы к использованию и избавляют пользователя от необходимости самостоятельного развертывания и изучения связанных технологий.
|
||||
|
||||
**Beeline AI Platform** предоставляет доступ к AI-моделям через удобные графические интерфейсы, а также предоставляет набор API для интеграции LLM-моделей в корпоративные продукты Beline.
|
||||
|
||||
На текущий момент **Beeline AI Platform** предоставляет доступ к двум основным модулям:
|
||||
|
||||
- [**Чат с LLM**](#ai-chat-llm.md) - Интуитивно понятный интерфейс для общения с LLM. Подходит для знакомства с моделями, а также для встраивания на любой сайт в виде виджета.
|
||||
|
||||
- **Open WebUI** - Интерфейс для общения с LLM. Это open-source, поддерживает макимально большое количесвто фич. Не является целевым решением, но команда Beeline планирует поддержку максимально долго, пока не будет произведён полный переход на [Чат с LLM](#ai-chat-llm.md).
|
||||
**Beeline AI платформа** предоставляет доступ к AI-моделям через удобные графические интерфейсы, а также предоставляет набор API для интеграции LLM-моделей в корпоративные продукты Beline.
|
||||
|
||||
## Возможности сервиса
|
||||
|
||||
@@ -17,59 +11,44 @@
|
||||
- Поддержка работы с различными LLM.
|
||||
- Интеграция модели через OpenAI и API.
|
||||
|
||||
## Ролевая модель - уточнить?
|
||||
## Ролевая модель
|
||||
|
||||
В сервисе реализованы две роли:
|
||||
|
||||
- **AI Platform: Администратор**:
|
||||
**AI платформа: Администратор**:
|
||||
- создание, удаление тенанта;
|
||||
- добавление, удаление модели;
|
||||
- создание, удаление базы знаний,
|
||||
- все функции роли **AI Platform: Пользователь**.
|
||||
- **AI Platform: Пользователь**:
|
||||
- доступ к UI AI Platform;
|
||||
- создание, удаление базы знаний;
|
||||
- все функции роли **AI платформа: Пользователь**.
|
||||
|
||||
**AI платформа: Пользователь**:
|
||||
- доступ к UI AI платформа;
|
||||
- создание запросов в выбранной LLM и получение ответов;
|
||||
- управление базой знаний: добавление, просмотр и удаление документов;
|
||||
- подключение к AI Platform с помощью API интерфейса.
|
||||
|
||||
|
||||
## Глоссарий
|
||||
|
||||
**Тенант**: Тенант представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.
|
||||
|
||||
**Модель (Large Language Model, LLM)**: Комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.
|
||||
|
||||
**База знаний**: Специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.
|
||||
|
||||
**UI (User Interface)**: Веб-интерфейс для взаимодействия с сервисом. Например, выбор модели, отправка текстовых запросов.
|
||||
|
||||
**Контекст диалога**: История общения с LLM, используемая для формирования ответов.
|
||||
|
||||
**Системное сообщение (Prompt)**: Системный промпт определяет логику ответов модели. Есть возможность настраивать шаблон запроса.
|
||||
- подключение к AI платформа с помощью API интерфейса.
|
||||
|
||||
## Ликбез
|
||||
|
||||
### Промпты
|
||||
LLM — это вычислительная машина, интерфейс которой эмулирует человеческую речь. Формулируйте запросы четко и точно, как при программировании. Избегайте расплывчатых вопросов — это ключ к получению качественных ответов.
|
||||
#### Промпты
|
||||
LLM — это вычислительная машина, интерфейс которой эмулирует человеческую речь. Формулируйте запросы четко и точно, как при программировании. Избегайте расплывчатых вопросов — это ключ к получению качественных ответов.
|
||||
|
||||
### Cистемные промпты
|
||||
#### Cистемные промпты
|
||||
Специальные инструкции, определяющие поведение модели на протяжении всего диалога. Задают роль, стиль общения и ограничения. На нашей платформе системные промпты открыты для редактирования, что дает полный контроль над поведением ИИ.
|
||||
|
||||
*Пример системного промпта: «Ты — помощник по финансовым вопросам. Отвечай четко и профессионально, используй только проверенную информацию». После установки такого промпта модель будет последовательно придерживаться заданной роли.*
|
||||
|
||||
### Контекст
|
||||
#### Контекст
|
||||
Вы будете часто встречать слово «контекст» в отношении LLM. Упрощённо, контекст — это ограниченное по размеру окно, в которое должен уместиться запрос к LLM. У каждой модели контекст строго ограничен и указан в документации к ней.
|
||||
|
||||
### Токены
|
||||
#### Токены
|
||||
Внутри себя LLM представляет текст не в виде слов или букв, а в виде токенов. Обычно токен — это несколько букв (часть слова), которые часто встречаются рядом в обучающей выборке. Текст запроса, который вы отправляете в LLM, сначала нарезается на токены, и только потом обрабатывается моделью. Размер контекста также измеряется в токенах, а не в буквах.
|
||||
|
||||
Нет фиксированного правила, которое позволит оценить размер текста в токенах. У каждой модели свой токенизатор, и все они нарезают текст по-своему. Более того, для английского текста средний размер токена можеть быть 4 буквы, а для русского или китайского каждая буква может получать отдельный токен.
|
||||
|
||||
### Базы знаний (RAG)
|
||||
#### Базы знаний (RAG)
|
||||
|
||||
**RAG (Retrieval-Augmented Generation)** — это подход, при котором ответ LLM формируется с использованием дополнительного источника актуальных данных.
|
||||
**RAG (Retrieval-Augmented Generation)** — это подход, при котором ответ LLM формируется с использованием дополнительного источника актуальных данных.
|
||||
|
||||
Базы знаний (RAG) решают ключевую проблему языковых моделей — работу с актуальными и специализированными данными. Когда вы задаете вопрос о внутренних регламентах компании или о событиях после даты обучения модели, стандартная LLM не может дать точный ответ. RAG решает это путем поиска в вашей базе документов релевантных фрагментов, которые затем добавляются к контексту запроса. Модель получает эти актуальные данные и формирует ответ на их основе. Это позволяет использовать LLM для работы с внутренней документацией, свежей информацией и специализированными знаниями, которые изначально отсутствовали в обучающей выборке модели.
|
||||
|
||||
*Обратите внимание, что в традиционной реализации LLM участвует только на последнем этапе генерации ответа. За поиск релевантных документов отвечает набор других систем, которые должны быть заранее интегрированы в AI-платформу.*
|
||||
|
||||
|
||||
+39
-27
@@ -1,37 +1,38 @@
|
||||
# Настройка / управление сервсиом
|
||||
# Настройка и управление AI платформы
|
||||
|
||||
Данное руководство описывает процедуру настройки и управлением AI Platform.
|
||||
Раздел описывает ключевые компоненты платформы и процедуры их настройки. Рассмотрены основные сущности системы и приведены пошаговые инструкции по созданию и управлению компонентами платформы.
|
||||
|
||||
## Тенанты
|
||||
|
||||
### Создать тенант
|
||||
**Тенант** представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.
|
||||
|
||||
#### Создать тенант
|
||||
|
||||
1. Войдите в [личный кабинет](https://lk.cloud.beeline.ru/).
|
||||
2. В верхнем меню нажмите на раздел **Сервисы**.
|
||||
3. Выберите **Сервис AI Platform**.
|
||||
3. Выберите **Сервис AI платформа**.
|
||||
4. В левом меню откройте раздел **Тенанты**.
|
||||
5. Нажмите кнопку **Создать тенант**.
|
||||
6. Введите имя тенанта.
|
||||
7. Нажмите **Создать тенант**.
|
||||
|
||||
### Сменить тенант
|
||||
#### Сменить тенант
|
||||
|
||||
В чате с ЛЛМ есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:
|
||||
В чате с LLM-моделями есть возомжность работать сразу с несколькими тенантами. Для смены текущего тенанта необходимо:
|
||||
|
||||
1. Перейдите в AI Platform [**чат с LLM-моделями**](#ai-chat-llm.md).
|
||||
1. Перейдите в AI платформу [**чат с LLM-моделями**](../ai/ai-chat-llm.md).
|
||||
2. В левом меню откройте раздел **Тенанты**.
|
||||
3. Выберите из списка подходящий тенант.
|
||||
|
||||
|
||||
|
||||
|
||||
::: details
|
||||
<summary>Завиисмость от тенантов</summary>
|
||||
::: details Завиисмость от тенантов
|
||||
В другом тенанте может отличаться:
|
||||
|
||||
- Список доступных моделей
|
||||
- Список Баз знаний
|
||||
- Список системных промптов
|
||||
- Список доступных моделей;
|
||||
- Список Баз знаний;
|
||||
- Список системных промптов.
|
||||
|
||||
Все вышеперечисленные сущности привязываются к тенанту.
|
||||
|
||||
@@ -39,30 +40,39 @@
|
||||
|
||||
## Модель
|
||||
|
||||
### Создать модель
|
||||
**Модель (Large Language Model, LLM)** это комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.
|
||||
|
||||
1. Перейдите в раздел **AI Platform → Модель**.
|
||||
#### Добавить модель
|
||||
|
||||
Платформа поддерживает добавление моделей несколькими способами:
|
||||
|
||||
- **При создании тенанта** — на этапе начальной настройки;
|
||||
- **Через интерфейс чата** — выберите **Модели** в левом меню и нажмите **Добавить модель**.
|
||||
|
||||
1. Перейдите в раздел **AI платформа**.
|
||||
2. Нажмите кнопку **Добавить модель**.
|
||||
3. Заполните параметры модели:
|
||||
- **Тенант**: выберите ранее [созданный тенант](ai-setting#создать-тенант).
|
||||
- **Модель**: выберите подходящую **LLM-модель** из каталога доступных.
|
||||
- **Тенант**: выберите ранее созданный тенант.
|
||||
- **Модель**: выберите подходящую LLM-модель из каталога доступных.
|
||||
- **Токены**: введите лимит использоваения **токенов в час**.
|
||||
4. Нажмите кнопку **Добавить модель**.
|
||||
|
||||
## Базы знаний
|
||||
|
||||
### Создать базу знаний
|
||||
**База знаний** представляет собой специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте **AI Platform → База знаний**.
|
||||
#### Добавить базу знаний
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать базу знаний**.
|
||||
4. Заполните параметры базы знаний:
|
||||
4. Заполните параметры базу знаний:
|
||||
- **Тенант**: выберите из списка тенант.
|
||||
- **Имя**: введите имя базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
- **Описание**: введите описание базы знаний.
|
||||
5. Нажмите **Создать базу знаний**.
|
||||
|
||||
### Использовать базу знаний (RAG)
|
||||
#### Использовать базу знаний (RAG)
|
||||
|
||||
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
||||
|
||||
@@ -78,17 +88,19 @@
|
||||
|
||||
## Промпты
|
||||
|
||||
### Создать промпт
|
||||
**Системное сообщение (Prompt)** определяет логику ответов модели. Есть возможность настраивать шаблон запроса.
|
||||
|
||||
1. Войдите в консоль управления.
|
||||
2. Откройте раздел **AI Platform → системные промпты**.
|
||||
#### Добавить промпт
|
||||
|
||||
1. Перейдите в раздел AI платформа.
|
||||
2. В левом меню откройте раздел **База знаний**.
|
||||
3. Нажмите кнопку **Создать системный промпт**.
|
||||
4. Заполните параметры промпта:
|
||||
4. Заполните параметры промпта:
|
||||
- **Название**: введите название систменого промпта.
|
||||
- **Содержание**: введите содержание промпта.
|
||||
5. Нажмите **Создать**.
|
||||
|
||||
### Редактирование системного промпта
|
||||
#### Редактирование системного промпта
|
||||
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
||||
|
||||
Reference in New Issue
Block a user