Описание чата и настройка чата
This commit is contained in:
@@ -18,7 +18,7 @@
|
||||
|
||||
**Интерфейс чата:**
|
||||
|
||||

|
||||

|
||||
|
||||
В интерфейсе доступен следующий функционал:
|
||||
|
||||
@@ -40,13 +40,13 @@
|
||||
|
||||
Исходя из возможностей сервиса **Чат с LLM** пользовательский путь от авторизации к диалогу выглядит следующим образом:
|
||||
|
||||

|
||||

|
||||
|
||||
## Выбор LLM
|
||||
|
||||
Первым шагом надо выбрать одну из доступных моделей.
|
||||
|
||||

|
||||

|
||||
|
||||
По умолчанию установлена модель Gemma 3, но мы рекомендуем начинать эксперименты с модели Qwen 3 32B, которая имеет больший контекст, поддерживает нативный вызов инструментов, а также может работать как в режиме с рассуждениями (включен по умолчанию) или без них - в таком случае нужно передать в запросе "/no_think".
|
||||
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](#Available-LLMs).
|
||||
|
||||
@@ -33,11 +33,11 @@
|
||||
|
||||
В случае, когда нам необходимо, чтобы наша модель генерировала ответы не на базе своего раннего обучения, а обращалась, например, к актуальной нормативной базе или актуальным тарифам, то нам необходимо указать базу знаний, с которой чат должен расширить свой контекст. Для этого необходимо просто выбрать требуемую базу знаний и продолжить диалог.
|
||||
|
||||

|
||||

|
||||
|
||||
И в таком случае,при формировании ответа, модель уже будет использовать макимально актуальную информацию при генерации рекомендации.
|
||||
|
||||

|
||||

|
||||
|
||||
Как видим, модель получила данные из базы знаний и сослалась на них.
|
||||
|
||||
@@ -58,11 +58,11 @@
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
Наприме, по умолчанию задан простой, "размытый" промпт, который просто указывает, что чат должен быть полезным. Но, такой чат не всегда сможет предоставить пользователю ответ, который его устроит. Поэтому, фунционал Чат с LLM предоставляет возможность задать пользователю свой промпт, который будет действовать в текущей сессии.
|
||||
|
||||

|
||||

|
||||
|
||||

|
||||

|
||||
|
||||

|
||||

|
||||
|
||||
## Удалить тенант, модель, базу знаний
|
||||
|
||||
|
||||
Reference in New Issue
Block a user