описание платформы
This commit is contained in:
+16
-32
@@ -1,4 +1,8 @@
|
||||
# Чат с LLM
|
||||
|
||||
Раздел описывает работу с LLM-моделями. Описание включает обзор элементов управления, процесс выбора моделей и используемую терминологию для эффективного взаимодействия с AI платформой.
|
||||
|
||||
|
||||
## Обзор сервиса Чат с LLM
|
||||
|
||||
**Чат с LLM** — это интуитивно понятный интерфейс для общения с LLM (Large Language Model). Подходит для знакомства с моделями, а также для встраивания на любой сайт в виде виджета. Чат дает возможность выбирать различные LLM модели, базы знаний и настраивать системные промпты под свои задачи.
|
||||
@@ -10,24 +14,16 @@
|
||||
В интерфейсе доступен следующий функционал:
|
||||
|
||||
1. **Выбор модели:**
|
||||
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню.
|
||||
|
||||
Рекомендации по выбору модели доступны в разделе [Доступные модели](#ai-chat-llm-Дотупные-модели).
|
||||
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню. Рекомендации по выбору модели доступны в разделе [Доступные модели](../ai/ai-chat-llm.md#дотупные-модели).
|
||||
|
||||
2. **Выбор базы знаний:**
|
||||
Для генерации ответов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню.
|
||||
|
||||
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](#ai-chat-llm-База-знаний).
|
||||
Для генерации отвеfтов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню. Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](../ai/ai-overview-platform.md#ликбез).
|
||||
|
||||
3. **Выбор системного промпта:**
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
|
||||
|
||||
Подробно про промпты можно почитать тут: [Промпты](#ai-chat-llm-Промпты)
|
||||
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя. Подробно про промпты можно почитать тут: [Промпты](../ai/ai-overview-platform.md#ликбез).
|
||||
|
||||
4. **Очистка контекста диалога:**
|
||||
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата.
|
||||
|
||||
Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](#LLM)
|
||||
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата. Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](../ai/ai-chat-llm.md#ограничения-llm).
|
||||
|
||||
5. **Диалог пользователя с чатом**
|
||||
Диалог с чатом пользователь ведёт как в обычном чате в режиме вопрос-ответ.
|
||||
@@ -36,24 +32,14 @@
|
||||
|
||||

|
||||
|
||||
## Быстрый старт - убрать
|
||||
|
||||
Для авторизации и начала работы с чатом необходимо выполнить следующие шаги:
|
||||
|
||||
1. **Подключение**: Перейдите по адресу `ai.beeline.ru`
|
||||
2. **VPN/VDL**: Обязательно подключитесь через корпоративный VPN или VDL
|
||||
3. **Авторизация**: Нажмите «Начать работу» или «Перейти в чат»
|
||||
4. **MobileID**: Пройдите стандартную авторизацию через MobileID
|
||||
5. **Начало работы**: После авторизации вы попадете в интерфейс чата
|
||||
|
||||
## Выбор LLM
|
||||
## Выбор LLM
|
||||
|
||||
Следующим шагом надо выбрать одну из доступных моделей.
|
||||
|
||||

|
||||
|
||||
По умолчанию установлена модель Gemma 3, но мы рекомендуем начинать эксперименты с модели Qwen 3 32B, которая имеет больший контекст, поддерживает нативный вызов инструментов, а также может работать как в режиме с рассуждениями (включен по умолчанию) или без них - в таком случае нужно передать в запросе "/no_think".
|
||||
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](#Доступные-модели).
|
||||
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](../ai/ai-chat-llm.md#доступные-модели).
|
||||
|
||||
## Доступные модели
|
||||
|
||||
@@ -65,8 +51,7 @@
|
||||
| Gemma 3 | 128k | 27B | ❌ | ❌ | ✅ |
|
||||
| Qwen 3 | 131k | 32B | ✅ |✅ | ❌|
|
||||
|
||||
::: details
|
||||
<summary> Описание доступных моделей </summary>
|
||||
::: details Описание доступных моделей
|
||||
|
||||
* **DeepSeek Chat**
|
||||
|
||||
@@ -80,16 +65,16 @@
|
||||
|
||||
Основная модель, с которой мы рекомендуем начинать эксперименты. Поддерживает нативный вызов инструментов.
|
||||
Может работать как в режиме:
|
||||
1. с рассуждениями (включен по умолчанию)
|
||||
2. без рассуждений (нужно передать в запросе /no_think).
|
||||
- с рассуждениями (включен по умолчанию)
|
||||
- без рассуждений (нужно передать в запросе /no_think).
|
||||
|
||||
:::
|
||||
|
||||
#### После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
|
||||
После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
|
||||
|
||||
# Ликбез
|
||||
## Ликбез
|
||||
|
||||
## Что такое LLM
|
||||
### Что такое LLM
|
||||
Представьте, что у вас есть программа, которая прочитала миллионы книг, статей и страниц из интернета, а потом научилась предсказывать, какие слова могут идти друг за другом в любом тексте. Примерно так устроена большая языковая модель, или LLM (Large Language Model).
|
||||
|
||||
**LLM** — это просто большая куча матриц и векторной алгебры, которая обучается на огромном количестве текстов. В процессе обучения модель не просто запоминает информацию, а учится находить связи между словами, понимать закономерности языка и генерировать осмысленные ответы на самые разные вопросы. Когда вы задаёте LLM вопрос, она «вспоминает» подходящие по смыслу фразы и пытается предугадать, какие слова должны идти дальше, чтобы ответ звучал логично и понятно.
|
||||
@@ -121,7 +106,6 @@
|
||||
|
||||
LLM эффективны для обработки текста и решения стандартных задач, но для сложных кейсов требуют дополнительной инфраструктуры — баз знаний, интеграций с внешними системами и инструментов выполнения кода.
|
||||
|
||||
|
||||
### Схема работы LLM с базой знаний
|
||||
|
||||

|
||||
|
||||
Reference in New Issue
Block a user