описание платформы

This commit is contained in:
Левченко Людмила Алексеевна
2025-11-20 15:10:38 +03:00
parent da7acee362
commit c4f0202ea2
4 changed files with 107 additions and 137 deletions
+16 -32
View File
@@ -1,4 +1,8 @@
# Чат с LLM
Раздел описывает работу с LLM-моделями. Описание включает обзор элементов управления, процесс выбора моделей и используемую терминологию для эффективного взаимодействия с AI платформой.
## Обзор сервиса Чат с LLM
**Чат с LLM** — это интуитивно понятный интерфейс для общения с LLM (Large Language Model). Подходит для знакомства с моделями, а также для встраивания на любой сайт в виде виджета. Чат дает возможность выбирать различные LLM модели, базы знаний и настраивать системные промпты под свои задачи.
@@ -10,24 +14,16 @@
В интерфейсе доступен следующий функционал:
1. **Выбор модели:**
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню.
Рекомендации по выбору модели доступны в разделе [Доступные модели](#ai-chat-llm-Дотупные-модели).
По умолчанию используется модель Gemma 3. Для смены модели выберите подходящий вариант из выпадающего меню. Рекомендации по выбору модели доступны в разделе [Доступные модели](../ai/ai-chat-llm.md#дотупные-модели).
2. **Выбор базы знаний:**
Для генерации ответов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню.
Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](#ai-chat-llm-База-знаний).
Для генерации отвеfтов не на базе своего раннего обучения, а на основе актуальных данных, необходимо выбрать нужную базу знаний из выпадающего меню. Более подробно, что такое "Базы знаний" в AI и как они работают, можно ознакомится в разделе [Базы знаний](../ai/ai-overview-platform.md#ликбез).
3. **Выбор системного промпта:**
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя.
Подробно про промпты можно почитать тут: [Промпты](#ai-chat-llm-Промпты)
Системный промпт представляет из себя набор инструкций, на которые опирается модель при подготовке ответа на запрос пользователя. Подробно про промпты можно почитать тут: [Промпты](../ai/ai-overview-platform.md#ликбез).
4. **Очистка контекста диалога:**
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата.
Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](#LLM)
При длительном диалоге модель накапливает контекст и может начать генерировать неточные ответы ("галлюцинации"). Для предотвращения этого рекомендуется периодически очищать контекст сессии — нажмите иконку очистки в правом верхнем углу окна чата. Подробно про ограничения LLM можно почитать тут: [Ограничения LLM](../ai/ai-chat-llm.md#ограничения-llm).
5. **Диалог пользователя с чатом**
Диалог с чатом пользователь ведёт как в обычном чате в режиме вопрос-ответ.
@@ -36,24 +32,14 @@
![alt text](./image/UX_Path_1024.png)
## Быстрый старт - убрать
Для авторизации и начала работы с чатом необходимо выполнить следующие шаги:
1. **Подключение**: Перейдите по адресу `ai.beeline.ru`
2. **VPN/VDL**: Обязательно подключитесь через корпоративный VPN или VDL
3. **Авторизация**: Нажмите «Начать работу» или «Перейти в чат»
4. **MobileID**: Пройдите стандартную авторизацию через MobileID
5. **Начало работы**: После авторизации вы попадете в интерфейс чата
## Выбор LLM
## Выбор LLM
Следующим шагом надо выбрать одну из доступных моделей.
![alt text](./image/Chat_AI_Choice_LLM_1024.png)
По умолчанию установлена модель Gemma 3, но мы рекомендуем начинать эксперименты с модели Qwen 3 32B, которая имеет больший контекст, поддерживает нативный вызов инструментов, а также может работать как в режиме с рассуждениями (включен по умолчанию) или без них - в таком случае нужно передать в запросе "/no_think".
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](оступные-модели).
С списанием, какие модели доступны, а также, какие преимущества есть у каждой из моделей, можно ознакомиться в разделе [Доступные модели](../ai/ai-chat-llm.md#доступные-модели).
## Доступные модели
@@ -65,8 +51,7 @@
| Gemma 3 | 128k | 27B | ❌ | ❌ | ✅ |
| Qwen 3 | 131k | 32B | ✅ |✅ | ❌|
::: details
<summary> Описание доступных моделей </summary>
::: details Описание доступных моделей
* **DeepSeek Chat**
@@ -80,16 +65,16 @@
Основная модель, с которой мы рекомендуем начинать эксперименты. Поддерживает нативный вызов инструментов.
Может работать как в режиме:
1. с рассуждениями (включен по умолчанию)
2. без рассуждений (нужно передать в запросе /no_think).
- с рассуждениями (включен по умолчанию)
- без рассуждений (нужно передать в запросе /no_think).
:::
#### После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
После выбора модели можно начинать диалог с чатом. Для этого необходимо просто писать свой запрос в окно диалога и дожидаться ответа.
# Ликбез
## Ликбез
## Что такое LLM
### Что такое LLM
Представьте, что у вас есть программа, которая прочитала миллионы книг, статей и страниц из интернета, а потом научилась предсказывать, какие слова могут идти друг за другом в любом тексте. Примерно так устроена большая языковая модель, или LLM (Large Language Model).
**LLM** — это просто большая куча матриц и векторной алгебры, которая обучается на огромном количестве текстов. В процессе обучения модель не просто запоминает информацию, а учится находить связи между словами, понимать закономерности языка и генерировать осмысленные ответы на самые разные вопросы. Когда вы задаёте LLM вопрос, она «вспоминает» подходящие по смыслу фразы и пытается предугадать, какие слова должны идти дальше, чтобы ответ звучал логично и понятно.
@@ -121,7 +106,6 @@
LLM эффективны для обработки текста и решения стандартных задач, но для сложных кейсов требуют дополнительной инфраструктуры — баз знаний, интеграций с внешними системами и инструментов выполнения кода.
### Схема работы LLM с базой знаний
![alt text](./image/Sh_LLM_RAG_1024.png)