50 lines
4.3 KiB
Markdown
50 lines
4.3 KiB
Markdown
|
# Обзор сервиса Beeline AI Platform
|
|||
|
|
|
|||
|
|
Сервис **AI Platform** предоставляет доступ к большим языковым моделям (Large Language Models, LLM). LLM-модели готовы к использованию и избавляют пользователя от необходимости самостоятельного развертывания и изучения связанных технологий.
|
|||
|
|
|
|||
|
|
**Beeline AI Platform** предоставляет доступ к AI-моделям через удобные графические интерфейсы, а также предоставляет набор API для интеграции LLM-моделей в корпоративные продукты Beline.
|
|||
|
|
|
|||
|
|
На текущий момент **Beeline AI Platform** предоставляет доступ к двум основным модулям:
|
|||
|
|
|
|||
|
|
- [**Чат с LLM**](#ai-chat-llm.md) - Интуитивно понятный интерфейс для общения с LLM. Подходит для знакомства с моделями, а также для встраивания на любой сайт в виде виджета.
|
|||
|
|
|
|||
|
|
- **Open WebUI** - Интерфейс для общения с LLM. Это open-source, поддерживает макимально большое количесвто фич. Не является целевым решением, но команда Beeline планирует поддержку максимально долго, пока не будет произведён полный переход на [Чат с LLM](#ai-chat-llm.md).
|
|||
|
|
|
|||
|
|
## Возможности сервиса
|
|||
|
|
|
|||
|
|
- Интерфейс для взаимодействия с моделями в формате чат-бота.
|
|||
|
|
- Загрузка базы знаний.
|
|||
|
|
- Поддержка работы с различными LLM.
|
|||
|
|
- Интеграция модели через OpenAI и API.
|
|||
|
|
|
|||
|
|
## Ролевая модель
|
|||
|
|
|
|||
|
|
В сервисе реализованы две роли:
|
|||
|
|
|
|||
|
|
- **AI Platform: Администратор**:
|
|||
|
|
- создание, удаление тенанта;
|
|||
|
|
- добавление, удаление модели;
|
|||
|
|
- создание, удаление базы знаний,
|
|||
|
|
- все функции роли **AI Platform: Пользователь**.
|
|||
|
|
- **AI Platform: Пользователь**:
|
|||
|
|
- доступ к UI AI Platform;
|
|||
|
|
- создание запросов в выбранной LLM и получение ответов;
|
|||
|
|
- управление базой знаний: добавление, просмотр и удаление документов;
|
|||
|
|
- подключение к AI Platform с помощью API интерфейса.
|
|||
|
|
|
|||
|
|
|
|||
|
|
## Глоссарий
|
|||
|
|
|
|||
|
|
**Тенант**: Тенант представляет собой изолированный логический контейнер ресурсов сервиса (модели, базы знаний) для работы в рамках проекта. Создается через консоль управления Vega.
|
|||
|
|
|
|||
|
|
**Модель (Large Language Model, LLM)**: Комплексные языковые модели, предоставляемые сервисом для генерации текста и ответов. LLM подключается к тенанту для обработки запросов. Поддерживает интеграцию в формате OpenAI.
|
|||
|
|
|
|||
|
|
**База знаний**: Специализированный контейнер данных, который дополняет ответы LLM на основе содержимого базы. База знаний позволяет модели использовать внешние данные для генерации ответов.
|
|||
|
|
|
|||
|
|
**UI (User Interface)**: Веб-интерфейс для взаимодействия с сервисом. Например, выбор модели, отправка текстовых запросов.
|
|||
|
|
|
|||
|
|
**Контекст диалога**: История общения с LLM, используемая для формирования ответов.
|
|||
|
|
|
|||
|
|
**Системное сообщение (Prompt)**: Системный промпт определяет логику ответов модели. Есть возможность настраивать шаблон запроса.
|
|||
|
|
|