Адаптация ИИ-моделей под данные вашей компании

Обычно нет. При использовании базы знаний (RAG) модель не обучается — она только получает нужные фрагменты документов, чтобы подготовить ответ. Крупные поставщики моделей в условиях платных API указывают, что по умолчанию не используют данные клиентов для обучения моделей, — условия конкретного поставщика проверяем до его выбора. Дообучение модели на ваших примерах выполняется только при необходимости и создаёт отдельную версию модели, предназначенную только для вас.

RAG — это способ, при котором ИИ перед ответом находит информацию в ваших документах и отвечает только по ней. Так же работает сотрудник, который перед ответом открывает инструкцию, а не отвечает по памяти. Поэтому ответы соответствуют самым свежим вашим документам и могут указывать источник.

Да, есть несколько вариантов. Некоторые поставщики моделей предлагают обработку данных в дата-центрах в ЕС, а модель с открытым кодом можно установить на сервере в ЕС или в вашей инфраструктуре. Каждый вариант оцениваем по требованиям ваших договоров и GDPR, качеству модели для ваших задач и цене.

Не всегда. Модели с открытым кодом хорошо справляются с поиском, сводками и классификацией, но в сложных задачах и текстах на литовском часто уступают крупнейшим облачным моделям. Кроме того, им нужен сервер с GPU. Поэтому частную модель мы сначала проверяем на ваших задачах и только потом рекомендуем.

Нет, если права настроены. Каждому документу присваивается уровень доступа или группа, а поиск идёт только по документам, которые может видеть конкретный пользователь. Если права в ваших системах уже настроены, мы стараемся использовать их же, чтобы не управлять ими в двух местах.

Достаточно 20–50 самых используемых документов и 30–50 типичных вопросов сотрудников или клиентов. На них мы проверяем решение и оцениваем качество, а потом расширяем базу знаний. Документы с персональными данными обсуждаем отдельно: часто для базы знаний они вообще не нужны.