RAG
RAG (Retrieval-Augmented Generation, генерація з доповненим пошуком) це метод, за якого мовна модель перед відповіддю знаходить у базі компанії потрібні фрагменти документів і будує відповідь саме на них, з посиланням на джерело. Так модель відповідає за актуальними регламентами, договорами і даними без донавчання.
Можна цитувати з посиланням на initask.com · Автор: Віталій Міняйло · Оновлено:Головні ознаки
Пошук перед відповіддю
Запит спершу перетворюється на пошук у базі документів компанії.
Відповідь з джерелом
Кожне твердження можна перевірити за посиланням на документ.
Актуальність
Новий документ у базі одразу доступний моделі, без перенавчання.
Контроль доступу
Модель бачить лише ті документи, на які має право користувач.
Порівняння
| Критерій | RAG | Донавчання моделі | Звичайний чат з моделлю |
|---|---|---|---|
| Звідки знання | Ваші документи в момент запиту | Ваги моделі після навчання | Загальні знання моделі |
| Оновлення | Додати документ у базу | Нове навчання | Неможливе |
| Посилання на джерело | Є | Немає | Немає |
| Вартість старту | Низька | Висока | Мінімальна |
Звідки знання
- RAG
- Ваші документи в момент запиту
- Донавчання моделі
- Ваги моделі після навчання
- Звичайний чат з моделлю
- Загальні знання моделі
Оновлення
- RAG
- Додати документ у базу
- Донавчання моделі
- Нове навчання
- Звичайний чат з моделлю
- Неможливе
Посилання на джерело
- RAG
- Є
- Донавчання моделі
- Немає
- Звичайний чат з моделлю
- Немає
Вартість старту
- RAG
- Низька
- Донавчання моделі
- Висока
- Звичайний чат з моделлю
- Мінімальна
Як впровадити
- Зібрати документи: регламенти, договори, інструкції, FAQ.
- Розбити їх на фрагменти і проіндексувати у векторній базі.
- Налаштувати пошук з урахуванням прав доступу.
- Підключити модель з вимогою відповідати лише за знайденим і з посиланнями.
- Перевірити на 50-100 реальних питаннях і доналаштувати пошук.
Типові помилки
- Завантажити застарілі і суперечливі версії документів разом.
- Не показувати джерело відповіді, через що їй ніхто не довіряє.
- Різати документи на шматки без урахування структури розділів.
- Відкрити всім працівникам документи з обмеженим доступом.
Юридичний AI-контур компанії працює з реєстром з 12 договорів і 14 сценаріями юриста: агент знаходить потрібний пункт договору і стежить за строками на 120 днів уперед.
Кейс: юридичний AI-контурПитання і відповіді
Що краще для бізнесу: RAG чи донавчання моделі?
Для відповідей за документами компанії майже завжди RAG: дешевше, документи оновлюються одразу, а відповідь має джерело. Донавчання доречне для стилю чи вузької задачі класифікації.
Чи можна зробити RAG на закритих даних?
Так. Векторну базу і модель можна розгорнути на сервері компанії, тоді документи не залишають її контур.
Скільки документів потрібно для RAG?
Працює і на десятках документів. Важливіше, щоб вони були актуальні та без суперечливих версій.