Що таке RAG: як ШІ відповідає з ваших документів
RAG підʼєднує мовну модель до ваших документів: система знаходить потрібний фрагмент, а модель відповідає з нього з цитатою. Як це працює і де ламається.
Коротке визначення, ознаки і порівняння зі схожими поняттями: RAG у базі знань Initask.
RAG (retrieval-augmented generation, генерація з пошуком) це спосіб навчити мовну модель відповідати з ваших документів без перенавчання самої моделі. Коли людина ставить питання, система спершу шукає у вашій базі знань потрібні фрагменти: пункт положення про відпустки, рядок прайсу, розділ інструкції. Потім ці фрагменти разом з питанням потрапляють у модель, і вона формулює відповідь саме з них, з посиланням на джерело.
Саме на RAG працюють корпоративні чат-боти, помічники для працівників і боти підтримки, які знають ваші правила. Розберемо, як ця схема влаштована і що визначає якість відповідей.
Навіщо потрібен RAG
Готова модель знає світ загалом, але нічого не знає про вашу компанію. Вона не бачила ваш графік роботи, умови повернення, внутрішні регламенти і вчорашній прайс. Якщо спитати її напряму, вона відповість загальними словами або вигадає правдоподібну деталь.
Є три способи дати моделі ваші знання:
- Вставити все у промпт. Працює для однієї сторінки правил, для сотень документів уже ні.
- Донавчити модель (fine-tuning). Дорого, повільно оновлюється, і модель однаково може змішати факти.
- RAG. Документи лежать окремо, пошук щоразу підтягує свіжі фрагменти, модель відповідає з них.
Для більшості бізнес-задач RAG найпрактичніший: оновили документ, і вже наступна відповідь спирається на нову редакцію.
Як працює RAG, крок за кроком
- Підготовка документів. Файли з SharePoint, Google Drive, сайту або адмінки розбивають на фрагменти по кілька абзаців. Кожен фрагмент отримує мітки: документ, редакція, розділ, мова, власник.
- Індексація. Кожен фрагмент перетворюють на вектор, тобто набір чисел, що описує зміст. Вектори зберігають у векторній базі даних.
- Пошук. Питання людини теж перетворюють на вектор і шукають найближчі за змістом фрагменти. Часто поруч працює звичайний пошук за словами, щоб не пропустити точні назви і номери.
- Відповідь. Модель отримує питання і знайдені фрагменти з інструкцією: відповідай лише з наданого тексту, давай посилання, а якщо відповіді немає, скажи про це.
- Перевірка. Код звіряє, що процитоване речення справді є в документі, і додає посилання на розділ.
Приклад: помічник співробітника у Teams
У демонстрації корпоративного чат-бота бази знань працівник пише у Microsoft Teams: «скільки днів відпустки мені лишилось за правилами» або «як оформити лікарняний». Бот знаходить відповідь у затверджених документах HR, показує цитату і посилання на актуальну редакцію документа. Якщо відповіді в базі немає, бот чесно каже «не знаю» і пропонує передати питання в HR. Працівник підтверджує передачу, і питання потрапляє в реєстр звернень.
Звідси виростає корисна петля: HR бачить у своїй адмінці частку питань без відповіді і саме з них поповнює базу знань. Через місяць бот відповідає на те, чого спочатку не знав.
Окремо вирішується доступ. Помічник перевіряє групу працівника в Active Directory на кожному зверненні. Документи для керівників бачать лише керівники, і при звільненні доступ зникає разом з обліковим записом. Детально рішення описане на сторінці «Помічник співробітника».
Приклад: агент підтримки енергокомпанії
У чат-агенті енергокомпанії RAG закриває одну частину роботи: пояснення правил, тарифів і процедур з бази знань замовника. Друга частина, розрахунок конкретного нарахування, спирається на вивантаження білінгу, і цифри рахує код. Так поєднуються два джерела: документи для правил і дані для чисел. Все, що виходить за повноваження агента, іде оператору з причиною і транскриптом.
Що визначає якість RAG
- Порядок у документах. Дві редакції одного положення дадуть дві різні відповіді. Застарілі файли треба прибрати до запуску.
- Розбиття на фрагменти. Якщо таблиця тарифів розрізана посередині, модель побачить половину. Структуровані документи ріжуть за розділами.
- Мітки і фільтри. Мова, підрозділ, дата редакції дозволяють шукати лише серед актуального і дозволеного.
- Правило «не знаю». Бот, який чесно передає питання людині, корисніший за бот, що завжди щось відповідає.
- Перевірка цитат. Код, який звіряє цитату з документом, ловить переказ з помилкою.
- Журнал питань. Реальні питання показують, яких документів бракує.
Типові помилки при запуску
Завантажити все підряд. Спокуса велика: дати боту весь спільний диск. У результаті в пошук потрапляють чернетки, листування, старі презентації, і бот впевнено цитує документ, скасований два роки тому. Краще почати з короткого переліку затверджених документів і розширювати його за журналом питань.
Сподіватись, що модель сама розбереться з таблицями. Прайс чи тарифна сітка в PDF після розбиття на фрагменти часто втрачає заголовки колонок. Такі документи варто подати окремо, у структурованому вигляді, або відповідати на ці питання кодом з таблиці.
Відсутність власника бази знань. Бот відповідає рівно настільки добре, наскільки актуальні документи. Потрібна людина, яка отримує питання без відповіді і вирішує, який документ оновити.
Відсутність набору тестових питань. Без еталонного набору неможливо зрозуміти, чи нова модель ембедингів або інше розбиття покращили пошук. Набір з 50-100 реальних питань з правильними документами окуповується вже на першій правці.
Що питати у підрядника
- Звідки бот бере документи і як часто вони оновлюються?
- Як бот поводиться, коли відповіді в базі немає?
- Чи бачить людина джерело кожної відповіді?
- Хто має доступ до яких документів і як це перевіряється?
- Як міряється якість пошуку до і після змін?
Чіткі відповіді на ці питання кажуть про зрілість рішення більше, ніж назва моделі.
Коли RAG підходить, а коли потрібно інше
RAG добре працює для:
- внутрішньої бази знань: HR, ІТ-підтримка, регламенти, інструкції;
- підтримки клієнтів: умови, доставка, повернення, тарифи;
- юридичних і технічних довідок з великого масиву документів.
RAG сам по собі слабкий там, де потрібні точні розрахунки або дії. Залишок бонусів, статус замовлення чи сума до сплати беруться з облікової системи через API, і тут рішення доповнюють кодом або інструментами агента. Про вибір між пошуком і донавчанням ми окремо пишемо у статті про fine-tuning і RAG.
З чого почати
- Зберіть документи, з яких мають братися відповіді, як є: PDF, Word, сторінки сайту, таблиці.
- Випишіть 30-50 реальних питань від працівників чи клієнтів.
- Визначте, хто відповідає за базу знань і хто отримує питання без відповіді.
- Запустіть пілот в одному каналі: Teams, Telegram або чат на сайті.
Базу знань на RAG ми будуємо в межах напряму RAG і база знань, а бота для клієнтів у напрямі розробки чат-ботів. Опишіть свою задачу у формі на головній, і після брифу за робочий день ви отримаєте оцінку і план пілоту. Ціни агентів зібрані на сторінці тарифів.
Згадані агенти
Часті запитання
Що таке RAG простими словами?
RAG (retrieval-augmented generation, генерація з пошуком) це схема, у якій перед відповіддю система шукає у ваших документах потрібні фрагменти і передає їх мовній моделі. Модель відповідає саме з цих фрагментів, тому відповідь спирається на ваші правила, прайси й інструкції.
Навіщо RAG, якщо можна просто завантажити документи в ChatGPT?
Завантаження файлу працює для одного документа і однієї людини. RAG працює для сотень документів, для всіх працівників чи клієнтів одночасно, з контролем доступу, актуальними редакціями, посиланням на джерело і журналом питань.
Чи може бот на RAG вигадати відповідь?
Ризик є, тому до пошуку додають правила: модель відповідає лише зі знайдених фрагментів, код перевіряє, що цитата справді є в документі, а питання без відповіді бот чесно віддає людині.
Скільки часу займає запуск бази знань на RAG?
Пілот на одному наборі документів і одному каналі зазвичай займає кілька тижнів. Довше за все триває наведення порядку в документах: застарілі редакції і суперечливі інструкції треба прибрати до запуску.
Потрібен такий агент у вашому бізнесі?
Проєктуємо, будуємо і запускаємо AI-агентів під ваш процес, зазвичай за 3-5 тижнів.