Human-in-the-loop: де ШІ має спитати людину
Human-in-the-loop означає, що у ключових точках процесу рішення ухвалює людина, а ШІ готує варіанти. Як визначити ці точки і як вони виглядають в агентах.
Human-in-the-loop (людина в контурі) це принцип, за яким у ключових точках автоматизованого процесу рішення ухвалює людина. AI-агент збирає дані, звіряє, рахує, готує чернетку і варіанти, а людина підтверджує, погоджує або відхиляє. Так компанія отримує швидкість автоматизації і зберігає контроль там, де помилка коштує дорого: гроші, договори, персонал, репутація.
Для власника бізнесу це відповідь на найчастіше побоювання: «а якщо ШІ зробить щось не те». Нижче пояснюємо, як визначити точки контролю і як вони виглядають у реальних агентах.
Навіщо людина в контурі
Мовна модель може помилитись: неправильно прочитати скан, неточно зрозуміти прохання клієнта, впевнено відповісти без підстав. Код навколо неї закриває більшість таких випадків, але не всі. Людина в контурі потрібна для трьох речей:
- Незворотні дії. Платіж, підпис, відправка документа контрагенту, блокування клієнта.
- Рішення з відповідальністю. Кадрові рішення, кредитний ліміт, висновок комплаєнсу.
- Нетипові випадки. Ситуація, якої не було у прикладах і правилах.
Є і четверта причина, про яку рідше говорять: довіра команди. Працівники охочіше приймають агента, коли бачать, що останнє слово за ними. Агент, який сам проводить платежі з першого дня, викликає опір і саботаж. Агент, який готує все до підпису і пояснює свої висновки, швидко стає звичним інструментом, і вже команда просить розширити його повноваження.
Класи автономії: проста шкала
Зручно розкласти кожну дію агента за чотирма класами.
| Клас | Що робить агент | Приклад |
|---|---|---|
| Сигнал | Лише повідомляє, дію обирає людина | «Ціна у рахунку вища за договірну» |
| Чернетка | Готує, людина проводить | Чернетка заявки в облік, чернетка відповіді клієнту |
| Дія з відкатом | Діє сам, помилку можна виправити до наслідків | Рознесення виписки до проведення |
| Лише людина | Людина обовʼязкова завжди | Підпис КЕП, подання звітності, платіж |
Окреме правило, яке ми тримаємо в усіх проєктах: агент не може підтверджувати факт, якого не бачив. Поставити позначку «оригінал отримано» чи «години відпрацьовано» без підстави це фальсифікація, незалежно від класу дії.
Як це виглядає у реальних агентах
Перевірка контрагентів. В агенті комплаєнсу досьє збирається автоматично з відкритих джерел, ризик рахує формула, а документ проходить погодження офіцером комплаєнсу. Ініціатор отримує лише погоджений висновок, чернетку він не бачить. У продукті перевірки це записано прямо: досьє це підстава, вердикт ухвалює людина.
Дашборд фіндиректора. На сторінці рішення «Дашборд CFO» межі такі: рішення про кредит, хедж і зсув траншів CAPEX ухвалює фіндиректор, агент готує варіанти з ціною і позначає рекомендацію. На пілоті агент має права лише на читання, запис у системи вмикається окремим рішенням.
Контроль якості розмов. В оцінці розмов за чек-листом перші тижні оцінки агента звіряє супервайзер, і автоматичні звіти працівникам вмикаються лише після його підтвердження. Рішення про премію чи навчання працівника приймає керівник.
Прийом замовлень B2B. У демонстрації замовлень агент розбирає лист клієнта на позиції і готує чернетку заявки в облік. Сумнівні рядки підсвічені жовтим і червоним, менеджер виправляє їх одним рухом. Коли клієнт просить ціну нижчу за договірну, агент не погоджує її сам.
Антиспам для груп. Наш бот для Telegram-груп перші дні працює у режимі спостереження: показує, що зробив би, і нічого не видаляє. Потім адмін вмикає автоматику, а сумнівні повідомлення приходять йому карткою з кнопками.
Персональний асистент керівника. У демонстрації асистента помічник шукає постачальників і веде з ними переписку, але аутрич від імені власника стартує лише після його підтвердження. Пропущені дзвінки асистент приймає сам і пише абоненту в месенджер, бо тут помилка легко виправна.
Чому повна автономія погана ідея для старту
Коли агент з першого дня діє без підтвердження, помилки стають видимими лише після наслідків: неправильний платіж, лист не тому клієнту, заявка з чужою ціною. Навіть якщо таких випадків одиниці, кожен з них обходиться дорожче, ніж місяць ручного підтвердження.
Друга причина практична. На старті ніхто, включно з розробником, не знає всіх нетипових випадків вашого процесу. Підтвердження людиною перші тижні це найдешевший спосіб їх зібрати: кожне виправлення потрапляє в журнал, з журналу народжуються нові правила і тестові приклади. Через кілька тижнів агент знає ваш процес краще, ніж знав би після будь-якого ТЗ.
Як визначити точки контролю у вашому процесі
- Розкладіть процес на кроки. Від надходження даних до результату.
- Для кожного кроку спитайте: що станеться, якщо агент помилиться? Можна виправити до наслідків?
- Позначте клас автономії. Сигнал, чернетка, дія з відкатом, лише людина.
- Визначте поріг впевненості. Для дій з фінансовими чи юридичними наслідками ми використовуємо правило: впевненість нижче 95% означає чергу до людини.
- Продумайте інтерфейс. Людина має бачити, що підготував агент, на якій підставі і що саме треба підтвердити.
- Збережіть журнал. Хто що підтвердив і коли.
Як не перетворити контроль на рутину
Людина в контурі корисна, лише коли її рішення осмислене. Якщо менеджер щодня натискає «погодити» на двохстах однакових картках, він перестає їх читати. Що допомагає:
- показувати людині лише сумнівне, решту проводити автоматично з вибірковою перевіркою;
- давати причину: «ціна вища за договірну на 12%» замість «потребує перевірки»;
- групувати однотипне в одне рішення;
- переглядати пороги раз на місяць за журналом.
Як контур змінюється з часом
На старті людина підтверджує більше. Через кілька місяців журнал показує, де агент стабільно правий, і там підтвердження замінюють вибірковою перевіркою. Там, де помилки трапляються, додають правила або приклади. Рішення з юридичними і фінансовими наслідками лишаються за людиною назавжди, і це нормальна межа автоматизації. Відповідальність за підпис, платіж чи кадрове рішення несе людина, тому і останнє слово має бути за нею, а агент робить так, щоб це слово займало хвилину і спиралось на повні дані.
Що питати у підрядника
- На яких кроках агент діє сам, а на яких чекає людину?
- Що бачить людина, коли підтверджує?
- Що стається, коли агент не впевнений?
- Де журнал дій і рішень?
- Як змінюються пороги після запуску?
Процеси з правильно розставленими точками контролю ми будуємо в напрямах автоматизації бізнес-процесів і розробки AI-агентів. Опишіть свій процес у формі на головній, і після брифу за робочий день ви отримаєте оцінку і карту, де агент діє сам, а де питає людину.
Згадані агенти
Часті запитання
Що означає human-in-the-loop?
Це принцип побудови автоматизації, за яким людина лишається у контурі там, де рішення має наслідки: гроші, договори, персонал, репутація. AI-агент збирає дані, готує варіанти і чернетки, а підтверджує, погоджує чи відхиляє людина.
Чи не зводить людина в контурі нанівець користь від ШІ?
Навпаки: агент бере на себе рутину (зібрати, звірити, підготувати), а людина витрачає хвилини на рішення замість годин на підготовку. Контроль при цьому зберігається там, де він потрібен.
Як визначити, де потрібна людина?
Питання просте: чи можна виправити помилку до того, як вона завдасть шкоди. Якщо так (чернетка, рознесення до проведення), агент може діяти сам. Якщо ні (платіж, підпис, звільнення, публічна відповідь у кризі), потрібне підтвердження людини.
Чи можна з часом прибрати людину з контуру?
Для окремих кроків так: коли за кілька місяців журнал показує стабільну якість, частину підтверджень замінюють вибірковою перевіркою. Рішення з юридичними і фінансовими наслідками лишаються за людиною.
Потрібен такий агент у вашому бізнесі?
Проєктуємо, будуємо і запускаємо AI-агентів під ваш процес, зазвичай за 3-5 тижнів.