Гайди17 листопада 2026 р.5 хв читання

Human-in-the-loop: де ШІ має спитати людину

Human-in-the-loop означає, що у ключових точках процесу рішення ухвалює людина, а ШІ готує варіанти. Як визначити ці точки і як вони виглядають в агентах.


Human-in-the-loop (людина в контурі) це принцип, за яким у ключових точках автоматизованого процесу рішення ухвалює людина. AI-агент збирає дані, звіряє, рахує, готує чернетку і варіанти, а людина підтверджує, погоджує або відхиляє. Так компанія отримує швидкість автоматизації і зберігає контроль там, де помилка коштує дорого: гроші, договори, персонал, репутація.

Для власника бізнесу це відповідь на найчастіше побоювання: «а якщо ШІ зробить щось не те». Нижче пояснюємо, як визначити точки контролю і як вони виглядають у реальних агентах.

Навіщо людина в контурі

Мовна модель може помилитись: неправильно прочитати скан, неточно зрозуміти прохання клієнта, впевнено відповісти без підстав. Код навколо неї закриває більшість таких випадків, але не всі. Людина в контурі потрібна для трьох речей:

  • Незворотні дії. Платіж, підпис, відправка документа контрагенту, блокування клієнта.
  • Рішення з відповідальністю. Кадрові рішення, кредитний ліміт, висновок комплаєнсу.
  • Нетипові випадки. Ситуація, якої не було у прикладах і правилах.

Є і четверта причина, про яку рідше говорять: довіра команди. Працівники охочіше приймають агента, коли бачать, що останнє слово за ними. Агент, який сам проводить платежі з першого дня, викликає опір і саботаж. Агент, який готує все до підпису і пояснює свої висновки, швидко стає звичним інструментом, і вже команда просить розширити його повноваження.

Класи автономії: проста шкала

Зручно розкласти кожну дію агента за чотирма класами.

КласЩо робить агентПриклад
СигналЛише повідомляє, дію обирає людина«Ціна у рахунку вища за договірну»
ЧернеткаГотує, людина проводитьЧернетка заявки в облік, чернетка відповіді клієнту
Дія з відкатомДіє сам, помилку можна виправити до наслідківРознесення виписки до проведення
Лише людинаЛюдина обовʼязкова завждиПідпис КЕП, подання звітності, платіж

Окреме правило, яке ми тримаємо в усіх проєктах: агент не може підтверджувати факт, якого не бачив. Поставити позначку «оригінал отримано» чи «години відпрацьовано» без підстави це фальсифікація, незалежно від класу дії.

Як це виглядає у реальних агентах

Перевірка контрагентів. В агенті комплаєнсу досьє збирається автоматично з відкритих джерел, ризик рахує формула, а документ проходить погодження офіцером комплаєнсу. Ініціатор отримує лише погоджений висновок, чернетку він не бачить. У продукті перевірки це записано прямо: досьє це підстава, вердикт ухвалює людина.

Дашборд фіндиректора. На сторінці рішення «Дашборд CFO» межі такі: рішення про кредит, хедж і зсув траншів CAPEX ухвалює фіндиректор, агент готує варіанти з ціною і позначає рекомендацію. На пілоті агент має права лише на читання, запис у системи вмикається окремим рішенням.

Контроль якості розмов. В оцінці розмов за чек-листом перші тижні оцінки агента звіряє супервайзер, і автоматичні звіти працівникам вмикаються лише після його підтвердження. Рішення про премію чи навчання працівника приймає керівник.

Прийом замовлень B2B. У демонстрації замовлень агент розбирає лист клієнта на позиції і готує чернетку заявки в облік. Сумнівні рядки підсвічені жовтим і червоним, менеджер виправляє їх одним рухом. Коли клієнт просить ціну нижчу за договірну, агент не погоджує її сам.

Антиспам для груп. Наш бот для Telegram-груп перші дні працює у режимі спостереження: показує, що зробив би, і нічого не видаляє. Потім адмін вмикає автоматику, а сумнівні повідомлення приходять йому карткою з кнопками.

Персональний асистент керівника. У демонстрації асистента помічник шукає постачальників і веде з ними переписку, але аутрич від імені власника стартує лише після його підтвердження. Пропущені дзвінки асистент приймає сам і пише абоненту в месенджер, бо тут помилка легко виправна.

Чому повна автономія погана ідея для старту

Коли агент з першого дня діє без підтвердження, помилки стають видимими лише після наслідків: неправильний платіж, лист не тому клієнту, заявка з чужою ціною. Навіть якщо таких випадків одиниці, кожен з них обходиться дорожче, ніж місяць ручного підтвердження.

Друга причина практична. На старті ніхто, включно з розробником, не знає всіх нетипових випадків вашого процесу. Підтвердження людиною перші тижні це найдешевший спосіб їх зібрати: кожне виправлення потрапляє в журнал, з журналу народжуються нові правила і тестові приклади. Через кілька тижнів агент знає ваш процес краще, ніж знав би після будь-якого ТЗ.

Як визначити точки контролю у вашому процесі

  1. Розкладіть процес на кроки. Від надходження даних до результату.
  2. Для кожного кроку спитайте: що станеться, якщо агент помилиться? Можна виправити до наслідків?
  3. Позначте клас автономії. Сигнал, чернетка, дія з відкатом, лише людина.
  4. Визначте поріг впевненості. Для дій з фінансовими чи юридичними наслідками ми використовуємо правило: впевненість нижче 95% означає чергу до людини.
  5. Продумайте інтерфейс. Людина має бачити, що підготував агент, на якій підставі і що саме треба підтвердити.
  6. Збережіть журнал. Хто що підтвердив і коли.

Як не перетворити контроль на рутину

Людина в контурі корисна, лише коли її рішення осмислене. Якщо менеджер щодня натискає «погодити» на двохстах однакових картках, він перестає їх читати. Що допомагає:

  • показувати людині лише сумнівне, решту проводити автоматично з вибірковою перевіркою;
  • давати причину: «ціна вища за договірну на 12%» замість «потребує перевірки»;
  • групувати однотипне в одне рішення;
  • переглядати пороги раз на місяць за журналом.

Як контур змінюється з часом

На старті людина підтверджує більше. Через кілька місяців журнал показує, де агент стабільно правий, і там підтвердження замінюють вибірковою перевіркою. Там, де помилки трапляються, додають правила або приклади. Рішення з юридичними і фінансовими наслідками лишаються за людиною назавжди, і це нормальна межа автоматизації. Відповідальність за підпис, платіж чи кадрове рішення несе людина, тому і останнє слово має бути за нею, а агент робить так, щоб це слово займало хвилину і спиралось на повні дані.

Що питати у підрядника

  • На яких кроках агент діє сам, а на яких чекає людину?
  • Що бачить людина, коли підтверджує?
  • Що стається, коли агент не впевнений?
  • Де журнал дій і рішень?
  • Як змінюються пороги після запуску?

Процеси з правильно розставленими точками контролю ми будуємо в напрямах автоматизації бізнес-процесів і розробки AI-агентів. Опишіть свій процес у формі на головній, і після брифу за робочий день ви отримаєте оцінку і карту, де агент діє сам, а де питає людину.

Згадані агенти

Часті запитання

Що означає human-in-the-loop?

Це принцип побудови автоматизації, за яким людина лишається у контурі там, де рішення має наслідки: гроші, договори, персонал, репутація. AI-агент збирає дані, готує варіанти і чернетки, а підтверджує, погоджує чи відхиляє людина.

Чи не зводить людина в контурі нанівець користь від ШІ?

Навпаки: агент бере на себе рутину (зібрати, звірити, підготувати), а людина витрачає хвилини на рішення замість годин на підготовку. Контроль при цьому зберігається там, де він потрібен.

Як визначити, де потрібна людина?

Питання просте: чи можна виправити помилку до того, як вона завдасть шкоди. Якщо так (чернетка, рознесення до проведення), агент може діяти сам. Якщо ні (платіж, підпис, звільнення, публічна відповідь у кризі), потрібне підтвердження людини.

Чи можна з часом прибрати людину з контуру?

Для окремих кроків так: коли за кілька місяців журнал показує стабільну якість, частину підтверджень замінюють вибірковою перевіркою. Рішення з юридичними і фінансовими наслідками лишаються за людиною.

Потрібен такий агент у вашому бізнесі?

Проєктуємо, будуємо і запускаємо AI-агентів під ваш процес, зазвичай за 3-5 тижнів.