OpenAI API у компанії: дані, договір і якість
Що відбувається з даними в API OpenAI, Anthropic чи Google, що записати в договір, як перевірити якість українською і коли API замало.
Коли компанія переходить від експериментів у чаті до власного AI-агента, першим постає питання про хмарний API: що вендор робить з надісланими даними, що записати в договір і чи впорається модель з українськими документами. Для більшості задач API з маскуванням і регіоном ЄС закриває вимоги безпеки. Нижче розбираємо, як це перевірити, і де API замало, тобто коли варто дивитись на власну модель.
Що означає кожен варіант
Хмарна модель через API. Ваш застосунок надсилає запит у модель OpenAI, Anthropic, Google або в ту саму модель через хмару Microsoft Azure і отримує відповідь. Модель, сервери і оновлення на боці вендора. Оплата за обсяг тексту.
Приватна модель. Модель з відкритими вагами, наприклад Llama, Mistral, Qwen, Gemma або gpt-oss, працює на вашому сервері або в орендованій хмарі під вашим контролем. Дані не виходять за межі вашої інфраструктури.
Порівняння
| Критерій | Хмарна модель через API | Приватна модель |
|---|---|---|
| Якість на складних задачах | найвища | нижча, розрив скорочується |
| Українська мова | добре | залежить від моделі, треба перевіряти |
| Де обробляються дані | у вендора, можливий регіон ЄС | лише у вашій інфраструктурі |
| Старт | дні | тижні |
| Витрати | оплата за обсяг | сервер з GPU і інженер |
| Масштабування | вендор | ваша команда |
| Оновлення моделі | автоматично від вендора | коли вирішите ви |
| Робота без інтернету | немає | можлива |
Коли достатньо API
- Дані без персональної інформації: описи товарів, тексти для сайту, аналіз публічних документів, код.
- Персональні дані є, але обробка дозволена договором і політикою, а вендор дає договір обробки даних і регіон ЄС.
- Потрібна найвища якість: складні міркування, довгі документи, аналіз з кількома кроками.
- Обсяг запитів помірний або нерівномірний: платите лише за використане.
За політикою великих вендорів дані з API за замовчуванням не йдуть у навчання моделей. Для бізнесових сценаріїв доступні режими з мінімальним зберіганням і обробка в Європі. Умови змінюються, тому юрист має прочитати чинну редакцію до запуску.
Коли API замало
- Регулятор або внутрішня політика забороняє передавати дані третім сторонам: банки, медицина, державні установи, оборонні підприємства.
- Дані становлять комерційну таємницю: рецептури, собівартість, умови контрактів.
- Великий і стабільний обсяг простих запитів, де власний сервер дешевший за оплату за обсяг.
- Потрібна робота в закритому контурі без доступу до інтернету.
Варіанти розгортання власної моделі, вимоги до заліза і розрахунок сервера проти хмари розібрані у статті локальна LLM і приватний ШІ на своєму сервері.
Гібрид: найчастіша відповідь
На практиці більшість наших проєктів використовують змішану схему.
Маскування перед відправкою. Персональні дані замінюються мітками до того, як текст іде в модель, і повертаються у відповідь уже на вашому сервері. В одному з наших проєктів, AI-чаті інтернет-магазину, правило записане в коді: телефон, пошта і адреса клієнта ніколи не потрапляють у запит до моделі, модель бачить лише імʼя, а деталі замовлень підставляються тільки коли клієнт сам про них питає.
Розподіл задач. Класифікація, пошук і витяг даних з документів на приватній моделі, складні відповіді і міркування в хмарній моделі без чутливих даних.
Детерміновані розрахунки окремо. Там, де потрібна точність, модель зовсім не рахує. У нашому сервісі перевірки контрагентів рівень ризику рахує формула з відкритими вагами, а модель допомагає лише зібрати і пояснити факти. Такий підхід зменшує і ризик помилки, і обсяг даних, що йдуть у модель.
Кілька вендорів з резервом. Агент звертається до основної моделі, а при збої або повільній відповіді переходить на резервну. Для користувача це один агент, який працює стабільно.
Як ухвалити рішення
- Складіть перелік даних, які агент бачитиме, і позначте категорії: публічні, внутрішні, персональні, таємниця.
- Запитайте юриста і службу безпеки, які категорії можна передавати зовнішньому постачальнику і на яких умовах.
- Прогоніть десять реальних задач через хмарну і відкриту модель і порівняйте якість.
- Оцініть обсяг запитів на місяць і порахуйте витрати обох варіантів на рік.
- Оберіть схему: лише API, лише приватна модель або гібрид з маскуванням.
У брифах під AI-агентів ми одразу питаємо про контур і політику щодо моделей, щоб це рішення не зʼявлялось наприкінці проєкту і не змушувало переробляти архітектуру.
Що ще впливає на безпеку
Модель це лише частина системи. Захист даних залежить і від іншого:
- хто має доступ до агента і до журналу його дій;
- де зберігаються документи і відповіді;
- чи логуються запити без зайвих персональних даних;
- чи є ліміти запитів і захист від підміни інструкцій через текст користувача.
Ці питання однакові для обох варіантів, і їх варто закрити до запуску.
Як перевірити якість українською
Перед рішенням прогоніть обидва варіанти на однаковому наборі:
- 20-30 реальних запитів з вашої роботи без чутливих даних;
- для кожного правильна відповідь, яку дає досвідчений співробітник;
- оцінка за шкалою: правильно, частково, неправильно, вигадано.
Особливу увагу звертайте на вигадані факти. Для бізнесу модель, яка чесно каже «даних недостатньо», корисніша за модель, яка впевнено відповідає неправильно. У наших агентах це правило закладене в інструкції: заборона вигадувати і обовʼязкова відповідь «даних недостатньо», коли фактів немає.
Коротка відповідь
Для більшості компаній старт через API хмарної моделі з договором обробки даних, маскуванням персональних даних і регіоном ЄС дає найкращий баланс якості, строку і витрат. Приватна модель виправдана там, де регулятор або політика забороняє передавати дані назовні, або де обсяг простих запитів великий і стабільний. Гібридна схема дозволяє почати з API і перенести частину задач на приватну модель пізніше без переробки агента.
Що записати в договір з підрядником
Незалежно від обраної схеми, зафіксуйте письмово: які моделі і в яких регіонах обробляють дані, які дані маскуються перед відправкою, як довго зберігаються журнали запитів і хто має до них доступ, що відбувається при зміні моделі вендором і як компанія може забрати всі свої дані і налаштування. Ці пункти займають пів сторінки, але знімають більшість питань служби безпеки і юриста ще до запуску.
Що ми пропонуємо
Допомагаємо вибрати схему в межах аудиту готовності до ШІ, будуємо агентів на хмарних і приватних моделях у напрямі розробка AI-агентів, а базу знань компанії для пошуку по документах у напрямі RAG і база знань. Розгортання в приватному контурі відповідає тарифу Corporate, ціни всіх тарифів на сторінці цін.
Детальніше про тарифи у статті тарифи AI-агента. Опишіть дані і вимоги безпеки у формі заявки, і після брифу за робочий день ми запропонуємо схему з оцінкою.
Часті запитання
Чи навчає OpenAI свої моделі на даних з API?
За політикою OpenAI дані, надіслані через API, за замовчуванням у навчання моделей не використовуються. Для окремих випадків доступні режими з мінімальним зберіганням і обробка в регіоні ЄС. Перед запуском звіряйте чинні умови у документації OpenAI.
Яку відкриту модель можна поставити на свій сервер?
Популярні сімейства з відкритими вагами: Llama, Mistral, Qwen, Gemma, gpt-oss. Вибір залежить від задачі, мови, розміру моделі і наявного обладнання. Для української мови якість треба перевіряти на власних прикладах.
Що записати в договір про обробку даних через API?
Які моделі і в яких регіонах обробляють дані, що маскується перед відправкою, скільки зберігаються журнали запитів і хто має до них доступ, що відбувається при зміні моделі вендором і як забрати свої дані і налаштування.
Чи можна поєднати обидва варіанти?
Так. Типова схема: чутливі дані обробляє приватна модель або вони маскуються перед відправкою, а складні задачі без персональних даних йдуть у хмарну модель.
Потрібен такий агент у вашому бізнесі?
Проєктуємо, будуємо і запускаємо AI-агентів під ваш процес, зазвичай за 3-5 тижнів.