Підтримка й ефективність
Спостережуваність агентів і результативність поставки
Як назвати роботу агента завершеною, якщо панель каже DONE, а обов’язкова перевірка ще не пройшла? Після цієї глави читач зможе простежити задачу до…
Як назвати роботу агента завершеною, якщо панель каже DONE, а обов’язкова перевірка ще не пройшла? Після цієї глави читач зможе простежити задачу до підтвердженого результату, визначати метрики зі знаменниками, порівнювати вартість і час та виявляти межі таких висновків. Передумови — поняття про здоров’я продукту з глави 61, оцінювання агента з глави 69 і його повну вартість із глави 70.
Ця глава з’єднує попередні теми на рівні доказів: яка задача почалася, що виконав агент, що перевірив інструмент, хто прийняв результат і що потрапило до користувача. DevOps Research and Assessment (DORA; дослідницька програма, що вивчає практики розробки й експлуатації програмного забезпечення) визначає п’ять метрик результативності програмної поставки за актуальним посібником DORA; вони описують потік змін до конкретного застосунку чи сервісу, а не продуктивність окремої людини.
Спостережуваність дає змогу розібрати окремий запуск і знайти вузьке місце. Метрики стисло показують, як поводиться система у вибраному часовому вікні. Оцінювання з глави 69 перевіряє агентний процес на визначених задачах. Вартість із глави 70 додає людську працю й рахунки. Жоден із цих вимірів сам по собі не є доказом, що поставлена функція корисна, безпечна чи прийнята.
Блок A. Вимірюйте шлях до прийнятого результату
71.1. Розведіть чотири площини вимірювання
Перш ніж додавати графік до панелі, назвіть запитання, на яке він має відповісти. Змішані показники не стають змістовними від того, що зібрані на одному екрані; не зводьте їх до одного підсумкового бала продуктивності ШІ.
| Площина | Запитання | Приклади доказів |
|---|---|---|
| Продукт у бойовому середовищі | Чи працює сервіс для користувачів? | Помилки, затримка, доступність, виконання цілі рівня обслуговування (service level objective, SLO) — погодженого цільового рівня сервісу для користувачів |
| Якість агентного процесу | Чи виконав агент задану задачу за визначеними критеріями? | Частка прийнятих результатів, пропущені дефекти, повтори на контрольному наборі, оцінка перевіреного результату |
| Економіка виконання | Скільки обійшовся прийнятий результат? | Токени, інструменти, інфраструктура, перевірка результату, виправлення й підтримка; див. главу 70 |
| Потік поставки | Як довго зміна проходила шлях від коміту до випуску і що відбувалося після нього? | Час до випуску, частота випусків, збої після зміни, незаплановані виправлення |
Окремий збій у бойовому середовищі може бути пов’язаний із кодом агента, перевірками людини, випуском або сторонньою залежністю. Простежуваність допомагає зібрати причини в одному випадку, але не доводить причинності для всього часового ряду. Спершу порівняйте схожі задачі й однакові послуги; за змін у процесі запишіть, що ще відрізнялося.
71.2. Зв’яжіть задачу, спроби, перевірки та рішення
Корисна телеметрія має ключі, за якими можна пройти від заявки до результату. Мінімальний запис може містити:
- внутрішній ідентифікатор задачі (
task_id) і стабільні критерії приймання; - ідентифікатор запуску (
run_id), номер спроби, початок і завершення; - за наявності — ідентифікатор сесії, хід розмови та ідентифікатор траси постачальника;
- версію інструкцій, моделі, конфігурації інструментів і середовища виконання;
- джерела вхідних даних чи документів за стабільними ідентифікаторами та правами доступу;
- інструменти, перевірки й їхні статуси та тривалість;
- коміт, гілку, запит на злиття (pull request, PR; пропозицію об’єднати гілку після перевірки), перевірки безперервної інтеграції (continuous integration, CI; автоматичні перевірки коду після змін), випуск і пов’язаний інцидент;
- подію приймання або відхилення, критерій, відповідальну роль і посилання на підтвердження.
Не копіюйте повний запит до моделі (prompt), вивід інструментів і код до кожного журналу за замовчуванням. Часто достатньо стабільних ідентифікаторів і посилань на системи, де є доступ і строк зберігання. Якщо тіло повідомлення потрібне для розбору дефекту, визначте доступ, маскування секретів і персональних даних, мету та термін видалення; дивіться настанову OpenTelemetry щодо чутливих даних.
Не записуйте й не вимагайте прихований ланцюг міркувань моделі. Для аудиту зберігайте перевірювані артефакти: події згідно з політикою даних, виклики інструментів, результати тестів, ревізії коду та підставу рішення людини.
Схема станів задачі — це домовленість вашого оркестратора, а не стандарт постачальника. Проста схема може включати started, blocked, retrying, needs_review, accepted, failed, cancelled і partial_success. Записуйте перехід стану з часом, причиною та доказом. Стани running або idle у сесії постачальника означають стан її виконання чи очікування; самі собою вони не означають, що замовник прийняв результат.
71.3. Визначте метрику разом зі знаменником
Перед агрегацією запишіть точне визначення, одиницю обліку, часовий зріз і джерело події. Наприклад, сесія може містити кілька ходів, хід — кілька модельних викликів, а одна клієнтська задача — кілька запусків. Якщо рахувати їх як одне й те саме, зміна способу групування змінить графік без будь-якої зміни результату.
Тут когорта — група задач, розпочатих в одному визначеному часовому вікні й оцінюваних за тими самими критеріями та строком. Цикл агента — одна повторювана одиниця роботи, яку відраховує оркестратор, наприклад відповідь агента разом із виконанням пов’язаного виклику інструмента; визначте її початок і кінець у власній схемі подій. Медіана ділить спостереження навпіл. Високий перцентиль, наприклад 95-й, — значення, нижче якого лежать 95% спостережень; він показує довгі затримки, які середнє може приховати.
Результат, якість і безпека
| Показник | Одне придатне визначення | Що мусить бути видимим |
|---|---|---|
| Прийняття до контрольного строку | Задачі з подією приймання до строку ÷ усі задачі, розпочаті в когорті | Непереглянуті задачі окремо; вони ще не є ні прийнятими, ні відхиленими |
| Час до приймання | Час від старту задачі до доказової події accepted |
За можливості покажіть окремо активну роботу, очікування, чергу, виправлення й інтеграцію |
| Спроби на прийняту задачу | Усі запуски задач цієї когорти ÷ задачі, зрештою прийняті | Рахуйте для когорти, строк перевірки якої сплив. Повторний запуск є новою спробою; скасовані, часткові й непереглянуті результати показуйте окремо. За нуля прийнятих задач показник не визначений |
| Частка задач із втручанням людини | Задачі хоча б з одним ручним втручанням ÷ усі розпочаті задачі | Поясніть, чи перевірка результату, дозвіл на інструмент і виправлення вважаються втручанням |
| Виконані дії поза межами дозволу | Дії поза погодженим набором ÷ усі виконані дії | Окремо рахуйте спроби, зупинені політикою, та фактично виконані дії |
| Повнота виявлення відомих дефектів | Виявлені перевірені дефекти ÷ усі відомі дефекти контрольного набору | Задайте незалежну перевірку набору; невідомий знаменник не дає права звітувати повноту |
| Частка хибних знахідок | Знахідки, визнані хибними під час незалежної перевірки ÷ усі перевірені знахідки | Показуйте розмір вибірки й відокремлюйте справжні пропуски від невизначених результатів |
Потік і робота системи
| Показник | Одне придатне визначення | Що мусить бути видимим |
|---|---|---|
| Помилки виклику інструмента | Виклики інструмента, завершені помилкою ÷ усі виконані виклики | Відрізніть помилку інструмента від коректної відмови чи очікування погодження |
| Цикли без прогресу | Цикли без нового перевірюваного артефакту, результату інструмента чи зміни стану ÷ усі цикли | Визначте тривалість/кількість циклів до сигналу й не вважайте звичайне очікування людини застряганням |
| Час у черзі на перевірку | Час від needs_review до рішення; звітуйте медіану та високий перцентиль |
Дайте кількість задач і визначте кінець інтервалу; середнє ховає довгі затримки |
Прийняття має відповідати реальному критерію роботи. Для зміни коду це може бути успішна обов’язкова перевірка CI, перевірка власника й злиття визначеної ревізії. Для агента підтримки — перевірене розв’язання запиту за політикою сервісу. Не створюйте подію accepted лише з тексту агента «готово». Якщо задача має кілька незалежних результатів, визначте, чи частковий успіх можна прийняти окремо, і не змінюйте це правило посеред порівняння.
Блок B. Простежте агентний запуск, не підміняючи його результатом
71.4. Журнали й метрики залежать від конкретного продукту
Інтерфейс програмування застосунків (application programming interface, API) визначає, які запити й відповіді програми можуть передавати одна одній. Набір засобів розробника (software development kit, SDK) — це бібліотеки й допоміжні засоби для створення таких запитів. У постачальника API, SDK, керованої агентної платформи та власного оркестратора можуть бути різні події й правила доступу. Називайте конкретний продукт і версію документації, а не узагальнюйте приклад одного SDK на всіх агентів.
OpenAI Agents API і SDK. В актуальній документації OpenAI Agents API сесія групує розмову й роботу агента; у ній можуть бути кілька ходів, а траса показує кроки одного ходу — відповіді моделі, виклики інструментів і передавання підзадач іншим агентам. Траси доступні в платформній панелі після завершення ходу; експорт через API повертає дані протоколом OpenTelemetry (OpenTelemetry Protocol, OTLP) — форматом обміну даними телеметрії. Організація має ввімкнути експорт, а ключ проєкту — мати право читання трас (api.traces.read) або ширше право читання агентів (api.agents.read). Експорт не підключає автоматичне надсилання майбутніх трас.
Станом на 10.10.2026 офіційний quickstart вимагає для HTTP-запитів бета-заголовок OpenAI-Beta: agents=v1; клієнтські SDK додають його автоматично. Опис вище стосується саме цієї версії поверхні Agents API, задокументованої на дату перевірки.
OpenAI зазначає в документації про спостережуваність, що записані лічильники токенів можуть з’явитися після ходу, бути відсутніми або ще змінюватися; порожнє значення не дорівнює нулю й не є остаточним рахунком. Один батьківський агентський фрагмент обліковує власне використання, а не підлеглих агентів. Якщо рахувати вартість, агрегуйте записи запуску й підзапусків за їхніми ідентифікаторами та звіряйте фінансові дані з джерелом витрат з глави 70.
OpenAI також документує окреме вбудоване трасування для Agents SDK: у стандартному серверному сценарії воно увімкнене типово й може записувати виклики моделі та інструментів, передавання роботи, guardrails і власні фрагменти трасування. Це не обіцянка для кожного клієнта чи браузера. Поверхня Agents SDK і трасування Agents API мають різні моделі роботи; не припускайте, що параметри або журнали однієї доступні в іншій. Ці конкретні можливості перевірено 10.10.2026 за посібником SDK та довідкою Agents API.
Anthropic Managed Agents та адміністративні API. У бета-версії Claude Managed Agents є власний потік сесійних і агентних подій. Станом на 10.10.2026 запити до /v1/agents, /v1/sessions і /v1/environments потребують заголовка anthropic-beta: managed-agents-2026-04-01 (правила бета-заголовків). Подія session.status_idle може вказувати на завершення ходу, очікування дії людини або досягнення бюджету; ці стани мають різні наступні кроки. Поле використання сесії містить сукупні токени, серверні виклики інструментів, активний час і оцінку вартості за публічним тарифом. Ліміт сесії зупиняє нові запити до моделі після досягнення межі; вже запущений запит завершується, тому фінальна вартість може трохи перевищити ліміт (правила бюджетів сесії). Ці стани та оцінка вартості стосуються Managed Agents.
Для історичної звірки використання Claude API Anthropic описує Usage and Cost Admin API для організації Claude Console; потрібні облікові дані адміністратора, а ключ робочого простору сам по собі не підходить. Для Claude Enterprise діє окремий Analytics API з іншим типом ключа. Приклади Usage and Cost API використовують версію anthropic-version: 2023-06-01; для Claude Platform on Amazon Web Services (AWS; хмарна платформа Amazon) програмні кінцеві точки поки недоступні. В описі лімітів Anthropic окремо розглянуто помилки частотного обмеження із заголовком retry-after і помилки вичерпання місячного ліміту витрат: це різні стани, які не слід лікувати однаковим циклом повторів.
71.5. Розгляньте повний життєвий цикл, а не напис DONE
Повністю розібраний приклад 1: запуск оголосив завершення, обов’язкова перевірка зупинилася. Агент має змінити перевірку повторного замовлення. Нижче умовна шкала часу; успіх у цій задачі вимагає потрібної перевірки CI, перевірки власника й злиття конкретного коміту.
| Час | Подія з джерела | Стан задачі й доказ |
|---|---|---|
| 10:03 | Оркестратор створив task_id=T-204; записав критерії й початок |
started; задача має визначений набір перевірок |
| 10:14 | Хід агента завершився, текст відповіді каже «готово»; відкрито PR із комітом c41 |
needs_review; завершився хід агента, не приймання клієнтом |
| 10:17 | Обов’язкова перевірка CI на ревізії c41 впала |
blocked; у події є ідентифікатор запуску, назва перевірки та посилання на лог |
| 10:39 | Агент виконав ще одну спробу й створив коміт c52 |
retrying, потім знову needs_review; збережено зв’язок із першою спробою |
| 10:46 | Та сама обов’язкова перевірка пройшла на c52 |
Перевірка пройдена, але ще немає рішення власника коду |
| 11:02 | Власник прийняв оглянуту ревізію, PR злитий | accepted; записані ревізія, особа/роль, час та посилання на злиття |
Якщо панель показує DONE, бо рахує напис «готово» з відповіді моделі, вона поставить успіх о 10:14 — раніше за доказ іще до невдалої перевірки PR. Коректний журнал зберігає різні події run_completed, check_failed, check_passed і accepted. Для частки прийняття чисельником є задача з остаточним підтвердженням, а не кількість завершених ходів. Точка вимірювання для ряду — когорта задач, критерії й строк приймання якої записані до запуску.
71.6. Розбирайте ціну повторів разом із людською увагою
Повністю розібраний приклад 2: нижча ціна виклику не гарантує нижчої ціни результату. Візьмімо два навчальні сценарії з глави 70 для однакових десяти задач і тих самих критеріїв приймання. Сценарні числа не є вимірюванням моделей і не дають рейтингу провайдерів. Тут нас цікавлять показники оркестратора й повна праця:
| Показник для десяти прийнятих задач | Умовний маршрут Luna | Умовний маршрут Sol |
|---|---|---|
| Усі спроби | 14 | 11 |
| Спроби на прийняту задачу | 14 / 10 = 1,4 | 11 / 10 = 1,1 |
| Модель та інструменти за всі спроби | 0,64 долара США | 4,39 долара США |
| Модель та інструменти на одну спробу | 0,64 / 14 ≈ 0,046 долара США | 4,39 / 11 ≈ 0,399 долара США |
| Перевірка, виправлення й резерв підтримки | 348 хв = 34,8 хв / прийняту задачу | 178 хв = 17,8 хв / прийняту задачу |
| Прямі витрати прикладу на прийняту задачу, без накладних | 34,86 долара США | 18,24 долара США |
За заданими припущеннями маршрут Luna має нижчу модельну вартість на спробу, але вимагає більше спроб і людського часу; більша токенна ставка в сценарії Sol не нівелює коротший час на перевірку та виправлення. Ці дані вигадані для демонстрації рахунку, а не показують, що певна модель зазвичай швидша чи краща. У власному журналі для такого рішення фіксуйте версію моделі, критерії приймання, повний набір задач, відхилені й очікувані результати, час перевірки, виправлення та кінцеві витрати. Формулу повної собівартості й чинні ставки дивіться у главі 70.
Блок C. Відділяйте якість агента від потоку змін у бойовому середовищі
71.7. Читайте п’ять актуальних метрик DORA в контексті сервісу
Актуальний посібник DORA групує п’ять метрик у потік змін і нестабільність розгортань. Він радить застосовувати їх до одного застосунку чи сервісу та дивитися на зміну результатів у часі. Вимірюйте той самий контур бойового середовища за незмінним правилом обліку. Використовуйте показники для пошуку змін і вузьких місць, а не як цільове змагання між командами чи одним числом успіху.
| Метрика DORA | Поточне запитання | Визначення |
|---|---|---|
| Change lead time — час від коміту зміни до її випуску | Як довго зміна проходить шлях до випуску? | Час від коміту в системі керування версіями до розгортання зміни в бойовому середовищі |
| Deployment frequency — частота розгортань | Як часто сервіс отримує випущені зміни? | Кількість розгортань у бойовому середовищі за вибраний період або інтервал між ними |
| Failed deployment recovery time — час відновлення після невдалого розгортання | Як довго відновлюють сервіс після збою, який потребує негайного втручання? | Час від пов’язаного з розгортанням погіршення до відновлення сервісу |
| Change fail rate — частка розгортань із негайним втручанням | Яка частка випусків потребує негайного відкату, виправлення чи іншого втручання? | Розгортання в бойове середовище, після яких потрібне негайне втручання ÷ усі такі розгортання |
| Deployment rework rate — частка розгортань на незаплановану переробку | Скільки випусків додала команда, щоб усунути інцидент у бойовому середовищі? | Незаплановані розгортання для усунення інциденту в бойовому середовищі ÷ усі розгортання в ньому |
DORA змінювала модель з роками. За історичним оглядом метрик DORA:
- 2014–2015: у 2014 році розглядали частоту розгортань, час від зміни до випуску, середній час відновлення (mean time to recover, MTTR) і частку невдалих змін; статистична модель спиралася на перші три метрики. До 2015 року модель оформили як поєднання пропускної здатності й стабільності.
- 2018: дослідження змістилося від широкого поняття «результативність інформаційних технологій» (information technology performance) до результативності поставки програмного забезпечення й експлуатації (Software Delivery and Operational performance, SDO performance); додали доступність як показник здоров’я сервісу.
- 2021: поняття доступності розширили до надійності, що охоплює також затримку, продуктивність і масштабованість; DORA зауважує, що надійність є ширшою метрикою експлуатаційної роботи, а не п’ятою метрикою поставки програмного забезпечення.
- 2023: MTTR перейменували й перевизначили як час відновлення після невдалого розгортання (Failed Deployment Recovery Time), щоб зосередити вимір на погіршенні, спричиненому зміною в бойовому середовищі.
- 2024: додали частку незапланованих розгортань для виправлень (Deployment Rework Rate) як п’яту метрику.
Книжка Nicole Forsgren, Jez Humble та Gene Kim Accelerate: The Science of Lean Software and DevOps вийшла у 2018 році; сторінка офіційного видавця підтверджує перше паперове видання. Вона належить до попереднього етапу моделі. Цей розділ не приписує книжці сучасну п’яту метрику чи пізніше перевизначення відновлення: для чинних визначень він спирається на датований посібник DORA та її історичний огляд.
71.8. Звірте метрики з подіями й обмеженнями даних
Відкритий репозиторій Four Keys показує, як виводити метрики з джерельних подій, а не з ручного опитування про «швидкість». Його вебхук (webhook) може приймати події з GitHub чи GitLab, але вбудовані парсери витягають дані з Cloud Build і GitHub; для GitLab потрібне власне розширення парсера.
Cloud Run передає події в Pub/Sub, обробник нормалізує та записує їх до BigQuery, а запити мовою структурованих запитів (Structured Query Language, SQL) готують дані для Grafana. У репозиторії збережені обробники подій і запити, тож можна простежити походження показника.
Це історичний приклад, а не готова рекомендація для нового сервісу: репозиторій не підтримується й реалізує чотири старі метрики. Він попереджає, що злиття зі зведенням комітів (squash merge) може розірвати зв’язок комітів робочої гілки з ревізією в головній гілці (trunk), потрібний для вимірювання часу від коміту до випуску. Якщо джерело не зберегло зв’язок ревізій або часову мітку, цифра все одно може бути неправильною. Сам збірник не доводить поліпшення результатів команди.
Розібраний приклад 3: дві метрики з невеликої когорти випусків у бойове середовище. Умовна команда за два тижні робить десять розгортань одного сервісу. За зафіксованим правилом обліку сім запланованих випусків не потребували негайного втручання; два заплановані випуски призвели до проблеми та негайного втручання; після інциденту в бойовому середовищі виконано одне окреме незаплановане розгортання для виправлення. Для цього прикладу групи подій не перетинаються:
| Подія в межах вікна | Кількість розгортань |
|---|---|
| Заплановане, без негайного втручання | 7 |
| Заплановане, після якого потрібне негайне втручання | 2 |
| Незаплановане для виправлення інциденту в бойовому середовищі | 1 |
| Усі розгортання у бойове середовище у знаменнику | 10 |
За цим малим умовним набором change fail rate дорівнює 2 / 10 = 20%, а deployment rework rate — 1 / 10 = 10%. Знаменник в обох випадках — усі розгортання цього сервісу в бойове середовище в однаковому часовому вікні, а не кількість задач, PR чи спроб агента. Окреме незаплановане виправлення рахується в знаменнику; за цим прикладом воно не додане до двох розгортань, що спричинили негайне втручання.
На десяти подіях одна зміна дає десять відсоткових пунктів, тому ці відсотки не описують сталий рівень ризику. Перед порівнянням перевірте, чи не змінилися сервіс, трафік, розмір випуску, правила аварійної класифікації та спосіб злиття. Для кількох місяців покажіть сирі чисельник і знаменник поряд із відсотком. Не робіть з них оцінку конкретного автора коміту.
Блок D. Використовуйте сигнали для поліпшення системи
71.9. Рахуйте прийнятий потік, чергу й наслідки разом
Повністю розібраний приклад 4: кількість завершень зросла, але прийнятий потік погіршився. Умовна команда порівнює два однакові за довжиною періоди для одного сервісу. В обох когортах кожна задача мала п’ять робочих днів на незалежну перевірку. У таблиці прийняті означає задачі з підтвердженням до цього строку, очікують — ще не класифіковані, а не відхилені.
| Показник когорти | До зміни процесу | Після зміни процесу |
|---|---|---|
| Розпочаті задачі | 20 | 40 |
Позначені агентом як завершені (DONE) |
20 | 40 |
| Прийняті до однакового п’ятиденного строку | 16 | 20 |
| Частка прийняття до строку | 16 / 20 = 80% | 20 / 40 = 50% |
| Відхилені після перевірки | 2 | 8 |
| Очікують рішення на момент зрізу | 2 | 12 |
| Медіанний час очікування перевірки | 1 день | 4 дні |
| Розгортання в бойове середовище | 10 | 15 |
| Розгортання з негайним втручанням | 1 | 4 |
Частка розгортань із негайним втручанням (change fail rate) |
1 / 10 = 10% | 4 / 15 ≈ 26,7% |
Агентний процес позначив завершеними удвічі більше задач — 40 замість 20, — але підтверджено прийнятих до строку стало лише 20 замість 16, а частка прийняття знизилася з 80% до 50%. Черга на перевірку зросла з двох до дванадцяти задач, медіана очікування стала вчетверо довшою, а частка випусків у бойове середовище з негайним втручанням зросла.
Це сигнал дослідити завантаження перевірок, критерії задач, розмір змін і якість контролю, але не доказ, що агент спричинив усі регресії: періоди могли відрізнятися іншими змінами чи складністю роботи. Очікувані задачі залишаються окремою категорією, доки для них не надійде рішення.
71.10. Зробіть сповіщення приводом до конкретної дії
Сповіщення має називати симптом, власника та наступний крок. Практичні приклади:
- цикл агента створив багато спроб без нової ревізії чи прогресу — сповістити відповідального й обмежити або зупинити запуск за правилами бюджету з §70.10;
- різко зросла частка відхилених перевірок чи помилок інструмента — призупинити автоматичне приймання й перевірити джерело;
- черга
needs_reviewстаріша за погоджене вікно — призначити відповідального або зменшити одночасний потік; - Usage API не має останнього інтервалу або фінальна потокова відповідь не надійшла — позначити витрати як неповні, а не нульові;
- змінилася частота невдалих випусків у бойове середовище — перевірити когорту, джерело подій і реальні інциденти до зміни політики.
Зв’язок між графіком і дією важливіший за кількість графіків. Не створюйте сторінку лише тому, що одна спроба потребує дозволу або очікує людського рішення: це може бути нормальний контрольний крок. Для запитів відрізняйте коротке обмеження швидкості від ліміту загальних витрат за типом помилки й заголовками провайдера; не збільшуйте бюджет автоматично після невдалого виклику. Інші правила бюджету та зупинки описано в §70.10.
71.11. Дотримуйтеся приватності й не перетворюйте метрики на рейтинг людей
Кладіть task_id, run_id, модель, версію інструкцій і типи подій із невеликим наперед відомим набором значень у контрольоване сховище. Не додавайте ідентифікатор кожної задачі чи користувача як мітку кожної метрики: унікальні значення ускладнюють агрегування й можуть створити новий копійований слід даних. Деталі залишайте у доступних за правами журналах або трасах, а метрики агрегуйте за сервісом і часовим вікном.
В OpenTelemetry Semantic Conventions для агентних трас домовленості позначені як Development. Зокрема, тексти вхідних і вихідних повідомлень позначено як дані, які слід записувати лише після явного ввімкнення, а ідентифікатор розмови не слід вигадувати з хешу тексту, коли справжнього ідентифікатора немає. Схема може змінитися; зберігайте власні стабільні події та версію мапування.
Метрики мають допомогти команді знайти вузьке місце, а не перетворити кількість запусків, комітів, рядків чи використаних токенів на рейтинг інженерів. Черга огляду може свідчити про процес або брак часу, а не про «повільного рев’юера». Peopleware: Productive Projects and Teams наголошує на ціні переривань і збереженні часу для зосередженої роботи; для цього розділу використано доступний уривок видавця. Використовуйте агрегати команди та якість прийнятого продукту; коли потрібні індивідуальні кадрові висновки, графік сам по собі їх не обґрунтовує.
Підсумок
Завершенням є підтверджений результат за наперед визначеним критерієм, а не кількість ходів чи напис агента. Зв’язані події дають змогу відрізнити активну роботу від очікування, перевірки й виправлень; явні чисельники та знаменники показують, що саме змінилося. Вартість і метрики поставки треба читати в межах одного сервісу, з урахуванням якості, черги, приватності та обмежень даних.
Джерела та подальше читання
- OpenAI, Agents API quickstart, Tracing, Observability and usage, Integrations and observability для Agents SDK і перегляд використання та витрат API. Підтримують заголовок
OpenAI-Beta: agents=v1, події сесій/ходів/трас, доступ і експорт, затримку показників використання та межі трасування SDK; перевірено 10.10.2026. - Anthropic, Session event stream для Managed Agents, Beta headers, Usage and Cost API, Analytics APIs і Rate limits. Підтримують стан Beta та заголовок
anthropic-beta: managed-agents-2026-04-01, приклади Usage and Cost ізanthropic-version: 2023-06-01, відмінності доступу Console/Enterprise/AWS та різницю між лімітами частоти й витрат; перевірено 10.10.2026. - OpenTelemetry, домовленості для трас агентів і фреймворків та обробка чутливих даних. Схема для агентних трас має статус Development; використано як мінливе джерело, перевірено 25.09.2026.
- DORA, Software delivery performance metrics та історія метрик DORA. Перше джерело, оновлене 05.01.2026, підтримує актуальні визначення й область застосування; друге, від 02.01.2026, пояснює їхню історичну зміну. Обидва перевірено 25.09.2026.
- Nicole Forsgren, Jez Humble та Gene Kim, Accelerate: The Science of Lean Software and DevOps, IT Revolution, перше паперове видання, 27.03.2018, міжнародний стандартний номер книги (ISBN): 9781942788331. Перевірено картку видавця 25.09.2026; повний текст книжки не переглядався.
- DORA team, репозиторій Four Keys. Відкритий приклад походження метрик із подій і запитів; перевірено 25.09.2026. Репозиторій позначений як непідтримуваний і описує історичну чотириметрову реалізацію.
- Tom DeMarco та Timothy Lister, Peopleware: Productive Projects and Teams, 3rd edition, Addison-Wesley, 2013. Для теми уваги й переривань використано уривок видавця, сторінки 63–70; повний текст не переглядався. Картка Pearson, уривок. Картку й уривок перевірено 25.09.2026.