Як CIO керуватимуть сотнями AI-агентів: головний виклик майбутнього

У міру того, як компанії запускають десятки AI-агентів і великих мовних моделей (LLM), їм потрібна платформа для оркестрації та інтеграції, яка керуватиме всіма цими системами, кажуть експерти.

У майбутньому підприємства матимуть десятки або сотні AI-агентів. CIO координуватимуть їхню роботу, допомагаючи співробітникам проходити різні бізнес-процеси. Наприклад, HR-спеціаліст просто попросить чатбота організувати адаптацію нового працівника. Координуючи кількох агентів, той зареєструє людину в системі зарплат, допоможе з вибором страхування, налаштує пошту, конференції, навчання, пропуск, доставку техніки — все майже без участі людини.

Такі сценарії вже тестують деякі компанії. Зі зростанням кількості LLM та агентів оркестраційні платформи стануть необхідністю.

За прогнозом Gartner, до 2028 року 70% організацій, що працюють із багатьма AI-моделями, використовуватимуть інтеграційні платформи. У 2024 таких було менш як 5%. Деякі експерти вважають, що саме поєднання кількох агентів в автономні процеси робить їх справжніми агентами.

Підключення даних і прийняття рішень

Платформи оркестрації потрібні, бо агенти й LLM мають бути зв’язані між собою. Ендрю Гамфрі з Gartner каже: «AI має мати доступ до даних і можливість діяти. Інакше агент марний». Оркестрація дає змогу CIO налагодити підключення агентів до даних і контролювати IT-системи.

Бет Сканьйолі з Redpoint Global зазначає, що компанії працюють із кількома LLM, застарілими системами й новими агентами водночас. Без оркестрації це стане хаосом і втратить ефективність.

Зв’язок між стратегією і виконанням

Оркестрація — це про те, як AI-інструменти отримують, передають і використовують дані. Це не лише про результат, а й про дотримання корпоративних стандартів. Сканьйолі радить CIO шукати гнучкі, AI-агностичні інструменти, що працюють із будь-якою моделлю, керують безпекою, версіями й відстеженням даних.

Ринок і практика

Ринок оркестраційних платформ зростає. Поки що його заповнюють малі гравці, але незабаром увійдуть великі IT-компанії. Деякі фірми розробляють власні рішення, але Гамфрі радить адаптувати наявні API.

Приклад IBM

IBM експериментує з агентами з 2017 року. Вони працюють у відділах продажів, IT та HR. Раніше HR-система була складною — постійно змінювалися інструкції. Тепер через агента можна створити запит на підвищення зарплати, перевести співробітника, сформувати опис вакансії тощо.

Однак для більшості компаній простіше починати з готових рішень. Лівінгстон радить обирати кейси, які болючі для працівників, наприклад, подання заявок на відпустку.

Майбутнє за агентами

«Це нескінченна система агентів», — підсумовує Лівінгстон. Компанії, які обирають цей шлях, звільняють працівників від купи інтерфейсів і пропонують єдину точку доступу через агента. «Не треба вчити користуватися 500 системами — агент усе пояснить і зробить», — додає вона.

Авторка: Дар’я Бровченко

Джерело