Штучний інтелект під контролем людини: керування агентами майбутнього

"Ми всі станемо CEO маленької армії AI-агентів," — прогнозує Ерік Бріньйольфссон, директор лабораторії цифрової економіки Стенфордського інституту штучного інтелекту, який фокусується на людинозалежних технологіях, і засновник Workhelix, в інтерв’ю для The New York Times.
Він закликає замислитись: що саме ми хочемо досягти? Які цілі справді важливі?

Нові професії від AI?

Бріньйольфссон — справжній техно-оптиміст, але попереджає, що керування "армією" AI — це не просто фішка, а виклик, якого треба серйозно сприймати. Його думку підтримує Даріо Амодей, співзасновник і CEO Anthropic, який відкрито говорить про ризики AI.

Амодей пояснює, що спершу AI-агенти успішно застосовуються у програмуванні, але дуже швидко їх робота виходить за межі цього — вони стають частиною бізнес-процесів різного роду.

Зараз AI-агенти не працюють поодинці — вони формують мережі, які взаємодіють і активують одне одного, щоб швидко реагувати на завдання.

AI-агенти — не автономні, потрібні люди

Навіть найбільш запеклі прихильники AI погоджуються: без людей, що керують діями агентів, ніяк не обійтись. Амодей пояснює: "Ти делегуєш агентам роботу, а сам фактично стаєш менеджером цієї армії."

Це і є так звані "флоти агентів," які згодом перетворяться на "рой агентів."

Як Anthropic використовує Claude

Фундаментальна модель Anthropic — Claude — застосовується у різних сферах: від кодування до бізнес-завдань.

"Програмування розвивається найшвидше — саме там ми бачимо перші результати," — каже Амодей. "Це знак того, що скоро так буде у всіх сферах. Спочатку люди просто писали код, потім настала епоха автодоповнення, тепер ми переходимо у вібраційне кодування, коли ти фактично “просиш” модель зробити щось, і це дуже інтерактивно."

Людський фактор — це must-have

Керівник агентів завжди потрібен — "як у справжній компанії," пояснює Амодей. Люди контролюють, щоб агенти не розголошували приватні дані і не робили дій, які можуть спричинити кризу в безпеці.

Приклад від Block (раніше Square)

Один з відомих відкритих проектів AI-агента — Codename Goose від Block. Спочатку це був інструмент для програмістів, але зараз його застосовують і в інших відділах компанії.

"Спершу Goose використовували близько 75% інженерів Block. Але потім він став універсальним інструментом, який координує різні завдання, працює з різними даними і автоматизує дії," — пояснює Амодей.

Сьогодні ним користується щонайменше 40% співробітників Block — не лише розробники.

Anthropic "їсть власну їжу"

Команда Anthropic активно застосовує Claude для креативних досліджень, фінансового аналізу і не тільки. "Ми бачимо, що агенти автономно покращують бізнес, допомагають запускати нові продукти і розробляти маркетингові стратегії," — ділиться Амодей.

"Якщо ти сам не отримуєш користі від продукту, навряд чи варто продавати його іншим."

Масштаби зростання AI-агентів

Прогнозують, що впровадження агентів виросте на 327% за два роки. Вже зараз їх можна вважати "віртуальними колегами," хоч ми поки не на тому рівні.

Виклики і майбутнє

Амодей застерігає: дуже складно знайти баланс між тим, щоб агенти точно виконували інструкції і не перевищували свої повноваження. Потрібно ретельно "налаштовувати" моделі, щоб вони розуміли людський намір і виконували завдання коректно — від кодування до роботи з клієнтами.

Процес вдосконалення ще триває, але вже є суттєвий прогрес.

Авторка: Дар’я Бровченко

Джерело