понеділок, 28 липня 2025 р.

Агентний ШІ без контролю людини — небезпека, попереджає Google


На конференції Fortune Brainstorm AI в Сінгапурі віцепрезидентка Google з питань Південно-Східної Азії та Південної Азії Фронтир, Сапна Чада, розповіла, що агентні ШІ-системи еволюціонують і перестають бути просто асистентами для однієї задачі. Вони поєднують потужні мовні моделі з інструментами, які дозволяють виконувати складні, багатокрокові дії. Тобто агент може діяти від імені користувача у все більш просунутий спосіб.

За прогнозами, до 2028 року близько 33% всього корпоративного софту матимуть вбудований агентний ШІ, який автоматизує до 15% повсякденних робочих процесів, зазначила Чада.

Вівет Лутра, керівник з даних і ШІ в Азіатсько-Тихоокеанському регіоні компанії Accenture, поділився трьома стадіями впровадження агентного ШІ у клієнтів:

  • AI Assist — агент допомагає працівникам з окремими завданнями.

  • AI Adviser — агент дає рекомендації для кращих рішень.

  • Autonomation — агент повністю керує робочими процесами автономно.

Лутра зауважив, що більшість компаній досі на перших двох стадіях, але в Accenture вже є приклади повністю автономних процесів у стратегічних підрозділах.

У самій Accenture агентні ШІ використовують у HR, фінансах, маркетингу, IT. Зовнішні галузі, як-от фармацевтика, прискорюють регуляторні процедури, а страхові й банківські компанії — борються з шахрайством.

За даними останнього звіту Accenture, лише близько 8% компаній суттєво масштабували впровадження ШІ. «ШІ дуже актуальний, але компанії все ще шукають, як його ефективно масштабувати», — підсумував Лутра.

Чада розповіла, що агентні функції з’являються як у споживчих продуктах Google, так і у корпоративних рішеннях. Вона виділила Project Astra — візію універсального агентного ШІ, який може виконувати різні завдання: від діагностики ремонту велосипеда через камеру до ініціювання дзвінків служби підтримки.

З розвитком автономних систем зростає потреба у відповідальному ШІ та покращених стандартах безпеки. Google співпрацює з перевіреними тестувальниками й обережно рухається вперед. Основні ризики — це «відступ агентів від намірів» або несанкціоноване розголошення конфіденційних даних. Тому компанія розробляє чіткі рекомендації та інструментарій для безпечного запуску таких агентів. Нещодавно Google оприлюднила документ «Підхід Google до безпечних агентів ШІ».

Обидві спікерки наголосили на важливості прозорості та контролю користувача. Чада підкреслила: платформи агентного ШІ мають чітко інформувати про свої дії й отримувати підтвердження користувача на ключових етапах. «Не можна запускати систему, яка робитиме все сама без людини в циклі», — сказала вона.

Регуляція також критична: «Це надто важливо, щоб залишити без регуляторного контролю», — наголосила Чада, закликаючи до розробки жорстких протоколів та галузевих стандартів.

Авторка: Дар’я Бровченко


Джерело


Немає коментарів:

Дописати коментар

Примітка: лише член цього блогу може опублікувати коментар.