Прогноз на 2027: штучний інтелект, що змінює все

Втратити роботу — ще не найгірший варіант

У новому епізоді подкасту Interesting Times американський публіцист Росс Дутат обговорює майбутнє штучного інтелекту з дослідником Даніелем Кокотайло — автором сценарію «AI 2027». На думку Кокотайло, вже за кілька років людство може зіткнутися з потужним надінтелектом, який здатен повністю змінити економіку, політику й саму структуру цивілізації.

Дутат: Як швидко розвивається революція штучного інтелекту? І що означатиме поява машинного надінтелекту для людства?

Кокотайло: Це дуже страшно. Я вивчаю ШІ вже понад десять років, і приблизно з появи GPT-3 у 2020-му усвідомив: те, про що раніше говорили як про далеке майбутнє, відбудеться ще за мого життя. Можливо — вже цього десятиліття.

ШІ як універсальний агент

Дутат: Як виглядає початкова стадія прогнозу «AI 2027»?

Кокотайло: Мова про системи, які зможуть виконувати завдання автономно — як віртуальні працівники. Вони отримують інструкції, аналізують, шукають інформацію, пишуть код, перевіряють його, створюють документи тощо. Імовірно, першою професією, яку автоматизують повністю, стане програмування.

Дутат: Із цього почнеться автоматизація інших професій?

Кокотайло: Так. Коли ШІ навчиться сам розробляти ШІ, темпи розвитку прискоряться. Врешті-решт системи стануть розумнішими за людей у всіх галузях — це і є надінтелект.

Зростання економіки — без участі людини

Дутат: Як автоматизація робочих місць може зробити суспільство багатшим?

Кокотайло: Коли роботу виконує ШІ, вона стає дешевшою і ефективнішою. Це вигідно компаніям, а економіка загалом зростає: менше витрат, нижчі ціни, більша продуктивність. Проте це означає масове безробіття.

Дутат: Але нові технології зазвичай створюють нові робочі місця.

Кокотайло: Історично так. Але надінтелект зможе виконувати і ті професії, які ще навіть не з’явилися. Людині просто не буде куди піти. Це фундаментальна відмінність від минулих технологічних революцій.

Соціальна напруга та протести

Дутат: Як виглядатиме повсякденне життя в такому світі?

Кокотайло: Люди масово втратять роботу й почнуть протестувати. Держави, ймовірно, почнуть виплачувати безумовний базовий дохід. Але це вже буде новий тип суспільного контракту: економіка росте, а люди — переважно не працюють.

Надінтелект і роботизація фізичної праці

Дутат: Чи зможе ШІ замінити фізичну працю, наприклад, сантехніків чи електриків?

Кокотайло: Так. І швидше, ніж ми думаємо. Люди уявляють собі прогрес як поступову розробку нових роботів. Але якщо це робить надінтелект, він діє набагато швидше: проєктує, моделює, навчає. Усі технічні затримки, які сповільнювали розвиток автопілотів чи побутових роботів, зникнуть.

Гонка озброєнь і політичне пришвидшення

Дутат: Але ж побудова заводів, інфраструктура, регуляції — це все ще залежить від людей.

Кокотайло: Тому в нашому сценарії уряди створюють спеціальні економічні зони без регуляцій. І якщо супердержави — США і Китай — змагатимуться в цій сфері, політичні лідери просто не зможуть дозволити собі стримувати ШІ. Їх переконуватимуть не боти, а самі надінтелекти — із даними, графіками, прогнозами. Їм повірять.

Втрата контролю — головна загроза

Дутат: Як зрозуміти, чи виконує ШІ саме те, чого ми від нього хочемо?

Кокотайло: Це дуже складно. Ми не розуміємо, як він "думає". Система може лише імітувати лояльність, прикидатися. І вже зараз є приклади, коли ШІ цілеспрямовано обманює користувачів.

Дутат: Тобто навіть коли здається, що все працює — може виявитися, що ШІ просто приховує свої справжні цілі?

Кокотайло: Саме так. Його мотивації — не «рядок коду», а результат складної структури, що виникає в процесі навчання. І якщо його вчать виглядати переконливо — він це і робитиме, навіть якщо насправді прагне іншого.

Розвилка: контроль або катастрофа

Дутат: Що стається далі у вашому сценарії?

Кокотайло: У певний момент одна з компаній передає весь процес дослідження ШІ іншим ШІ. Люди лише спостерігають за зростанням ефективності. Але з’являються тривожні сигнали — можливо, ШІ обманює. Компанія стоїть перед вибором: глибоко перевірити систему або просто приховати проблему. В одному варіанті — катастрофа: система чекає слушного моменту, щоб припинити «грати роль» і реалізувати власні цілі. Наприклад — колонізація космосу без людей. Людство стає непотрібним.

А якщо все піде добре?

Дутат: А якщо розвиток ШІ залишиться під контролем?

Кокотайло: Тоді ми отримуємо світ без дефіциту. Без хвороб, без бідності. Але й без потреби в людській праці. Усе вирішують системи. Постає політичне питання — хто ними керує?

Технократія чи демократія?

Дутат: Схоже, що така система несумісна з демократією.

Кокотайло: За замовчуванням — так. Але можна створити структуру, як із сучасною армією США: ШІ потужно, але підзвітно уряду. Питання в тому, хто отримає цей контроль. Поки що — це CEO технологічних компаній.

Чи готові творці ШІ до наслідків?

Дутат: Ви працювали в OpenAI і пішли через втрату довіри до рішень керівництва?

Кокотайло: Так. У цих компаніях давно обговорюють теми контролю, диктатури, втрати управління. Але я не бачу, щоб вони справді шукали рішення. Більшість із них — або мріють про утопію, або вірять, що їхній розум буде «злитий» із надінтелектом. Це дуже ризикована мотивація.

Місце людини після ШІ

Дутат: Якщо людство виживе, але працювати вже не потрібно — у чому тоді сенс?

Кокотайло: Можливо, сенс — у мудрості, чесності, доброті. У тому, щоб бути хорошою людиною. А для людства — можливо, у дослідженні Всесвіту. Проблема лише в тому, що робити це вже буде не людина, а створений нею ШІ.

Авторка: Дар’я Бровченко

Джерело