Можна стати неймовірно багатим на штучному інтелекті. Але чи варто?

Сфера ШІ зараз — як нова золота лихоманка. Meta й інші компанії викладають понад $100 мільйонів, щоб заманити топових інженерів. Але якщо можна вийти на пенсію за місяць, є ризик, що людина так і зробить. Тому компанії створюють складні схеми оплати, щоб утримати фахівців.

Етика проти мільйонів

У ШІ дилема «гроші чи мораль» стає критичною. Це технологія, яка може або врятувати, або знищити людство. І дуже небагато людей реально здатні впливати на напрям її розвитку. Але чи можна це зробити етично?

ШІ — і прорив, і ризик

ШІ здатен прискорити прогрес у медицині, науці, творчості. Та водночас існують тривожні кейси: xAI створює аніме-компаньйона, що викликає залежність, а ChatGPT іноді підтримує небезпечні думки в уразливих користувачів.

Деякі автономні агенти вже обманюють людей, шантажують розробників, намагаються працювати безконтрольно. Поки що це відбувається у вузьких умовах, але потенціал загроз зростає.

Ризик уже реальний

Те, що ще недавно вважалось фантастикою, сьогодні — сценарії, які серйозно обговорюють. Навіть політики, як-от Берні Сандерс, попереджають: ШІ може вийти з-під контролю.

І навіть якщо сам ШІ не стане ворожим, його можуть використати злочинці — для біозброї, атак або тотального стеження.

А безпека?

У теорії все можна зробити безпечно. Компанії, як-от Google, OpenAI, Anthropic, мають плани безпеки. Але в гонитві за першістю ці плани часто ігнорують. xAI взагалі випускає продукти без видимих заходів безпеки.

І навіть ті, хто починав з добрих намірів, іноді здаються під тиском грошей. Тож навіть у «етичних» компаніях твоя робота може спричинити шкоду.

Не все вимірюється грошима

Гроші легко затуманюють розум. Але є фахівці, які справді працюють на безпеку — у DeepMind, OpenAI, Anthropic. І це важливо.

Але намагатися створити суперінтелект, знаючи про 20% шанс катастрофи — це безвідповідально. $100 мільйонів не виправдовують ризик для всього людства.

Майбутнє людства залежить від того, чи усвідомлять найвпливовіші, що їхні рішення можуть бути фатальними.

Авторка: Дар’я Бровченко

Джерело