Голова OpenAI Сем Олтман шокований: «Люди надто довіряють ChatGPT, хоча саме цій технології не варто довіряти»

Генеральний директор OpenAI Сем Олтман у першому епізоді нового подкасту компанії відверто розповів про те, наскільки високий рівень довіри користувачів до ChatGPT. Він зазначив: «Люди надто довіряють ChatGPT, що цікаво, бо ШІ часто «галюцинує». Саме цій технології не слід довіряти так сильно».

Це чесне зізнання прозвучало в час, коли можливості штучного інтелекту все ще лише на початковому етапі розвитку. Мільярди людей у світі вже використовують ШІ, але, як наголосив Олтман, він поки що не надто надійний.

Моделі мовного штучного інтелекту, як ChatGPT, відомі тим, що можуть «галюцинувати» — вигадувати правдоподібну, але хибну або вигадану інформацію. Незважаючи на це, мільйони користувачів покладаються на ці інструменти для досліджень, роботи, порад у повсякденному житті та навіть батьківстві. Сам Олтман зізнався, що часто користувався ChatGPT, ставлячи запитання про виховання сина в його перші місяці життя, визнаючи і корисність сервісу, і ризики, пов’язані з довірою до ШІ, який може впевнено помилятися.

Спостереження Олтмана відображає парадокс AI-революції: користувачі розуміють, що ШІ може помилятися, але зручність, швидкість і природність спілкування з ChatGPT створили рівень довіри, який раніше був характерний радше для людських експертів чи близьких друзів. Ця довіра посилюється здатністю ШІ пам’ятати контекст, персоналізувати відповіді і допомагати у широкому спектрі питань — функції, які, за словами Олтмана та команди OpenAI, лише покращуватимуться з часом.

Водночас Олтман попереджає, що така довіра не завжди виправдана. Особливо небезпечно надто покладатися на ШІ у критичних сферах, як-от охорона здоров’я, юриспруденція чи освіта. Він підкреслює, що, хоч ChatGPT і корисний, користувачі мають бути свідомими, критично оцінювати інформацію і пам’ятати: «ШІ галюцинує» і слід уникати сліпої довіри.

У розмові також піднімали питання приватності, зберігання даних і монетизації. OpenAI досліджує нові функції, як-от постійну пам’ять і потенційні рекламні продукти, і Олтман наголосив на важливості збереження довіри користувачів через прозорість і захист приватних даних. Судовий позов від The New York Times щодо зберігання даних і авторських прав додатково підкреслює делікатний баланс між інноваціями, дотриманням законодавства і правами користувачів.

Авторка: Дар’я Бровченко

Джерело