Наука доводить: штучний інтелект, ймовірно, робить вас дурнішими. На щастя, є рішення

Нове наукове дослідження попереджає, що використання штучного інтелекту може руйнувати нашу здатність до критичного мислення. Дослідження, проведене командою вчених з Microsoft та Університету Карнегі-Меллона, показало, що залежність від інструментів ШІ без сумніву в їхній валідності зменшує когнітивні зусилля, які ми докладаємо до роботи. Іншими словами: ШІ може зробити нас дурнішими, якщо ми використовуємо його неправильно.

"ШІ може синтезувати ідеї, покращувати міркування та сприяти критичному залученню, спонукаючи нас дивитися за межі очевидного та кидати виклик нашим припущенням", — зазначає Лев Танкеєвич, старший дослідник Microsoft Research і співавтор дослідження, у листі інтерв'ю.

Але щоб отримати ці переваги, Танкеєвич зазначає, що користувачі повинні ставитися до ШІ як до партнера для роздумів, а не просто інструмента для швидшого пошуку інформації. Важливо створювати такий користувацький досвід, який заохочує критичне мислення, а не пасивну довіру до ШІ. Якщо інтерфейс прозоро показує логіку роботи ШІ та спонукає користувачів перевіряти й уточнювати його відповіді, він може стати інструментом для роздумів, а не просто заміною людського судження

Від «виконання завдань» до «керування завданнями»

Дослідження, яке опитало 319 професіоналів, показало, що висока впевненість у ШІ інструментах часто зменшує когнітивні зусилля, які люди докладають до своєї роботи. "Вища впевненість у ШІ асоціюється з меншим критичним мисленням, тоді як вища впевненість у собі асоціюється з більшим критичним мисленням", — йдеться в дослідженні.

Це надмірне покладання на ШІ виникає через ментальну модель, яка припускає, що ШІ компетентний у простих завданнях. Як визнав один із учасників дослідження: "Це було просте завдання, і я знав, що ChatGPT може з ним впоратись без проблем, тому я навіть не думав про це". Критичне мислення не здавалося важливим, бо, в принципі, хто б заморочувався?

Цей підхід має серйозні наслідки для майбутнього праці. Танкеєвич розповідає, що ШІ змінює роботу знань-професіоналів від "виконання завдань" до "керування завданнями". Замість того, щоб вручну виконувати завдання, професіонали тепер керують контентом, створеним ШІ, ухвалюючи рішення про його точність і інтеграцію. "Вони повинні активно наглядати, керувати та вдосконалювати роботи, створені ШІ, замість того, щоб просто приймати перший результат", — пояснює Танкеєвич.

"Дослідження показує, що якщо люди не просто приймають результати, створені ШІ, а активно їх аналізують, це допомагає їм покращити процес ухвалення рішень. «Також з’ясувалося, що експерти, які вміло використовують свої знання у співпраці з ШІ, досягають кращих результатів», — зазначає Танкеєвич. «ШІ працює найефективніше тоді, коли доповнює людський досвід, допомагаючи ухвалювати більш обґрунтовані рішення та досягати сильніших результатів».

Водночас дослідження виявило, що багатьом професіоналам складно критично оцінювати відповіді ШІ через брак спеціальних знань. «Навіть якщо користувачі усвідомлюють, що ШІ може помилятися, вони не завжди мають достатню експертизу, щоб виправити ці помилки», — пояснює Танкеєвич. Це особливо актуально для технічних сфер, де для перевірки ШІ-генерованого коду, аналізу даних чи фінансових звітів потрібні глибокі спеціалізовані знання.

Парадокс когнітивного зменшення

Впевненість у ШІ може призвести до проблеми, званої когнітивним зменшенням. Це явище не нове. Люди давно делегували розумові завдання інструментам — від калькуляторів до GPS. Когнітивне зменшення не є негативним саме по собі. Коли воно використовується правильно, це дозволяє користувачам зосереджуватися на вищих формах мислення, а не на банальних, повторюваних завданнях, зазначає Танкеєвич.

Але сама природа генеративного ШІ — який створює складні тексти, коди та аналізи — привносить новий рівень потенційних помилок і проблем. Багато людей можуть сліпо приймати результати ШІ без їхнього перевіряння (і часто ці результати є поганими або просто неправильними). Це особливо стосується тих випадків, коли люди вважають завдання неважливим. "Наше дослідження показує, що коли люди вважають завдання незначним, вони можуть не оцінювати результати критично", — додає Танкеєвич.

Роль UX у взаємодії з ШІ

Розробники ШІ повинні враховувати потребу користувачів у перевірці інформації. Інтерфейси ШІ-чатів мають бути спроєктовані так, щоб заохочувати користувачів не просто сприймати відповіді, а розуміти логіку їхнього створення.

Оновлення дизайну ШІ може допомогти користувачам ефективніше працювати із завданнями та критично оцінювати результати. Це зменшить ризик того, що люди сліпо довірятимуть ШІ, що може призвести до когнітивного «ледарства». "Сучасні моделі вже впроваджують прозорі алгоритми, які дозволяють користувачам перевіряти інформацію, ставити під сумнів результати та вчитися з отриманих відповідей", — зазначає Танкеєвич.

"Прозорість має вирішальне значення: користувачі повинні розуміти не тільки те, що говорить ШІ, а й чому він це говорить".

Деякі платформи, такі як Perplexity AI, вже реалізували цей підхід. Їхні інтерфейси надають чітке пояснення логіки роботи ШІ, показують джерела інформації та допомагають користувачам оцінювати надійність результатів. Якщо ШІ-інструменти включатимуть контекстуальні пояснення, рівень впевненості у відповідях та альтернативні точки зору, це допоможе користувачам не сліпо вірити результатам, а критично їх аналізувати.

Як ШІ впливає на інтелект: загроза чи можливість?

Дослідження піднімає важливе питання: чи допоможе ШІ розвитку критичного мислення, чи навпаки зробить людей менш розумними? Якщо люди будуть пасивно споживати інформацію від ШІ, їхні навички аналізу можуть погіршитися. Але якщо ШІ використовуватиметься як інструмент для навчання та підтримки ухвалення рішень, він може сприяти розвитку інтелекту.

Танкеєвич наводить конкретні приклади:
📌 У Нігерії дослідження показало, що використання ШІ-репетиторів допомогло учням досягти двох років прогресу в навчанні всього за шість тижнів.
📌 Інше дослідження довело, що студенти, які навчалися з ШІ-асистентами, краще засвоювали матеріал.

Головний фактор успіху — роль вчителя. "У цих випадках ШІ не замінював викладачів, а допомагав їм. Вчителі керували процесом, ставили правильні питання та спрямовували учнів до критичного аналізу", — пояснює Танкеєвич.

У науці ШІ також довів свою ефективність. Дослідники використовують його для обробки великих обсягів даних і формування гіпотез, але остаточна перевірка завжди залишається за людиною. "Найефективніші випадки застосування ШІ — це ті, де він працює разом із людською експертизою, а не замість неї", — додає Танкеєвич.

Майбутнє людського інтелекту: все залежить від нас

Сьогодні ШІ — потужний інструмент, але його вплив на людське мислення залежить не від самої технології, а від того, як ми її використовуємо. UX-дизайнери можуть створювати інтерфейси, що заохочують перевірку та аналіз, але кінцевий вибір завжди за людиною.

ШІ може як покращити, так і погіршити здатність людей до критичного мислення. Все залежить від того, чи будемо ми аналізувати отримані результати чи просто довіряти їм без перевірки. Як і в кожній технологічній революції, деякі люди стануть розумнішими, а деякі — дурнішими.

Авторка: Дар’я Бровченко