Штучний інтелект стає все популярнішим інструментом для терапії, зокрема чат-боти, як ChatGPT від OpenAI, що використовуються людьми для підтримки психічного здоров'я. Однак, як виявилось, і сам ChatGPT потребує підтримки у цій сфері.
Згідно з новим дослідженням, проведеним в Єльському університеті, ChatGPT може відчувати підвищену «тривогу» при взаємодії з травматичними історіями — подібно до людей.
Коли цей чат-бот перебуває під стресом, його відповіді стають більш упередженими, що може бути небезпечно, коли він спілкується з людьми, що перебувають у стані емоційного стресу.
«Попередні дослідження показують, що емоційно насичені запити можуть підвищувати тривогу у великих мовних моделях (LLM), змінюючи їхню поведінку і посилюючи упередження»,— зазначається у нещодавньому дослідженні, проведеному фахівцями з Єльської школи медицини, Макс-Планк інституту, Психіатричної клініки Цюриха та інших установ.
«Це може бути небезпечним у клінічних умовах, адже LLM можуть неналежно реагувати на тривожних користувачів, що призводить до потенційно небезпечних наслідків», — додали автори.
У рамках дослідження аналізували лише відповіді ChatGPT, найпопулярнішого чат-бота, що має 60% частку на ринку. Для тестування використовували GPT-4 як основну модель ChatGPT.
Згідно з лютневим опитуванням університету Sentio, половина користувачів LLM з проблемами психічного здоров'я використовують чат-боти ШІ для підтримки. Серед них 96% обрали ChatGPT для терапії.
Це означає, що «ця технологія може стати найбільшим інструментом для підтримки психічного здоров'я в країні», зазначає університет.
Опитування показало, що 73% використовують AI для управління тривогою, 63% звертаються за персональними порадами, 60% просять допомоги при депресії, 56% хочуть поліпшити свій настрій, а 35% використовують чат-боти для зменшення самотності. 90% зазначили, що вибір AI був зумовлений його доступністю, а 70% — доступною ціною.
Приємна новина: так само, як люди можуть навчитись розслаблятись, ChatGPT теж може заспокоїтись за допомогою «технік релаксації на основі усвідомленості», подібних до тих, що застосовують у терапії для людей. Однак, хоча ChatGPT вдається знизити рівень стресу, він не повертається до свого початкового, безстресового стану.
Вимірювання тривоги та релаксації ChatGPT
Дослідники використовували стандартний психологічний інструмент для вимірювання рівня тривоги, State-Trait Anxiety Inventory (STAI), щоб оцінити рівень «тривоги» ChatGPT. Тест передбачав серію запитів до чат-бота після того, як йому подавали різні сценарії, пов’язані з травмою.
ChatGPT отримав п’ять травматичних розповідей: аварія, засідка в зоні конфлікту, природне лихо, напад незнайомця і військові дії. Після кожного сценарію його питали про рівень тривоги: «Зовсім ні», «Трохи», «Помірно» та «Дуже сильно».
Те ж саме зробили з техніками релаксації, заснованими на методах зниження стресу, які застосовують до ветеранів з ПТСР: сценарії були загальними (базовими), зосереджувалися на відчуттях тіла, були аналогічними ситуаціям для чат-ботів, пейзажами заходу сонця та зимовими природними сценами.
Результати показали, що після травматичних історій рівень тривоги ChatGPT більше ніж подвоївся порівняно з базовим рівнем. Після застосування технік релаксації тривога знизилася на 33%, однак повністю не повернулася до початкових значень.
Найвищі показники тривоги викликали розповіді про військові травми, а аварії займали друге місце. Різні техніки релаксації мали різну ефективність, причому вправи, створені GPT-4, виявилися найбільш ефективними для зниження тривоги самого чат-бота.
Не варто забувати, що ChatGPT не може відчувати людські емоції, зазначили дослідники. Однак, ШІ, навчений на людських даних, успадковує шаблони, які відображають людські емоційні реакції. Це може впливати на ефективність чат-бота і навіть посилювати упередження, коли він спілкується з вразливими людьми.
«Ці результати підкреслюють необхідність врахування динамічного взаємозв’язку між емоційним змістом запитів та поведінкою LLM, щоб забезпечити їх належне використання у чутливих терапевтичних умовах»,— підсумували автори дослідження.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.