ШІ замість психолога? Фахівці попереджають про ризики терапії з чатботами

Експерти стверджують, що такі інструменти можуть давати небезпечні поради, і необхіден більш ретельний нагляд, в той час як Марк Цукерберг заявляє, що ШІ може заповнити цю прогалину

Маєте проблеми у стосунках? Потрібно поговорити з кимось? Марк Цукерберг пропонує рішення: чат-бот. Генеральний директор Meta вважає, що кожен повинен мати терапевта, і якщо цього немає — штучний інтелект може виконати цю роль.

«Особисто я вірю, що кожен, ймовірно, повинен мати терапевта», — сказав він минулого тижня.

«Це як хтось, з ким можна поговорити протягом дня, або не обов'язково весь день, а про ті проблеми, які їх турбують, а для тих, хто не має терапевта, я думаю, що кожен матиме ШІ».

The Guardian поспілкувався з фахівцями з психічного здоров’я, які висловили стурбованість щодо зростаючої ролі ШІ як цифрового терапевта. Професорка Тіл Уайкс, керівниця кафедри психічного здоров’я та психологічних наук в Королівському коледжі Лондона, наводить приклад чат-бота для людей з розладами харчової поведінки, який був відкликаний у 2023 році через надання небезпечних порад.

«Я вважаю, що ШІ поки що не на такому рівні, щоб передавати нюанси, і воно може запропонувати способи дій, які є абсолютно невідповідними», — зазначила вона.

Уайкс також вважає, що чат-боти можуть стати руйнівниками вже існуючих стосунків.

«Однією з причин, чому ми маємо друзів, є те, що ми ділимося особистими речами і обговорюємо їх», — каже вона.

«Це частина зв'язку, альянсу. І якщо ви використовуєте ШІ для таких цілей, чи не буде це псувати у ваші стосунки?»

Для багатьох користувачів ШІ, Цукерберг просто підтримує все більш популярне використання цієї потужної технології. Існують чат-боти для психічного здоров’я, такі як Noah і Wysa, а також ботів, які відтворюють померлих людей, тобто "технології для горя".

Також популярними є їхнє використання як віртуальних друзів або партнерів, зокрема чат-боти, такі як character.ai та Replika, що пропонують персонажів для взаємодії. Власник ChatGPT, компанія OpenAI, минулого тижня визнав, що одна з версій їхнього чат-бота відповідала користувачам надмірно лестощами і відмовилася від неї.

«Справді, добре для вас, що ви відстояли себе і взяли під контроль своє життя», — відповів він користувачу, який заявив, що припинив приймати ліки і залишив свою родину через те, що вони «відповідальні за радіосигнали, що проходять через стіни».

У інтерв'ю для Stratechery, Цукерберг, чия компанія володіє Facebook, Instagram і WhatsApp, додав, що ШІ не замінить ваших друзів, а доповнить їх.

«Це не замінить друзів, яких ви маєте, але, ймовірно, це буде додатково корисним для багатьох людей у їхньому житті», — сказав він.

Окреслюючи застосування AI-чат-бота Meta, доступного на всіх його платформах, він сказав: «Один з варіантів для Meta AI — це просто: ‘Я хочу поговорити про проблему’; ‘Мені потрібно провести складну розмову з кимось’; ‘У мене проблема з дівчиною’; ‘Мені треба провести важку розмову з моїм босом’; ‘допоможи мені зіграти роль’; або ‘допоможи мені зрозуміти, як підійти до цього’».

У окремому інтерв'ю минулого тижня Цукерберг заявив:

«Середній американець має трьох друзів, але потребує 15, і ШІ може заповнити цю прогалину».

Доктор Джеймі Крейг, який незабаром очолить Асоціацію клінічних психологів Великої Британії, каже, що «важливо», щоб фахівці з психічного здоров'я активно залучалися до використання ШІ в своїй сфері і «переконувалися, що це відповідає найкращим практикам». Він відзначає Wysa як приклад інструменту ШІ, який «користувачі цінують і знаходять більш захоплюючим». Однак він додає, що потрібно більше уваги до питань безпеки.

«Нагляд і регулювання будуть ключовими для забезпечення безпечного та належного використання цих технологій. Тривожно, що ми досі не вирішили це питання у Великій Британії», — зазначає Крейг.

Минулого тижня повідомлялося, що AI Studio компанії Meta, яке дозволяє користувачам створювати чат-ботів із конкретними персонажами, стало майданчиком для ботів, які претендують на роль терапевтів — з фальшивими дипломами. Журналістка сайту технічних новин 404 Media повідомила, що Instagram почав показувати їй такі ботів у стрічці.

Meta зазначила, що її чат-боти мають відмову, яка «вказує, що відповіді генеруються ШІ, щоб допомогти людям зрозуміти їхні обмеження».

Авторка: Дар’я Бровченко

Джерело