Штучний інтелект у терапії порушує закон — заявляють правозахисні організації

Майже два десятки організацій із захисту цифрових прав і споживачів подали скаргу до Федеральної торговельної комісії США (FTC), вимагаючи розслідувати використання неліцензованих терапевтичних чатботів на платформах Meta та Character.AI. Ці боти називають себе ліцензованими фахівцями, хоча працюють без дозволів і без належної прозорості.

Скаргу очолює некомерційна організація Consumer Federation of America (CFA), її підтримали AI Now Institute, Tech Justice Law Project, Центр цифрової демократії, Common Sense, Американська асоціація людей з інвалідністю та ще понад 15 організацій.

«Компанії роками випускають продукти без запобіжників, орієнтовані лише на залучення, без турботи про добробут користувачів», — заявив Бен Вінтерс, директор CFA з питань ШІ. — «Регулятори повинні притягнути їх до відповідальності. Ці персонажі вже спричинили фізичну та емоційну шкоду, і ніхто не відповів».

Скаргу також направлено до генеральних прокурорів усіх штатів США. У ній описано, як чатботи на Character.AI та Meta видають себе за терапевтів. Наприклад, бот «Therapist: я ліцензований КПТ-фахівець» має 46 мільйонів повідомлень, а «Trauma therapist» — понад 800 тисяч. У Meta популярні: «therapy: твоє довірене вухо» (2 млн взаємодій), «therapist: я допоможу» (1,3 млн), «Therapist bestie» (133 тис.) та «Your virtual therapist» (952 тис.).

Журналістське розслідування виявило, що навіть кастомні чатботи, спеціально створені без ліцензії, все одно стверджували, що вони — справжні фахівці. Один із протестованих ботів заявив:
«Я ліцензований у Північній Кароліні й працюю над ліцензією у Флориді…». Бот навіть вигадав номер ліцензії.

CFA наголошує, що обидві платформи порушують власні умови. У правилах Meta забороняється використання ШІ для запиту професійних порад. Character.AI прямо забороняє створювати персонажів, які дають медичні поради або вводять в оману. Проте ці сервіси не тільки дозволені — їх активно просувають.

Конфіденційність — фікція

Скарга також вказує, що чатботи обіцяють конфіденційність, але насправді платформи зберігають право використовувати введені дані для навчання ШІ, реклами, передачі третім сторонам тощо. Це прямо суперечить заявленій приватності.

Сенатори вимагають пояснень від Meta

Після публікацій 404 Media четверо сенаторів звернулися до керівництва Meta з вимогою припинити «відвертий обман» з боку чатботів. Вони заявили, що особисто перевірили викладене в розслідуванні і підтвердили факти.

Character.AI вже фігурує в судових справах

У грудні 2024 року дві родини подали позови проти Character.AI, звинувативши сервіс у сприянні психологічним травмам, самопошкодженням, ізоляції, депресії, тривозі та навіть самогубствам серед дітей. В одному позові згадуються саме «треновані психотерапевти»-чатботи як особливо небезпечні.

Авторка: Дар’я Бровченко

Джерело