Платформа переповнена AI-контентом: від неякісних тревел-гайдів до небезпечних посібників із збирання грибів. Тепер з’явилися й книги на медичні теми — як-от Navigating ADHD in Men чи Men with Adult ADHD: Highly Effective Techniques for Mastering Focus, — які також схожі на тексти, згенеровані ШІ.
Американська компанія Originality.ai перевірила вісім таких книг — кожна отримала 100% AI-оцінку, тобто система впевнено ідентифікувала їх як результат роботи ШІ.
Експерти застерігають: відсутність контролю над AI-контентом перетворює онлайн-ринок на «дикий захід». За словами дослідника з King’s College London Майкла Кука, генеративні моделі часто видають небезпечні поради — зокрема щодо вживання токсичних речовин, змішування хімікатів або нехтування медичними нормами.
«ШІ може мати доступ до наукових джерел, але так само й до псевдонауки та конспірології. Він не здатен критично аналізувати отриману інформацію — тому не має працювати з чутливими темами без участі фахівців», — наголосив Кук.
Попри це, Amazon лише стимулює таку практику: компанія заробляє з кожного продажу, незалежно від якості контенту. А виробники генеративного ШІ не несуть відповідальності.
Професорка Шеннон Валлор з Університету Единбурга вважає, що Amazon несе етичну відповідальність за шкоду, якої може зазнати суспільство. Водночас вона визнає, що неможливо зробити продавця відповідальним за зміст усіх книжок.
«Стара система фільтрів — авторитет видавництв, рецензування — зруйнована. А правових наслідків за завдану шкоду практично немає. Це підштовхує ринок до деградації», — пояснює Валлор.
Сьогодні в більшості країн не існує вимоги маркувати книги як написані ШІ. Закон про авторські права застосовується лише в разі прямого копіювання текстів. Проте, за словами Валлор, навіть загальне цивільне право передбачає базові обов’язки турботи та обачності.
Рекламне законодавство забороняє вводити споживачів в оману, зокрема, створюючи враження, що книгу написала людина. Люди, які з таким зіткнулися, можуть подати скаргу.
Річард Вордсворт, який нещодавно отримав діагноз СДУГ, придбав одну з таких книжок. Вона здалася йому дивною вже з перших сторінок — цитата Джордана Пітерсона, випадкові анекдоти, історичні неточності. Деякі розділи містили шкідливі поради, наприклад: «Близькі не пробачають емоційних спалахів, бо це залишає шрами».
Автор виявився фейковим — зі штучним фото та без жодних кваліфікацій. В інших книгах про СДУГ на Amazon Вордсворт знайшов залякування: «ваш стан катастрофічний» або «ви в чотири рази більше ризикуєте померти раніше».
«Мій батько — освічена людина, але й він повірив цьому. Якщо таке враження можна справити на нього — це загроза для всіх. Люди, які шукають допомоги, отримують небезпечну нісенітницю — а Amazon бере з цього прибуток», — зазначив він.
У відповідь Amazon заявила, що має контентні політики й інструменти для виявлення неприйнятного вмісту, як AI-генерованого, так і ні. Компанія продовжує вдосконалювати ці засоби відповідно до змін у видавничому ландшафті.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.