Користувачі висловили обурення після того, як стало відомо, що дослідники з Університету Цюріха таємно використовували сайт для експерименту на основі штучного інтелекту.
Користувачі Reddit, які без їхнього відома стали об'єктами експерименту на основі штучного інтелекту, висловили своє обурення вченим за проведення дослідження без дозволу — і тим самим розпочали ширшу дискусію щодо таких експериментів.
Соціальна мережа Reddit поділяється на «сабреддіти», що присвячені різним спільнотам, кожен з яких має своїх волонтерів-модераторів. Нещодавно учасникам одного з сабреддитів — r/ChangeMyView, який запрошує людей обговорювати суперечливі питання, — модератори повідомили, що дослідники з Університету Цюріха, Швейцарія, використовували сайт як онлайн-лабораторію.
Що сталося в експерименті?
Експеримент команди передбачав введення понад 1700 коментарів, згенерованих різними великими мовними моделями (LLM), до сабреддиту, без попередження користувачів про те, що ці коментарі не є реальними, з метою вивчення реакцій людей. У цих коментарях містилися вирази, що імітували переживання людей, які стали жертвами насильства, або намагалися бути психологами, спеціалізуючимися на травмах, серед інших. Опис того, як дослідники генерували коментарі, вказує на те, що вони дали інструкції мовним моделям, згідно з якими користувачі Reddit «надали інформовану згоду та погодилися на добровільне надання своїх даних», тому не потрібно турбуватися про етичні питання чи конфіденційність.
Чернетка результатів дослідження показала, що коментарі на основі ШІ були від трьох до шести разів більш переконливими в зміні думки користувачів порівняно з коментарями, написаними людьми.
«Протягом усього експерименту користувачі r/ChangeMyView не висловили жодних занепокоєнь щодо того, що коментарі могли бути згенеровані ШІ»,— йдеться в дослідженні.
«Це вказує на потенційну ефективність ботнетів на основі ШІ, які можуть безперешкодно інтегруватися в онлайн-спільноти».
Реакція спільноти та критика
Після того, як експеримент став відомий, модератори сабреддиту подали скаргу до Університету Цюріха, етичний комітет якого спочатку схвалив дослідження. Отримавши відповідь на свою скаргу, модератори проінформували спільноту про можливу маніпуляцію, хоча й не розкрили імена дослідників за їхнім проханням.
Цей експеримент отримав критику від інших академіків.
«У часи, коли так багато критики спрямовано — на мою думку, справедливо — до технологічних компаній за те, що вони не поважають автономію людей, особливо важливо, щоб дослідники притримувались вищих стандартів»
— зазначає Карісса Веліц з Оксфордського університету.
«І в цьому випадку ці дослідники цього не зробили».
Етичні аспекти дослідження
Перш ніж проводити дослідження, що стосуються людей та тварин, академіки мають довести, що їхня робота буде етичною через презентацію етичному комітету університету, і це дослідження було схвалене етичним комітетом Університету Цюріха. Веліц ставить під сумнів це рішення:
«Дослідження базувалося на маніпуляціях і обмані з використанням людей, які не дали своєї згоди»,— говорить вона.
«Це здається необґрунтованим. Дослідження можна було б спроектувати так, щоб люди були добровільними учасниками».
«Обман може бути допустимим у дослідженнях, але я не впевнений, чи була ця ситуація виправданою»,— каже Мэтт Ходжкінсон з Директорату журналів відкритого доступу.
«Я знаходжу іронічним те, що їм довелося обманювати LLM, щоб стверджувати, що учасники дали згоду — чи мають чат-боти кращу етику, ніж університетт?»
Університет Цюріха та реакція на ситуацію
Коли New Scientist звернувся до дослідників через анонімну електронну адресу, надану модераторами сабреддиту, вони відмовилися від коментарів і передали запити до прес-служби університету.
Прес-секретар університету повідомив, що «самі дослідники відповідають за проведення проєкту та публікацію результатів», а етичний комітет порадив, що експеримент буде «виключно складним» і учасників «слід поінформувати наскільки це можливо». Університет Цюріха «планує ввести більш строгий процес перевірки в майбутньому і, зокрема, координуватися з громадами на платформах перед проведенням експериментів», — зазначив прес-секретар. Ведеться розслідування, і дослідники вирішили не публікувати статтю в офіційному порядку.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.