Wikimedia Foundation — неприбуткова організація, що підтримує і розвиває Wikipedia, — призупинила експеримент із відображення AI-генерованих резюме на початку статей після масової негативної реакції спільноти редакторів.
«Те, що Google запустив свої AI-резюме, не означає, що ми повинні їх перевершувати. Щиро прошу не тестувати це ані на мобільній версії, ані деінде», — написав один редактор у відповідь на оголошення Wikimedia про двотижневий тест AI-резюме для мобільної версії сайту. — «Це завдало б миттєвої і незворотної шкоди нашим читачам і репутації надійного джерела. Wikipedia стала синонімом стриманості й добротності — і це чудово. Не треба принижувати інтелект читачів і приєднуватися до гонки за яскравими AI-резюме.».
Інші редактори коротко відреагували словом «Фу».
Wikipedia вже багато років — одне з найцінніших сховищ інформації у світі й зразок демократичного, спільнотного управління платформою. Особливо в часи буму генеративного AI останніми роками вона зберегла відносно високий рівень якості — на відміну від Google, який після впровадження AI часто показує неперевірену інформацію. Спільнота редакторів Wikipedia активно фільтрує й видаляє поганий AI-контент.
Проєкт AI-резюме «Simple Article Summaries» був запропонований після обговорення на конференції Wikimania 2024, де учасники розглядали, як AI-реміксування існуючого контенту може зробити Wikipedia більш доступною. Редактори підтримували ідею покращити навчальний досвід, бо деякі статті складні й технічні, проте наголошували: AI-контент має бути чітко позначений.
В одному з тестів, доступних користувачам із розширенням Wikipedia, AI-резюме з’являлося зверху статті з жовтою позначкою «непідтверджено». Щоб прочитати резюме, треба було клікнути.
Оголошення про запуск 2 червня викликало хвилю критики: «дуже погана ідея», «рішуче проти», «ні в якому разі» тощо.
«Людські редактори можуть робити помилки, але разом вони формують чудовий корпус знань, — зазначив один редактор. — З “Simple Article Summaries” ви даєте одній особі з проблемами надійності платформу на початку статті, без контролю інших. Це підриває довіру. Це сприятиме поширенню неперевіреного контенту. Я не хотів би працювати з такою енциклопедією. Жодна спільнота не досягла такого рівня колаборації, і це може бути втрачено».
Наступного дня Wikimedia призупинила запуск, але підкреслила, що ідея AI-резюме все ще актуальна.
«Фонд Wikimedia досліджує способи зробити Wikipedia доступнішою для читачів у світі», — заявив представник організації. — «Цей двотижневий експеримент з опцією вибору був націлений на полегшення сприйняття складних статей для читачів із різним рівнем підготовки. Для резюме використовувалась модель Aya від Cohere. Метою було оцінити інтерес і зрозуміти, які системи модерації потрібні, щоб люди залишалися головними у прийнятті рішень».
«Ми враховуємо різні відгуки волонтерів і часто змінюємо курс», — додали у фонді. — «Такі продумані відгуки роблять Wikipedia справді колаборативною платформою».
Менеджер проєкту визнав, що ідею можна було краще презентувати і відкрито обговорити ще у березні. VPT (Village Pump Technical) — платформа для обговорення технічних питань між фондом і редакторами.
«Інтернет змінюється, і ми шукаємо способи допомогти новим поколінням ефективно вчитися на Wikipedia, щоб підтримувати спільноту у майбутньому. Тож маємо розробити безпечні експерименти, що враховують інтереси читачів і спільноти», — підкреслив менеджер. — «Потрібно було більше контексту і можливостей для обговорення».
Він також заявив, що впровадження генеративного AI у досвід читання — серйозне питання з важливими наслідками, що вимагає ретельного підходу.
«Ми не плануємо запускати функцію резюме без участі редакторів. Будь-яка ідея щодо AI-згенерованого чи адаптованого контенту потребує робочого процесу модерації з боку редакторів», — резюмував представник Wikimedia.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.