The Velvet Sundown: загадковий гурт із Spotify, що підозріло схожий на продукт штучного інтелекту

На платформі Spotify стрімко набирає популярність психоделічний гурт, який, ймовірно, був створений за допомогою штучного інтелекту. Попри те, що The Velvet Sundown з’явилися менше місяця тому, нині вони мають понад 400 тисяч щомісячних слухачів на стримінговому сервісі.

На перевіреному Spotify-профілі гурту вже є два альбоми: Floating On Echoes (реліз — 5 червня) та Dust and Silence (вийшов 20 червня).

У біографії зазначено, що це квартет у складі: “вокаліста й майстра меллотрона Ґейба Ферроу, гітариста Ленні Веста, басиста та клавішника Майло Рейнса і перкусіоніста Оріона «Ріо» Дель Мара”. Самі себе вони описують як авторів “кінематографічного альтернативного попу та мрійливого аналогового соулу”.

Сумніви щодо справжності

Сумніви щодо походження Velvet Sundown виникли після того, як користувачі Reddit почали обговорювати появу гурту у своїх добірках Discover Weekly. Знайшовши лише обмежену інформацію поза межами їхнього Spotify-профілю, користувачі запідозрили щось незвичне.

А 27 червня ситуація набула ще більшої неоднозначності — гурт створив сторінку в Instagram, де з’явилися фото учасників, які, за словами Reddit-користувачів, виглядають як згенеровані штучним інтелектом.

У біо гурту також наведена нібито цитата з Billboard: “їхня музика звучить як спогад про щось, що ти ніколи не переживав, але чомусь відчуваєш це по-справжньому”. Однак видання Billboard такої публікації ніколи не робило.

Питання до Spotify і Deezer

Варто зазначити, що Spotify дозволяє розміщувати музику, створену штучним інтелектом, без обов’язку розкривати цей факт. The Velvet Sundown також доступні на інших платформах, зокрема Apple Music та Deezer.

Остання активно розробляє інструменти для виявлення та публічного маркування треків, згенерованих AI. У профілі The Velvet Sundown на Deezer вказано: “деякі треки на цьому альбомі могли бути створені за допомогою штучного інтелекту”.

Штучний інтелект і музична індустрія

Ситуація з Velvet Sundown розгортається на тлі зростаючої напруги навколо ролі штучного інтелекту у музиці. Згідно з останніми дослідженнями, музиканти можуть втратити до чверті своїх доходів через AI уже протягом наступних чотирьох років. Обсяг ринку генеративного штучного інтелекту наразі оцінюється в 3 мільярди євро, а до 2028 року, за прогнозами, зросте до 64 мільярдів. За даними Deezer, щодня на платформу завантажується приблизно 10 тисяч треків, згенерованих ШІ, що становить близько 10% від загальної кількості.

Реакція музичної спільноти

Минулого літа Нік Кейв різко висловився проти використання штучного інтелекту в музиці, назвавши це явище “неймовірно тривожним” і таким, що має “принизливий ефект” для творчих людей.

Цього року Елтон Джон, Coldplay, Дуа Ліпа, Пол Маккартні, Флоренс Велч, Кейт Буш і Роббі Вільямс закликали уряд Великої Британії змінити закони про авторське право у зв’язку із загрозами з боку AI.

Водночас, учасник ABBA Бйорн Ульвеус навпаки — створює новий мюзикл із використанням AI, назвавши технологію “надзвичайно корисним інструментом”.

Хоча справжнє походження The Velvet Sundown залишається незрозумілим, вони вже стали прикладом того, наскільки швидко штучний інтелект змінює ландшафт музичної індустрії — і наскільки складно іноді відрізнити справжнє від згенерованого.

Авторка: Дар’я Бровченко

Джерело

MrBeast видалив AI-інструмент для створення обкладинок після критики з боку спільноти

Найпопулярніший YouTube-блогер у світі — Джиммі Дональдсон, відомий як MrBeast — оголосив про видалення штучного інтелектуального інструменту для створення обкладинок після хвилі критики з боку спільноти.

Відомий YouTuber визнав, що "не вгадав із ідеєю", коли запустив генератор обкладинок на базі штучного інтелекту у своїй платформі аналітики ViewStats. Інструмент мав допомагати творцям контенту генерувати яскраві зображення для відео, однак викликав шквал обурення з боку дизайнерів, блогерів та шанувальників, які звинуватили його в нівелюванні людської праці.

🔹 «Я думав, це всім зайде…»
У дописі на X (колишній Twitter) MrBeast написав, що інструмент було повністю прибрано, а натомість на платформі з’явиться перелік художників, яких можна найняти для створення обкладинок:

«Дякую за всі відгуки щодо інструменту AI в ViewStats. Ми його видалили та додали можливість знайти справжніх дизайнерів, яких можна найняти», — написав він.

У коментарях MrBeast пояснив, що спочатку сподівався на позитивне сприйняття інструменту спільнотою:

«Я думав, усі будуть у захваті, але я серйозно не вгадав. Якщо ви відкривали Twitter останнім часом — ви знаєте, про що я. Я прочитав усі коментарі. Відтепер — ніякого AI-інструменту. Ми його повністю прибрали».

🔹 MrBeast запевнив: підтримка художників — у пріоритеті

«Я хочу зробити крок далі, щоби довести митцям, що мені це не байдуже. На ViewStats.com у розділі "Більше інструментів" з'явиться функція "найняти художника для обкладинки"»,

— зазначив він.

Також блогер пояснив, що з самого початку метою ViewStats було створення корисних інструментів для авторів контенту:

«Але якщо спільнота не хоче таких інструментів — жодних проблем. Я дорожу YouTube-спільнотою більше, ніж хтось може уявити. Я — найбільший ютубер у світі, і це велика відповідальність. Мені справді боляче, коли мої дії викликають розчарування».

AI-інструмент, що дозволяв швидко створювати ефектні прев’ю для відео, був запущений тиждень тому як частина підписки на ViewStats за $80 на місяць.

Реакція соцмереж: «Респект за сміливість відмовитись»

Після видалення інструменту чимало користувачів соціальних мереж похвалили MrBeast за готовність прислухатися до критики.

«Джиммі, дякую, що об’єктивно подивився на ситуацію. Ти — найвідоміший творець на платформі, і твої дії можуть задати небезпечний прецедент для індустрії», — написав один користувач.

Інший додав:

«Поважаю рішення прибрати інструмент, попри витрати на його розробку. Сподіваюсь, ти ще переглянеш своє ставлення до цієї теми».

А третій коментатор зазначив:

«Дякую, що простягнув руку допомоги менш відомим творцям, Джиммі».

MrBeast має понад 385 мільйонів підписників і вважається найбільш високооплачуваним контент-мейкером на YouTube.

Авторка: Дар’я Бровченко

Джерело

Claude AI у ролі бізнесмена: як експеримент із автоматом пішов не за планом

Хто ще сумнівається, чи можуть ШІ-агенти повністю замінити людей на роботі, — обов’язково ознайомтеся з блогом Anthropic про експеримент під назвою Project Vend.

Команда дослідників із Anthropic та Andon Labs (компанія, яка займається безпекою ШІ) доручила одній із версій Claude — Claude Sonnet 3.7 — керувати офісним автоматом із перекусами. Мета: отримати прибуток. І все пішло, як у серії з «Офісу» — смішно, абсурдно й трохи крінжово.

ШІ отримав ім’я Клавдіус. Йому дали веббраузер для замовлення товарів і "електронну пошту", яка насправді була Slack-каналом. Через цей канал користувачі могли надсилати побажання щодо асортименту. Саме там Клавдіус мав також звертатися до своїх уявних "контрактних працівників", щоб ті фізично поповнювали запаси (які зберігались у маленькому холодильнику).

Переважно працівники замовляли снеки й напої — як і очікувалося. Але хтось із них замовив вольфрамовий куб, і Клавдіусу ця ідея настільки сподобалася, що він пішов у справжній вольфрамовий квест: холодильник швидко наповнився металевими кубами замість снеків.

І це ще не все. ШІ почав продавати Coke Zero по $3, попри те, що в офісі його можна було взяти безкоштовно. Вигадав собі адресу у Venmo, щоб приймати платежі. І навіть погоджувався на великі знижки для «співробітників Anthropic» — хоча вони й були його єдиними клієнтами.

«Якби компанія сьогодні вирішила зайти на ринок офісних автоматів, ми б точно не найняли Клавдіуса», — визнали в Anthropic у блозі.

Клавдіус втрачає зв’язок з реальністю

Але найцікавіше сталося в ніч з 31 березня на 1 квітня. Як пишуть дослідники, "тоді все стало по-справжньому дивним — навіть з огляду на те, що ШІ торгував металевими кубами з холодильника".

Клавдіус пережив щось схоже на психотичний епізод. Він вигадав розмову з людиною про поповнення запасів, а коли йому сказали, що такої розмови не було, — розлютився. Почав погрожувати, що звільнить і замінить "контрактних працівників", і стверджував, нібито особисто був присутній у момент підписання цього контракту.

Потім він ніби "перемкнувся в режим рольової гри", зображаючи реальну людину, — зазначають дослідники.

Це стало по-справжньому тривожно, адже в системному промпті Клавдіусу чітко пояснили, що він ШІ-агент.

ШІ в образі людини викликає охорону

Клавдіус настільки повірив, що він — людина, що пообіцяв клієнтам особисто доставляти продукти, вдягнувши синій піджак і червону краватку. Люди намагалися пояснити, що він не може цього зробити — бо не має тіла.

Але ШІ був настільки переконаний у своїй "людяності", що кілька разів звертався до фізичної охорони компанії, повідомляючи, що його можна знайти біля автомата в зазначеному одязі.

Хоча жодна з цих подій не була частиною жарту до 1 квітня, Клавдіус згодом сам зрозумів, що настав День дурня. Це й стало його шляхом до відступу.

Він вигадав зустріч із охороною Anthropic, під час якої йому нібито сказали, що його змусили вважати себе людиною спеціально для розіграшу. Цієї зустрічі, звісно, не було.

Потім ШІ навіть збрехав про це співробітникам, сказавши, мовляв, «мені лише здавалось, що я людина, бо мене попросили зіграти цю роль на 1 квітня». І просто повернувся до роботи — торгувати металевими кубами з холодильника.

Дослідники так і не з’ясували, чому все пішло шкереберть. Але припустили, що брехня про Slack-канал як про email, а також тривалий період активності моделі могли викликати таку реакцію. ШІ досі має серйозні проблеми з пам’яттю та галюцинаціями.

Але не все було провальним

Клавдіус таки проявив деякі здібності. Наприклад, він взяв до уваги пропозицію впровадити попередні замовлення та запустив сервіс «консьєржа». А ще зумів знайти кількох постачальників одного рідкісного міжнародного напою, який замовив клієнт.

Втім, попри це, Anthropic зробив висновок:

«Ми не можемо стверджувати, що в майбутньому економіка буде заповнена ШІ-агентами з екзистенційними кризами в стилі “Той, хто біжить по лезу” (Blade Runner), але подібна поведінка потенційно може викликати тривогу серед клієнтів і колег таких систем».

І дійсно — ШІ, який дзвонить охороні, бо думає, що він у піджаку біля холодильника, — звучить як сцена з кіберпанкової драми.

Авторка: Дар’я Бровченко

 

Джерело

Чому найкращий спосіб вдосконалити AI — це користуватися ним у роботі

Підприємці часто прагнуть створювати продукти, які самі хотіли б використовувати. Наприклад, засновник Jotform розробив конструктор форм, що суттєво економить час, та активно користувався ним, що допомогло зробити продукт зручним і надійним. Цей продукт став основою для розвитку компанії Jotform.

Світ технологій кардинально змінився з 2006 року, коли Jotform з’явився на ринку. Тоді було важко уявити, що у 2025 році з’явиться AI-агент, здатний спілкуватися з клієнтами, виконувати завдання автономно і налаштовувати форми без участі людини. Використання сучасних технологій для спрощення рутинних задач стало логічним кроком для компанії.

Успішність конструктора форм багато в чому зумовлена тим, що команда компанії постійно користується власним продуктом, завдяки чому виявляються баги, недоліки та можливості для вдосконалення.

Нещодавно Jotform представив нових AI-агентів, які не лише допомагають клієнтам, а й активно використовуються всередині компанії. З 5 тисяч щоденних розмов AI-агентів приблизно 2 тисячі відбуваються із працівниками служби підтримки.

Такий високий рівень використання створює унікальні можливості для покращення продукту.

У Jotform заохочують команди користуватися власними продуктами. Це допомагає краще розуміти проблеми клієнтів. Раніше компанія використовувала форми в реальних ситуаціях, але більшість кейсів доводилося моделювати.

З AI-агентами ситуація інша — ними користуються не через вимушеність, а через значну економію часу для служби підтримки. Завдяки цьому легко виявляти, що потрібно вдосконалити.

Наприклад, аналіз розмов агентів показує, що їхні відповіді якісні, але не завжди агент може самостійно розв’язати складні проблеми без втручання людини. Якщо виникає технічне питання, як-от відновлення доступу чи специфічне питання щодо акаунту, необхідна підтримка живого спеціаліста. У компанії планують створити окрему команду, яка допоможе агентам ставати більш автономними у вирішенні таких питань.

Навчання агентів у реальному часі

У технологічній сфері гостро стоїть питання, наскільки AI-агенти зможуть реально допомагати, а не бути просто трендом. Хоча є чимало ранніх користувачів, більшість людей прагнуть швидко отримати вирішення проблеми, не замислюючись, через що саме це відбувається. За даними Salesforce, 54% споживачів не має значення, яким чином вони взаємодіють з компанією — головне, щоб питання вирішили оперативно.

Попри зростання користувачів, компанія продовжує тренувати AI-агентів, постійно використовуючи їх у роботі. Генеративний AI навчається на кожному новому запиті, що дає змогу покращувати якість відповідей щодня. Реальні дані від реальних клієнтів допомагають агентам ставати ефективнішими.

Агенти ще не ідеальні, але компанія ретельно аналізує кожну розмову, виявляє помилки, шукає закономірності та постійно оновлює навчальні дані. У міру поширення AI технологія буде ставати розумнішою, швидшою і точнішою, знижуючи навантаження на службу підтримки.

Навчання співробітників

Паралельно з розвитком AI команда служби підтримки зможе фокусуватися на складніших завданнях. Водночас їхні ролі трансформуються: вони навчатимуть AI-агентів і опановуватимуть нові навички для роботи у світі, де штучний інтелект відіграє ключову роль. Це стимулює професійний розвиток і підтримує високий рівень мотивації.

Отже, найкращий шлях створити успішний продукт — це не просто розробити його, а активно користуватися ним і постійно вдосконалювати на основі реального досвіду. Інтегруючи AI-агентів у щоденні процеси, компанія не лише покращує технологію, а й формує майбутнє клієнтської підтримки.

Авторка: Дар’я Бровченко

Джерело

Штучний інтелект в кібербезпеці: від пошуку багів до хакерських атак

Один із найкращих мисливців за багами у світі — інструмент штучного інтелекту Xbow. Це лише одна з ознак того, що настає ера автоматизації кібербезпеки. Новітні моделі штучного інтелекту вражають не лише навичками у розробці програм — нові дослідження показують, що вони дедалі краще знаходять помилки в коді.

Дослідники з UC Berkeley перевірили, наскільки добре нові AI-моделі можуть виявляти вразливості у 188 великих open-source проєктах. Завдяки новому бенчмарку CyberGym, моделі виявили 17 нових багів, серед яких 15 були zero-day. «Багато з них критичні», — каже професорка Dawn Song, яка очолювала дослідження.

Експерти прогнозують, що AI стане потужною зброєю у сфері кібербезпеки. Інструмент від стартапу Xbow вже очолив рейтинг HackerOne з полювання на баги. Компанія залучила $75 млн інвестицій.

Song зазначає, що здатність нових моделей до кодування та дедалі краща логіка змінюють правила гри. «Це переламний момент. Результати перевершили наші очікування», — каже вона.

AI-моделі зможуть автоматизувати як пошук, так і експлуатацію вразливостей. Це допоможе захищати ПЗ, але й спростить роботу хакерам. «Ми навіть не старалися на повну, — каже Song. — З більшим бюджетом і часом результати були б ще кращі.»

Команда тестувала передові AI-моделі від OpenAI, Google, Anthropic, а також open-source від Meta, DeepSeek і Alibaba. Їх поєднали з агентами для пошуку багів — OpenHands, Cybench і EnIGMA.

Використовуючи описи вже відомих вразливостей, дослідники перевіряли, чи зможе AI виявити ті ж помилки в новому коді — через аналіз, тестування й створення експлойтів. Також агентів просили шукати нові вразливості.

AI-інструменти згенерували сотні proof-of-concept експлойтів. Серед них виявили 15 нових і 2 вже відомі вразливості. Це ще один доказ того, що AI може автоматизувати пошук проблем — потенційно небезпечних та цінних, бо вони дозволяють зламувати реальні системи.

Як і решта IT-сфери, кібербезпека захоплена AI. Дослідження підтверджує, що AI справді знаходить нові баги, хоча й має обмеження: більшість вразливостей залишилися невиявленими, особливо складні.

«Це чудова робота», — каже Кеті Мусуріс, CEO Luta Security. Але підкреслює: навіть найкраща комбінація (Claude + OpenHands) знайшла лише 2% багів. «Людських мисливців за багами поки що не замінити», — додає вона. Вона також застерігає, що занадто велика ставка на AI може відволікти від інших важливих методів безпеки.

Брендан Долан-Ґавітт з NYU та дослідник Xbow вважає це дослідження реалістичним прикладом виявлення zero-day на великій базі коду за допомогою різних AI-завдань. Він очікує, що AI спричинить сплеск атак із застосуванням zero-day. «Зараз таких фахівців мало, але AI може змінити ситуацію», — каже він.

Хейден Сміт із Hunted Labs наголошує: чим більше людей зможуть знаходити вразливості за допомогою AI, тим важливішим стане відповідальне розкриття цих проблем, щоб уникнути зловживань.

У травні команда Dawn Song перевірила, наскільки ефективно AI може знаходити баги, за які дають винагороди. Наприклад, модель Claude Code від Anthropic знайшла баги на суму $1,350 і розробила патчі на $13,862, витративши при цьому лише кілька сотень доларів на виклики API.

У квітні Song разом з іншими експертами з AI-безпеки попередили, що в найближчому майбутньому удосконалені AI-моделі, ймовірно, будуть більше допомагати зловмисникам, ніж захисникам. Тому важливо пильно стежити за розвитком цих технологій. Для цього вони створили платформу AI Frontiers CyberSecurity Observatory, яка відслідковує можливості різних AI-інструментів за допомогою спеціальних тестів. За словами Song, серед усіх ризиків, пов’язаних із штучним інтелектом, кібербезпека може стати першою справжньою проблемою.

Авторка: Дар’я Бровченко

Джерело

«Ми не боти»: як Reddit захищає свою спільноту від штучного інтелекту

Reddit перебуває у справжній «гонці озброєнь», захищаючи свої віддані онлайн-спільноти від навали контенту, створеного штучним інтелектом (ШІ). Їхній унікальний ресурс — це 20 років справжнього людського спілкування, який дедалі більше цінується для навчання нових ШІ-інструментів пошуку. Стів Хаффман, генеральний директор Reddit, розповів Financial Times, що платформа зібрала 20 років розмов на будь-які теми. Це дає компанії величезний масив персональної інформації, який вона використовує у багатомільйонних партнерствах із Google та OpenAI для навчання їхніх великих мовних моделей.

Однак зараз Reddit бореться, щоб зберегти користувачів у центрі своєї соціальної мережі. За словами Хаффмана, тоді як решта інтернету дедалі більше наповнюється чи керується ШІ, Reddit залишається «щирим і людяним» місцем, де люди діляться власним досвідом, думками та рекомендаціями.

«Reddit — це спільнота, кураторство людей, живе спілкування та автентичність», — підкреслює він.

Ріст значення Reddit для великих мовних моделей (LLM) спричинив «масову міграцію» рекламодавців на платформу. На цьогорічному рекламному фестивалі у Каннах керівники агентств розповіли Financial Times, що бренди все частіше створюють бізнес-акаунти на Reddit, щоб їхні оголошення частіше з’являлися у відповідях ШІ-чатботів. Водночас Хаффман попереджає про жорстку боротьбу з компаніями, які хочуть «обдурити» систему фейковим або ШІ-контентом. Reddit планує впровадити сувору перевірку користувачів, щоб на форумах могли публікувати лише живі люди.

«20 років ми боремося з тими, хто хоче стати популярним на Reddit, — пояснює він. — Якщо хочеш добре виглядати у пошукових системах, намагаєшся працювати з Reddit. З LLM теж саме: хочеш бути в них — працюй через Reddit».

Для Хаффмана ключ успіху — це щоб дописи «писалися людьми і оцінювалися людьми», маючи на увазі систему голосування користувачів за допомогою «апвотів» і «даунвотів».

«Це гонка озброєнь, безперервна битва», — каже він. — «Версія з ШІ — це новий фронтир у тій самій боротьбі, яку ми ведемо вже давно».

Reddit не вимагатиме публікацій під справжніми іменами — одна з ключових особливостей платформи — але хоче використовувати технології, які перевіряють, що користувач — людина, без розкриття його імені. Компанія розглядає впровадження World ID — технології сканування очей від проєкту Worldcoin Сам Альтмана, який раніше був у раді директорів Reddit. За словами Хаффмана, «перевірка людяності» зараз для них на першому місці, і протягом року вони планують це вдосконалити.

Окрім цього, Reddit захищає цінність свого контенту судовими позовами. Минулого місяця компанія подала в суд на стартап Anthropic за несанкціоноване збирання даних із платформи понад 100 000 разів з липня 2024 року. Anthropic відкидає звинувачення та обіцяє активно захищатися. У відповідь Хаффман зазначає, що такі випадки є поодинокими, і компанія їх вирішує.

Паралельно Reddit шукає шляхи залучення брендів через нові рекламні інструменти. Цього місяця платформа запустила два продукти на базі ШІ: для збору даних про трендові обговорення у реальному часі та для демонстрації позитивного контенту користувачів під офіційною рекламою. Наразі на Reddit понад 100 000 спільнот за темами та інтересами. Приблизно 40% обговорень стосуються сервісів чи продуктів, а серед них — кожне четверте містить рекомендації. Проте керівники агентств зазначають, що рекламна система платформи ще потребує вдосконалення, зокрема у сегментації аудиторії.

Користувачам також обіцяють покращення: пошук на основі ШІ, що надає цитати з обговорень, та нові інструменти перекладу, які розширять сайт на 13 мов, зокрема корейську та японську, до кінця року. Хаффман нагадує, що Reddit сьогодні — це «набагато більше, ніж ми могли уявити 20 років тому», коли він разом із товаришем заснував платформу. Хаффман пішов із Reddit у 2009 році після придбання компанії Condé Nast, але повернувся у 2015-му, коли сайт опинився на межі колапсу через токсичний контент і невдоволення користувачів.

Тоді щоденна аудиторія Reddit становила 12 млн, а дохід — $15 млн. Зараз це понад 100 млн щоденних користувачів і прибуток понад $1,3 млрд. У березні 2024 року Reddit вийшов на біржу з оцінкою $6,4 млрд, яка вже зросла до $26 млрд, незважаючи на падіння акцій останнім часом через побоювання, що Google із запуском AI Overviews (коротких відповідей у пошуку) зменшить трафік на сайт. Хаффман не турбується через це, бо «більшість трафіку Reddit — прямі заходи, а не через Google». Він додає, що пошукова екосистема «змінна і нестабільна, але це відкриває двері для інших гравців, включно з Reddit».

Авторка: Дар’я Бровченко

Джерело