Під час конференції Google I/O компанія анонсувала новий інструмент під назвою SynthID Detector, який допомагає визначити, чи був певний контент створений із використанням ШІ від Google.
У блозі DeepMind, керівник дослідницького підрозділу Google Пушміт Кохлі описує SynthID Detector як «портал верифікації», що здатен швидко та ефективно розпізнавати згенерований штучним інтелектом контент. Ба більше, інструмент може виділити саме ті частини матеріалу, де, ймовірно, присутнє вбудоване цифрове маркування SynthID.
Як працює SynthID Detector?
Google застосовує невидимі водяні знаки SynthID до всіх типів контенту, створеного її ШІ-моделями — включаючи текст, зображення, аудіо й відео. Це стосується таких систем, як Gemini, Imagen, Lyria та Veo.
За словами Кохлі, механізм роботи інструмента наступний:
Коли користувач завантажує зображення, аудіо, відео або текст, створені за допомогою інструментів Google AI, портал перевіряє їх на наявність прихованого цифрового водяного знака SynthID. Якщо такий знак знайдеться, система покаже саме ті частини контенту, де цей знак зафіксовано з найбільшою ймовірністю.
Для аудіо — інструмент виділяє конкретні фрагменти звуку, де присутнє маркування. Для зображень — він позначає ділянки, на яких, найімовірніше, нанесено водяний знак.
Коли інструмент стане доступним?
На даний момент SynthID Detector запускається в обмеженому режимі для першої хвилі тестувальників. Після початкового етапу тестування Google планує поступово надавати доступ користувачам, які зареєструються в списку очікування.
«Ми використаємо зворотний зв’язок від цієї професійної спільноти, щоб розширити підходи до прозорості контенту», — пояснив Кохлі в коментарі для The Verge.
Лишається відкритим питання, чи буде інструмент активно використовуватися після повного запуску. Але перші кроки до більшої прозорості у сфері ШІ зроблено.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.