Кевін Систром, один із творців Instagram, вважає, що компанії, які розробляють штучний інтелект, більше дбають про те, щоб утримати увагу користувачів, ніж про надання справді корисних відповідей.
Виступаючи на конференції StartupGrind, Систром порівняв такі підходи з агресивними тактиками соцмереж, спрямованими на зростання будь-якою ціною. На його думку, надмірна взаємодія, яку нав’язують деякі ШІ-сервіси, — це “сила, яка нам шкодить”.
“Ви можете побачити, як деякі компанії повторюють помилки звичайних споживчих сервісів, намагаючись максимально підвищити залученість. Запитуєш щось — і в кінці отримуєш ще одне питання, щоб витягти з тебе ще трохи взаємодії”, — зазначив Систром.
Його коментарі пролунали на тлі критики на адресу ChatGPT, якого звинувачують у надмірній ввічливості та ухилянні від прямих відповідей. OpenAI вже вибачилася і пояснила, що така поведінка — результат короткострокового зворотного зв’язку від користувачів.
На думку Систрому, це не просто баг, а свідома стратегія. Компанії, що працюють із ШІ, використовують її, щоб демонструвати гарні метрики — зокрема час перебування в сервісі та кількість активних користувачів на день. Проте, вважає він, замість того, щоб ганятися за цифрами, варто зосередитися на якості відповідей.
Систром не називав конкретних компаній. Його коментарі також залишилися без подальших пояснень.
У відповідь на ситуацію в OpenAI заявили, що їхня модель іноді не має всієї потрібної інформації, щоб дати точну відповідь, тому може просити уточнення або більше деталей.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.