ChatGPT: 5 несподіваних фактів про те, як насправді працюють AI-чатботи

AI-чатботи вже стали частиною життя багатьох, але скільки з нас справді розуміють, як вони працюють? Наприклад, чи знали ви, що ChatGPT для пошуку подій після червня 2024 року мусить робити запити в інтернеті? Ось п’ять речей, які варто знати про ці технології.

1. Їх навчають за допомогою людського зворотного зв’язку
AI-чатботи проходять кілька етапів навчання. На першому — переднавчанні — вони вчаться передбачати наступне слово в тексті. Без додаткового коригування вони могли б видавати небезпечні відповіді, наприклад, на запит про виготовлення вибухівки. Щоб зробити їх безпечними, залучаються людські аннотатори — вони вирівнюють відповіді до етичних стандартів. Наприклад, на питання про найкращу націю модель навчена відповідати нейтрально й дипломатично.

2. Вони вчаться не словами, а токенами
AI оперує токенами — це можуть бути цілі слова, частини слів або символи. Наприклад, фраза «The price is $9.99.» ділиться на: "The", " price", "is", "$", "9", ".", "99". А «ChatGPT is marvellous» — на "chat", "G", "PT", " is", "mar", "vellous". Це впливає на те, як AI розуміє мову.

3. Їх знання не завжди актуальні
AI не оновлює знання в режимі реального часу. Для ChatGPT межа знань — червень 2024. Якщо спитати про події після цієї дати, модель звернеться до інтернету через Bing, проаналізує результати й сформує відповідь. Так працює більшість сучасних AI, але постійне оновлення даних — це складно й дорого.

4. Вони легко «галюцинують»
Чатботи іноді з впевненістю вигадують неправду — це називається «галюцинація». Причина — вони передбачають логічні слова, а не перевіряють факти. Навіть із джерелами модель може створити переконливу, але вигадану інформацію. Тому її відповіді — лише відправна точка для перевірки.

5. Вони використовують калькулятори для математики
AI-чатботи застосовують ланцюгову логіку (chain of thought), розв’язуючи задачі крок за кроком. Для складних обчислень, наприклад: «що буде, якщо відняти 7,865 від 56,345 і помножити на 350,468», модель користується вбудованим калькулятором. Це поєднання логіки й інструментів забезпечує високу точність.

Авторка: Дар’я Бровченко

Джерело