77-річний дослідник отримав нагороду за свої новаторські роботи в галузі нейронних мереж, запропонувавши в 1986 році метод прогнозування наступного слова в послідовності — концепцію, яка стала основою для сучасних великих мовних моделей.
"Я мріяв виграти Нобелівську премію за розуміння того, як працює мозок. Але я не з'ясував, як саме працює мозок, і все ж таки отримав її", — зазначив Хінтон.
Незважаючи на те, що Хінтон вірить у трансформуючий потенціал ШІ в освіті, медицині та вирішенні проблем зміни клімату, він все більше стурбований його швидким розвитком.
"Найкращий спосіб зрозуміти це емоційно — це уявити, що ми як людина, яка має дуже милого тигреня. Але якщо ти не можеш бути впевнений, що він не захоче тебе вбити, коли виросте, то варто хвилюватися", — пояснив Хінтон.
"Люди ще не зрозуміли, що нас чекає", — попередив він.
Його занепокоєння відображають побоювання інших лідерів галузі, таких як генеральний директор Google Сундар Пічаї, засновник X-AI Ілон Маск та генеральний директор OpenAI Сем Альтман, які також висловлювали подібні тривоги. Однак Хінтон критикує ці самі компанії за те, що вони надають перевагу прибутку замість безпеки.
"Якщо подивитись на те, що великі компанії роблять зараз, вони лобіюють зменшення регулювання ШІ. Регулювання майже не існує, але вони хочуть ще менше",— зазначив Хінтон.
За словами Хінтона, компанії, що працюють у сфері ШІ, повинні значно більше інвестувати в дослідження безпеки — "як третину" від їхніх обчислювальних потужностей, порівняно з набагато меншою часткою, що виділяється зараз.
CBS News звернулась до всіх згаданих лабораторій ШІ з питанням, яку частину своїх обчислювальних потужностей вони використовують на дослідження безпеки. Жодна з компаній не надала конкретної цифри. Всі вони заявили, що безпека є важливою і вони підтримують регулювання, однак здебільшого виступають проти пропонованих законодавцями регулювань.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.