середа, 5 лютого 2025 р.

Дослідники застерігають: якщо штучний інтелект стане свідомим, його можна буде змусити страждати

Експерти та науковці підписали відкритий лист із закликом до відповідального розвитку технологій.

Штучний інтелект, здатний відчувати емоції або усвідомлювати себе, може зазнати страждань у разі безвідповідального розвитку цієї технології. Про це йдеться у відкритому листі, підписаному провідними спеціалістами у сфері ШІ, серед яких британський актор та мислитель сер Стівен Фрай.

Понад 100 експертів запропонували п’ять принципів відповідального дослідження свідомості штучного інтелекту. Вони висловлюють занепокоєння через стрімкий розвиток технологій, що можуть призвести до створення систем, які вважатимуться свідомими.

Серед ключових принципів:

  • пріоритетність досліджень свідомості у ШІ, аби уникнути можливого жорстокого поводження та страждань

  • обмеження у створенні свідомого ШІ

  • поступовий підхід до розробки таких систем

  • публічне розкриття результатів досліджень

  • відмова від оманливих чи надмірно впевнених заяв щодо створення свідомого ШІ

Серед підписантів — вчені, такі як сер Ентоні Фінкельштейн з Лондонського університету, та спеціалісти зі штучного інтелекту з компаній Amazon і WPP (одна з найбільших рекламних груп у світі).

Лист був опублікований разом із науковою статтею, що детально пояснює запропоновані принципи. Її автори, дослідники з Оксфордського університету та Афінського університету економіки та бізнесу, стверджують, що у найближчому майбутньому можуть бути створені системи, які або дійсно стануть свідомими, або будуть виглядати так, ніби вони є свідомими.

"Можливо, буде створено величезну кількість свідомих систем, які зазнаватимуть страждань", — зазначають науковці. Вони попереджають, що якщо потужні ШІ-системи зможуть самовідтворюватися, це може призвести до появи великої кількості нових істот, які потребуватимуть морального захисту.

Дослідники також порушують питання: якщо ШІ визнають моральним пацієнтом, тобто істотою, що має моральне значення саме по собі, то чи буде його знищення рівнозначним убивству тварини.

У статті також наголошується, що помилкове уявлення про те, що ШІ вже є свідомим, може призвести до марної витрати політичних ресурсів у спробах забезпечити "права" таких систем.

У 2023 році сер Деміс Хассабіс, голова ШІ-департаменту Google та лауреат Нобелівської премії, заявив, що штучний інтелект наразі безумовно не є розумним, але в майбутньому це може змінитися.

"Філософи досі не дійшли єдиної думки щодо визначення свідомості. Але якщо під нею розуміти самосвідомість, то можна припустити, що одного дня ШІ справді її досягне", — сказав він в інтерв’ю американському телеканалу CBS.

Авторка: Дар’я Бровченко

Немає коментарів:

Дописати коментар

Примітка: лише член цього блогу може опублікувати коментар.