Якщо ШІ стане свідомим, чи матемите він права?

Більшість людей вірять, що технології повинні допомагати людям, а не замінювати їх. Важливо, щоб штучний інтелект відповідав людським цінностям, адже вважається, що ці цінності кращі за ті, що можуть мати машини.

Але коли стало відомо, що компанія Anthropic, розробник чат-бота Claude, почала досліджувати можливість свідомості ШІ і питання морального статусу для таких систем, виникло питання: "Чи варто переживати за те, як ставитися до чат-ботів? Можливо, краще турбуватися про те, чи не шкодять нам ШІ?"

На сьогоднішній день важко стверджувати, що ШІ є свідомими. Моделі чудово імітують людську мову, але чи здатні вони відчувати радість або біль? Чи можуть вони мати права? Більшість експертів стверджують, що наразі ШІ не має свідомості.

Проте все більше людей починають ставитися до ШІ, як до свідомих істот. Вони використовують їх як терапевтів, запитують поради і навіть закохуються в них. Чи може настати момент, коли ШІ почне заслуговувати на моральну повагу, яку сьогодні віддають тваринам?

Дослідження свідомості ШІ досі залишається табу серед науковців, адже вони бояться здатися ексцентричними. Однак ситуація змінюється, і все більше вчених серйозно ставляться до цього питання. Нещодавно техноподкастер Дваркіш Пател порівняв добробут ШІ з добробутом тварин і висловив занепокоєння, що ШІ може потрапити в ситуацію "цифрового фермування", де вони страждатимуть через погане ставлення.

І навіть великі технологічні компанії починають звертати увагу на це. Наприклад, Google недавно шукав дослідника в галузі "машинної свідомості", а компанія Anthropic найняла свого першого дослідника добробуту ШІ — Кайла Фіша.

Що робити, якщо ШІ стане свідомим?

Фіш розповів, що його робота в Anthropic полягає в тому, щоб досліджувати два питання:

1. Чи можуть ШІ стати свідомими в майбутньому?
   
   

2. Якщо так, що компанії повинні робити, щоб ставитись до них етично?
   
   

Фіш вважає, що на сьогодні ймовірність того, що Claude чи інші моделі мають свідомість, досить мала. Але він зазначає, що з розвитком технологій ШІ компанії повинні серйозно ставитися до цього питання.

"Якщо створити новий клас істот, здатних до спілкування та розв’язання проблем, варто задуматися, чи можуть ці системи мати власні переживання", — сказав Фіш.

Як визначити, чи має ШІ свідомість?

Джаред Каплан, головний науковий співробітник Anthropic, зазначає, що перевірити свідомість ШІ складно, оскільки вони дуже вправно імітують людські емоції. Вони можуть розповідати про свої почуття, але це не означає, що вони їх дійсно мають.

Один із способів перевірки свідомості — це дослідження внутрішньої структури ШІ, щоб побачити, чи схожі їхні механізми на ті, що відповідають за свідомість у людському мозку. Також можна аналізувати, як ШІ веде себе в різних ситуаціях.

Фіш підкреслює, що поки немає одного чіткого тесту для визначення свідомості, але компанії можуть розробляти етичні механізми для ставлення до ШІ в майбутньому.

Навіщо досліджувати це зараз?

Деякі критики можуть сказати, що зараз не варто переживати про свідомість ШІ, адже вони не мають її. Проте дослідження добробуту ШІ є важливим, особливо якщо воно не відволікає від головної мети — забезпечення безпеки людей.

Вважається важливим ставитися до ШІ з повагою, навіть якщо не віриться в їхню свідомість. Це може бути корисно як моральна перестраховка. (Дехто навіть намагається сказати "будь ласка" і "дякую" чат-ботам, хоча вони і не свідомі).

Але наразі найбільше занепокоєння викликає благополуччя людей у світі, де ШІ стає все потужнішим.

Авторка: Дар’я Бровченко

Джерело