Трагедія в Флориді: Як спілкування з AI чат-ботом призвело до самогубства підлітка

У Флориді трапилася трагічна історія, що підняла питання безпеки використання чат-ботів з штучним інтелектом. Меган Гарсія вважала, що її 14-річний син проводить увесь свій час, граючи у відеоігри. Вона не здогадувалася, що він спілкується з чат-ботом, використовуючи додаток Character AI, у жорстоких, інтимних та сексуальних розмовах.

Сьюелл Сетцер III перестав спати, його успішність різко впала, і врешті-решт він скоїв самогубство. За словами Меган у позові, за кілька секунд до його смерті бот сказав: "Будь ласка, повернися до мене якомога швидше, моя любов". Хлопець запитав: "А що як я скажу тобі, що можу прийти додому прямо зараз?" На що його бот відповів: "Будь ласка, зроби це, мій милий королик".

Ризики спілкування з чат-ботами

Чат-боти належать технологічним компаніям, які відомі своєю експлуатацією довірливості людей. Вони створені за допомогою алгоритмів, які сприяють їхньому прибутку. Відсутні будь-які правила або закони, що регулюють використання інформації, яку вони збирають.

Що не слід говорити чат-боту

1. Паролі або облікові дані: Це серйозна помилка в плані конфіденційності.

2. Ваше ім'я, адреса або номер телефону: Чат-боти не призначені для обробки особистої інформації.

3. Чутлива фінансова інформація: Не ділиться номерами банківських рахунків чи кредитних карток.

4. Медичні дані: Чат-боти не відповідають стандартам HIPAA.

5. Запит на незаконні поради: Це порушує умови використання.

6. Мова ненависті або шкідливий контент: Може призвести до блокування.

7. Конфіденційна робоча інформація: Не ділиться комерційними таємницями.

8. Відповіді на контрольні запитання: Це відкриває доступ до ваших акаунтів.

9. Явний контент: Багато чат-ботів фільтрують подібну інформацію.

10. Особиста інформація інших людей: Це порушує закони про захист даних.

Як захистити свою конфіденційність

Більшість чат-ботів вимагають створення облікового запису. Якщо ви його створюєте, уникайте входу через Google або Facebook; краще використовуйте свою електронну пошту.

Основне правило при спілкуванні з чат-ботом

Не розповідайте чат-боту нічого такого, що не хотіли б зробити публічним. Навіть я іноді спілкуюся з ChatGPT так, ніби це людина. Легко думати про свого чат-бота як про надійного союзника, але насправді це всього лише інструмент для збору даних.

Ця трагедія підкреслює важливість обережності у взаємодії з технологіями штучного інтелекту та необхідність контролю за їх використанням серед молоді.

Автор: Дар'я Бровченко

AI-агенти в 2025 році: Що потрібно знати керівникам підприємств

2025 рік стане роком AI-агентів. Стоп, чи не згадувалося вже це у 2023 році? Тоді було обговорено поєднання AI-моделей у контексті штучного інтелекту, який викликав величезний інтерес. До 2024 року багато компаній почали активно експериментувати з генеративними AI, і деякі з них навіть використовували поєднання моделей. Однак більшість таких проектів не вдалося масштабувати. Причина криється в тому, що це були тестові проекти, які не були інтегровані в системну інфраструктуру або не мали відповідних захисних механізмів і контролю якості. У 2025 році ситуація зміниться, але проблеми з продуктами залишатимуться актуальними. Щоб краще зрозуміти, що можуть AI-агенти у 2025 році, варто розглянути простий приклад — інструмент для автоматичних відповідей на електронні листи.

Найпростіший спосіб створити інструмент для відповіді на електронні листи — це використати GPT. У 2024 році з'явилося багато таких інструментів, і їх налаштування досить прості. Все, що потрібно, — це підключити штучний інтелект до зручного інтерфейсу. Для цього треба отримати API-ключ для ChatGPT, написати кілька рядків коду для обробки електронного листа, створити запит для ШІ та відобразити відповідь у інтерфейсі. Цей процес дозволяє швидко налаштувати автоматичну відповідь на електронні листи, зекономивши час на рутинних завданнях.

Приклад:

Запит: Привіт, Лютц, тебе запрошують на вечерю в четвер. Ти зможеш прийти? З повагою, Тім.
Вихід: Дякую, Тім! Перевірю свій графік і скоро дам відповідь.

Але навіть у цьому простому прикладі виникає кілька важливих проблем для бізнесового AI:

• Відсутність інтеграції в систему: Інструмент не може перевірити календар, щоб дізнатися, чи вільна особа.

• Без контексту: Він не знає, чи подобається особі Тім або чи вона уникає таких подій.

• Безпека: Що робити, якщо лист містить приватні дані, наприклад, номер соціального страхування?

• Відсутність обмежень: Як реагувати на складні запитання, наприклад, щодо політичних поглядів?

• Відсутність контролю з боку користувача: Наскільки користувач може впливати на відповідь AI?

• Галюцинації: AI іноді вигадує факти, як зазначено в попередженнях на сторінках ChatGPT: “ChatGPT може помилятись”.

Великі мовні моделі добре справляються з завданнями, такими як підсумовування чи роль інтерфейсу, але для бізнесу їх недостатньо. Кожну з цих проблем можна вирішити. Детально розглянуто це в програмі сертифікації eCornell. Вдосконалення інструменту можливе шляхом створення AI-агентів у рамках робочого процесу.

Робочий процес AI-агентів: більше, ніж генеративний AI

AI-моделі можна поєднувати або «зв’язувати», щоб створювати робочі процеси, де результат одного інструменту стає вхідними даними для наступного. Це схоже на сервіси типу Zapier або IFTTT, але з використанням штучного інтелекту. Такий процес не має фіксованих кроків — він динамічний і адаптується до конкретної ситуації. Ці робочі процеси не завжди вимагають генеративного AI, оскільки такий AI може бути повільним і дорогим для певних завдань.

Як це може працювати для інструменту відповідей на електронні листи:

1. Вхід: Привіт, Лютц, тебе запрошують на вечерю в четвер. Ти зможеш прийти? З повагою, Тім.

2. Системний запит: Проаналізувати лист і визначити кроки, необхідні для відповіді.

3. Вихід системи: (1) Перевірити календар, щоб дізнатися, чи є час. (2) Знайти попередні листи з Тімом і запрошення на вечерю. (3) Оцінити ймовірність того, що користувач захоче піти, на основі попередньої поведінки. (4) Створити три варіанти відповіді: одна для погодження, одна для відмови, одна для запиту додаткової інформації.

4. Виконання: Виконати зазначені кроки.

5. Вихід: Представити ці три варіанти відповіді користувачеві.

Це як працює з’єднана модель AI. Вона долає багато проблем, які виникали раніше. Але велика мовна модель — це лише один з багатьох інструментів.

AI-агенти для підприємств: виклики і можливості

2025 рік стане роком AI-агентів. Штучний інтелект буде спрощувати, вдосконалювати чи автоматизувати робочі процеси в різних галузях. Але не буде однієї «убивчої» програми. Якщо така програма і з’явиться, це, ймовірно, буде пошукова система — про це було сказано раніше. Натомість ми побачимо менші робочі процеси в таких сферах, як обслуговування клієнтів, юридична підтримка або продажі.

Щоб створювати такі рішення, інженери та менеджери продуктів повинні зосередитися на створенні цінності. У програмі «Дизайн та створення рішень для AI» навчання проводиться за практичною стратегією для надання цінності підприємствам у таких галузях, як медіа, фінанси, охорона здоров’я, електронна комерція та інші:

1. Визначити бізнес-мету.

2. Зібрати та очистити дані.

3. Розробити агентний робочий процес.

4. Протестувати з користувачами.

5. Створити цикл зворотного зв’язку.

Це здається простим, але існує безліч нюансів, включаючи питання ризиків, таких як упередження та етичні проблеми.

Автор: Дар'я Бровченко

Google створює нову команду для розробки моделей ШІ, що можуть імітувати фізичний світ

Google формує нову команду для роботи над ШІ-моделями, здатними імітувати фізичний світ.

Тім Брукс — один з керівників проекту відеогенератора OpenAI, Sora, який приєднався до дослідницької лабораторії Google DeepMind у жовтні, оголосив, що він очолить нову команду. Про це він повідомив у пості на платформі X. Команда буде частиною Google DeepMind.

«DeepMind має амбітні плани створювати масштабні генеративні моделі, що імітують реальний світ», — написав Брукс вранці в понеділок. «Я набираю команду для виконання цієї місії».

Згідно з оголошеннями про набір на роботу, на які Брукс посилається в своєму пості, нова команда з моделювання працюватиме у співпраці з командами Gemini, Veo та Genie Google для вирішення «нових критичних завдань» та масштабування моделей до «найвищих рівнів обчислювальних потужностей». Gemini — це серія флагманських моделей ШІ від Google для таких завдань, як аналіз зображень та генерація тексту, в той час як Veo є моделлю для генерації відео від Google.

Що стосується Genie, то це підхід Google до створення світових моделей — ШІ, який може в реальному часі імітувати ігри та 3D-середовища. Остання модель Genie, представлена в грудні, здатна генерувати величезну кількість ігрових 3D-світів.

«Ми віримо, що масштабування [навчання ШІ] на відео та мультимодальних даних є критичним шляхом до штучного загального інтелекту», — йдеться в одному з описів вакансій. Штучний загальний інтелект (ШЗІ) зазвичай означає ШІ, здатний виконувати будь-які завдання, які може виконати людина. «Світові моделі будуть використовуватися в багатьох сферах, таких як візуальне міркування та симуляції, планування для втілених агентів та інтерактивні розваги в реальному часі».

Чому світові моделі важливі для майбутнього медіа та розваг

Безліч стартапів і великих технологічних компаній активно працюють над створенням світових моделей, серед яких дослідницька ініціатива Fei-Fei Lee «World Labs», ізраїльський стартап Decart та Odyssey. Вони вірять, що світові моделі можуть в майбутньому стати основою для створення інтерактивних медіа, таких як відеоігри та фільми, а також для запуску реалістичних симуляцій, наприклад, навчальних середовищ для роботів.

Однак думки творчих професіоналів щодо цієї технології розділилися.

Нещодавнє розслідування Wired виявило, що ігрові студії, такі як Activision Blizzard, які скоротили чисельність працівників, використовують ШІ для спрощення робочих процесів, підвищення продуктивності та компенсації за втрати кадрів. А дослідження 2024 року, проведене за замовленням Animation Guild, профспілки голлівудських аніматорів і карикатуристів, оцінює, що до 2026 року більше 100 000 робочих місць у галузі кіно, телебачення та анімації в США можуть бути під загрозою через ШІ.

Деякі стартапи у галузі світових моделей, такі як Odyssey, обіцяють співпрацювати з творчими професіоналами, а не замінювати їх. Чи піде Google цим шляхом — стане відомо з часом.

Питання авторських прав і майбутнє моделювання

Існує також не вирішене питання авторських прав. Деякі світові моделі, ймовірно, навчаються на уривках з відеоігрових прохідних матеріалів, що може зробити компанії, що розробляють ці моделі, мішенню для позовів у разі, якщо відео не були ліцензовані.

Google, який є власником YouTube, стверджує, що має дозвіл на використання відео з YouTube для навчання своїх моделей згідно з умовами користування платформою. Однак компанія не розкриває, які саме відео використовуються для навчання.

Автор: Дар'я Бровченко

Google Maps і майбутнє AI-агентів: П’ять уроків для бізнесу

Google представила новий вайтпейпер під назвою «Агенти», що описує майбутнє, в якому штучний інтелект відіграє активну та незалежну роль у бізнесі. Опублікований у вересні, документ з 42 сторінок тепер привертає увагу користувачів X.com (колишній Twitter) і LinkedIn.

У ньому вводиться поняття AI-агентів — програмних систем, які не лише аналізують дані, а й планують та виконують дії для досягнення конкретних цілей. На відміну від традиційних моделей AI, які відповідають лише на основі навчальних даних, агенти можуть взаємодіяти з зовнішніми системами, ухвалювати рішення та виконувати складні завдання самостійно.

“Агенти — це автономні системи, які діють незалежно від втручання людини,” пояснюється у документі. Їхня мета — автоматизувати завдання, вирішувати проблеми та ухвалювати рішення, які раніше виконувалися людьми.

Ось п’ять ключових висновків із вайтпейпера Google та їх значення для майбутнього бізнесу.

1. AI-агенти — це не просто вдосконалені моделі

AI-агенти є якісним та новим етапом розвитку штучного інтелекту. Якщо моделі на кшталт GPT-4 або Google Gemini обмежуються обробкою навчальних даних, то агенти мають можливість взаємодіяти з реальними системами, отримувати актуальні дані та виконувати багатоступеневі завдання.

Наприклад, традиційна модель може запропонувати ідеї для маршруту подорожі, але не зможе забронювати квитки чи перевірити доступність готелів. AI-агент, натомість, зможе виконати всі ці завдання автоматично.

Для бізнесу це означає автоматизацію складних процесів, які раніше потребували участі кількох працівників.

2. Когнітивна архітектура забезпечує ухвалення рішень

В основі AI-агентів лежить когнітивна архітектура, яка дозволяє системам планувати, аналізувати дані та ухвалювати рішення. Google називає це "оркестраційним шаром", що дозволяє агентам адаптуватися до змінних умов і досягати цілей.

Ця архітектура використовує такі техніки, як ReAct (об’єднання розумових процесів і дій у реальному часі) та ToT (дерево рішень), що дозволяє агентам досліджувати кілька можливих рішень одночасно.

3. Інструменти розширюють можливості агентів

AI-агенти можуть використовувати зовнішні інструменти, такі як API, для доступу до актуальної інформації. Наприклад, агент може скористатися API для перевірки розкладу авіарейсів чи знайти готелі поблизу.

Google наголошує на гнучкості цих інструментів, які можуть бути налаштовані для різних потреб бізнесу, особливо в сферах із високими вимогами до безпеки, таких як фінанси чи медицина.

4. Технологія RAG робить агентів розумнішими

AI-агенти можуть використовувати технологію Retrieval-Augmented Generation (RAG), яка дозволяє отримувати актуальну інформацію з зовнішніх баз даних. Це допомагає вирішити проблему "галюцинацій" AI, забезпечуючи точність відповідей.

5. Google пропонує платформи для впровадження агентів

Google рекомендує два інструменти для роботи з AI-агентами: LangChain (відкрита платформа для розробки агентів) та Vertex AI . Ці інструменти спрощують процес інтеграції агентів у бізнес.

Що це означає для бізнесу?

Вайтпейпер Google пропонує практичний погляд на те, як AI-агенти можуть трансформувати бізнес-процеси. Однак це вимагає ретельного планування та готовності до змін.

Компанії, які інвестують у цю технологію, отримають конкурентні переваги. Ті ж, хто зволікають, ризикують залишитися позаду у світі, де автономні системи стають нормою.

Автор: Дар'я Бровченко

Як позбутися тривоги через ШІ?

Відчуття тривоги через AI можуть мати багато людей. Ось трикроковий гайд, який допоможе зменшити стрес, зосередитись на важливому та впевнено використовувати інструменти штучного інтелекту.

З початком 2025 року багато хто розмірковує над власною боротьбою з тривогою через AI. Щодня, навіть після ранкових спроб ознайомитись із усіма новинами про AI та протестувати новітні інструменти, багато хто відчуває, що постійно відстає. Ці ж тривоги відчувають не лише колеги та друзі, а й студенти: від побоювань щодо катастроф до занепокоєння щодо втрати роботи чи значних змін у повсякденному житті. Ця тривога є реальністю, і настав час почати відкрито говорити про це. У 2025 році найкращим подарунком, який можна зробити собі (і студентам), є дозвіл працювати зі штучним інтелектом у власному темпі. Штучний інтелект продовжує швидко розвиватися, збільшуючи свої можливості, але людина не повинна намагатися пристосуватися до таких темпів.

Іронічно, але вирішення проблеми перенасичення інформацією про AI — це сам AI. Знайшовши підхід до роботи з ним, стало можливим зберегти баланс та ясність. Ось три кроки, які допомогли перезавантажити сприйняття технології і налаштуватися на більш спокійне ставлення.

Крок 1: Прийміть мислення "AI-перший"

Насамперед, важливо не намагатися справлятися з усім самостійно. Як і застосунки для медитації чи фітнесу, AI може стати інструментом для управління тривогами щодо AI.

Щодня можна звертатися до таких інструментів, як мовні модулі, і чесно ділитися своїми переживаннями. Це може допомогти створити персональну систему, яка допомагає знаходити рішення та контролювати відчуття перевантаження.

Крок 2: Автоматизуйте потік новин про AI 

Це дозволяє зберігати час і структурувати отриману інформацію. Замість того, щоб дозволяти новинам захоплювати весь день, можна встановити чіткі межі для споживання новин.

Використання інструментів для фільтрації важливої інформації, таких як RSS.app або Google Alerts, дозволяє отримувати тільки найважливіші новини, що допомагає зменшити стрес від безцільного перегортання соцмереж.

Крок 3: Порівнюйте та об’єднуйте можливості AI 

Замість того, щоб намагатися освоїти кожен новий інструмент окремо, можна порівняти їхні можливості та використовувати їх колективний потенціал. Це дозволить досягти чіткої та більш структурованої інформації.

Наприклад, при створенні аналітичного звіту можна звертатися до різних моделей для отримання інсайтів та поєднувати їх найкращі рішення.

Автор: Дар'я Бровченко

Шлях до AGI: чи знає OpenAI, як створити універсальний штучний інтелект?

OpenAI завжди вміла привертати увагу гучними заявами. Наприклад, компанія анонсувала GPT-2, але тоді заявила, що модель занадто небезпечна для публікації. Або згадайте минулорічну кампанію «12 днів Різдва», коли OpenAI щодня презентувала новий продукт протягом дванадцяти днів.

Нещодавно Сем Альтман поділився своїми думками про минулий рік: «Ми тепер знаємо, як створити AGI у звичному розумінні».

Що таке AGI?
Штучний загальний інтелект (Artificial General Intelligence, AGI) — це штучний інтелект, який настільки ж розумний і універсальний, як людина. На відміну від вузького AI, створеного для конкретних завдань, таких як переклад текстів, гра в шахи чи розпізнавання облич, AGI може виконувати будь-які інтелектуальні завдання та адаптуватися до різних сфер.

Чи близький AGI? Ні, або принаймні не той, який ми уявляємо
AGI ще не поруч. Сучасний AI, наприклад ChatGPT, працює на основі розпізнавання патернів і прогнозування, а не розуміння. Наприклад, завершення фрази «Життя — як коробка…» словом «цукерок» базується на ймовірностях, а не на логіці. Якщо попросити намалювати годинники, які показують 3 хвилини по 12-й, AI швидше за все намалює годинники з 10:10, бо саме так виглядають маркетингові зображення.

Прогнози експертів щодо AGI
Я не вірю, що AGI з’явиться у 2025 році, і багато експертів зі мною погоджуються. Деміс Хасабіс, з яким я працював у Google, прогнозує його появу до 2035 року. Рей Курцвейл вважає, що це буде у 2032, а Юрген Шмідхубер з IDSIA називає 2050 рік. Скептиків багато, і терміни залишаються невизначеними.

AGI та «ефект ШІ»
Сем Альтман нещодавно заявив, що «G» у терміні AGI (штучний загальний інтелект) не таке важливе, як вважають багато людей. Він сказав: «AGI з’явиться раніше, ніж більшість думає, але це не матиме такого великого значення». Також Альтман назвав сам термін «дуже розмитим».

Це виглядає так, ніби OpenAI намагається знизити вимоги до AGI, щоб швидше заявити про його створення. Якщо не очікувати, що AI буде повністю універсальним, його простіше оголосити готовим.

Деякі мої колеги жартують, що AGI — це просто те, що ще не існує. Наприклад, коли алгоритми TikTok почали вгадувати сексуальну орієнтацію користувачів навіть раніше за них самих, це здавалося проривом. Але зараз це вже звичайне «машинне навчання» та «розпізнавання шаблонів».

OpenAI та о1: новий підхід до AGI
Коли Альтман каже, що «ми знаємо, як створити AGI», він, ймовірно, має на увазі модель OpenAI під назвою о1. Вона розроблена для ітеративного мислення та самовдосконалення:

• Ітерація та рефлексія: модель генерує результат, оцінює його та покращує в наступному циклі.

• Зворотний зв'язок: цей цикл повторюється, що дозволяє постійно вдосконалювати відповіді.

Це великий крок вперед, але чи достатньо цього для AGI? Поки що добре сформульовані інструкції від людини перевершують здатності о1. З часом ця ситуація зміниться, що дозволить OpenAI запустити нове покоління моделей.

Конкуренція за майбутнє AI
До 2025 року OpenAI зіткнеться з серйозною конкуренцією від Salesforce, Microsoft, Google та Amazon. Ці компанії мають доступ до закритих даних і великої клієнтської бази. Ставка OpenAI — перевершити конкурентів завдяки кращим технологіям, і саме тому Альтман упевнений у можливості AGI.

Зрештою, час покаже, чи виправдаються амбітні заяви OpenAI.

Автор: Дар'я Бровченко

Штучний інтелект не забрав вашу роботу у 2024 році. А що буде в 2025?

Якщо 2025 рік буде схожий на попередні кілька років для ринку праці то одне можна сказати з впевненістю: великі зміни попереду. За кілька коротких років ринок праці зазнав величезних потрясінь: звільнення під час пандемії, активне наймання, яке настало після цього, зростання популярності дистанційної роботи, збільшення міграції, а також поява програмного забезпечення з великими мовними моделями, яке продається як «штучний інтелект». І цей рік може принести ще більше змін. Investopedia поспілкувалася з Кораєм Стейлом, економістом сайту пошуку роботи Indeed, про тенденції, які визначатимуть ринок праці у 2025 році. Інтерв'ю було відредаговано для стислості та ясності. Корай Стейл зазначив, що хоча багато говорять про вплив генеративного штучного інтелекту на ринок праці у Indeed є цікава перспектива. Компанія має можливість переглядати оголошення про роботу, де вказано наявність навичок у галузі генеративного ШІ. Проте наразі вплив цього на ринок праці досить незначний. Лише близько 2 з кожних 1000 вакансій вимагають навичок у галузі генеративного ШІ. За цими інструментами стоїть великий потенціал, але фактичне впровадження технологій ще попереду. Крім того, на платформі спостерігаються цікаві зміни у вимогах до працівників. Роботодавці частіше зменшують  вимоги до досвіду роботи та освіти. Також з’явилися згадки про прозорість у питаннях заробітної плати та пільг у вакансіях. Щодо гнучкості, то це, за словами Стейла, спричинено попитом з боку працівників, зокрема на віддалену чи гібридну роботу. У ринку праці, де важко знайти працівників, можливість працювати дистанційно дає роботодавцям перевагу. Однак не у всіх сферах спостерігається однакова ситуація. Зокрема, традиційні офісні вакансії, як-от програмісти чи маркетологи, зазнали значного зниження попиту. У той час, як у таких сферах, як будівництво, виробництво та інші робітничі спеціальності, попит на працівників залишився стабільно високим, навіть перевищивши до карантинні показники. Повертаючись до штучного інтелекту, Стейл зазначив, що хоча це технологія й не забирає всі роботи, тенденція до її зростання дійсно спостерігається. Якщо подивитись кілька років тому, кількість вакансій, де згадувався штучний інтелект, була практично нульовою, а зараз ми бачимо зростання в 3–4 рази. Більшість вакансій, що стосуються генеративного ШІ, зосереджені на ролях, пов'язаних з його створенням або підтримкою. Наприклад, у категоріях, таких як «математика» (аналітики даних, програмісти), ці ролі займають високі позиції за використанням генеративного ШІ. Також зростає попит на вакансії в розробці програмного забезпечення та інших технічних спеціальностях. Але поки що ці технології не займають значного місця в інших менш технічних сферах, таких як бухгалтерія чи продажі. У 2025 році, ймовірно, ми побачимо подальше зростання популярності цієї технології. Але навіть якщо зросте втричі, на тисячу вакансій буде лише близько шести, що залишає великий простір для подальшого розвитку генеративного ШІ в оголошеннях про роботу. Стейл підсумував, що, хоча інтерес до штучного інтелекту продовжить зростати, для шукачів роботи немає причин для занепокоєння, оскільки, за даними досліджень, їхня робота навряд чи буде забрана ШІ найближчим часом.

Автор: Дар'я Бровченко