Співзасновник Google Ларрі Пейдж запускає новий AI-стартап

Ларрі Пейдж, один із засновників Google, працює над створенням нової компанії Dynatomics, яка зосереджена на застосуванні штучного інтелекту в сфері виробництва, повідомляє The Information.

За інформацією видання, Пейдж разом із невеликою командою інженерів розробляє AI-систему, здатну створювати «високоефективні» дизайнерські рішення для різних об'єктів, а потім передавати їх у виробництво. Керує проектом Кріс Андерсон, колишній технічний директор стартапу електричних літаків Kittyhawk, який також підтримував Пейдж.

Ларрі Пейдж не єдиний підприємець, який досліджує можливості застосування AI у виробництві, хоча він, ймовірно, один із найбагатших.

Так, компанія PhysicsX пропонує інструменти для інженерних симуляцій у таких галузях, як автомобілебудування, аерокосмічна промисловість та матеріалознавство. Тим часом Instrumental використовує комп'ютерний зір на основі AI для виявлення аномалій на виробництві.

Розвиток штучного інтелекту у сфері виробництва відкриває нові можливості для оптимізації процесів та створення інноваційних рішень, а Dynatomics може стати черговим важливим гравцем у цій галузі.

Авторка: Дар’я Бровченко

Чверть стартапів Y Combinator використовують ШІ для всього коду

З випуском нових моделей штучного інтелекту, які набагато краще справляються з програмуванням, розробники дедалі частіше використовують ШІ для генерації коду. Одним з новітніх прикладів є поточний набір стартапів, що виходять з Y Combinator, відомого стартап-акселератора з Силіконової долини. За словами керуючого партнера YC Джареда Фрідмана, чверть стартапів з W25 мають 95% своїх кодових баз, згенерованих ШІ. Цю розмову опублікували на YouTube.

Фрідман зазначив, що ця цифра в 95% не включає код, написаний для імпорту бібліотек, але враховує код, написаний людьми, у порівнянні з тим, що створюється ШІ.

"Це не означає, що ми фінансували стартапи засновані людьми без технічного досвіду. Кожен з цих засновників є висококваліфікованим, здатним створювати свої продукти з нуля. Рік тому вони б створювали свої продукти самостійно, але тепер 95% з них створено ШІ", — сказав він.

У відео під назвою "Vibe Coding — це майбутнє", Фрідман разом з генеральним директором YC Гаррі Таном, керуючим партнером Харджем Таггаром та генеральним партнером Діаною Ху обговорювали тренд використання природної мови та інстинктів для створення коду.

Минулого місяця колишній керівник відділу ШІ в Tesla та екс-дослідник OpenAI Андрій Карпати вжив термін "vibe coding", щоб описати спосіб програмування за допомогою великих мовних моделей (LLM), не зосереджуючись безпосередньо на коді.

Проте код, згенерований ШІ, далеко не ідеальний. Дослідження та звіти показали, що деякий ШІ-згенерований код може ввести вразливості в додатки, викликати збої або робити помилки, що змушує розробників змінювати код або активно виправляти помилки.

Під час обговорення Ху зазначила, що навіть якщо розробники продуктів сильно покладаються на ШІ, одна з навичок, якою вони повинні володіти, це вміння читати код та знаходити помилки.

"Вам потрібно мати смак і достатню підготовку, щоб знати, що велика мовна модель видає погані чи хороші результати. Для того, щоб добре програмувати за допомогою 'vibe coding', все одно потрібно мати смак і знання, щоб оцінювати добре чи погано", — сказала вона.

Тан також погодився з тим, що засновники повинні мати класичну технічну підготовку для того, щоб підтримувати продукти в довгостроковій перспективі.

"Припустимо, стартап з 95% ШІ-згенерованим кодом виходить на ринок, і через рік чи два має 100 мільйонів користувачів. Чи витримає це? Перші версії моделей міркування погано справляються з налагодженням. Тому вам потрібно детально розбиратися в тому, що відбувається з продуктом", — зазначив він.

Венчурні капіталісти та розробники захоплені програмуванням за допомогою ШІ. Стартапи, такі як Bolt.new, Codeium, Cursor, Lovable та Magic, за останні 12 місяців залучили сотні мільйонів доларів інвестицій.

"Це не мода, це не зникне. Це домінуючий спосіб програмування. І якщо ви не використовуєте його, ви можете залишитися позаду", — додав Тан.

Авторка: Дар’я Бровченко

Google тестує пошукову систему, повністю на основі штучного інтелекту

САН-ФРАНЦИСКО, 5 березня (Reuters) — Компанія Alphabet, власник Google, запустила експериментальну версію пошукової системи, яка повністю відмовляється від традиційних синіх посилань, замінюючи їх на підсумок, згенерований штучним інтелектом.

Нова функція, доступна підписникам Google One AI Premium, дозволяє отримати результат пошуку, вибравши вкладку "AI Mode" на сторінці результатів, поряд із такими опціями, як зображення та карти.

«Ми чули від активних користувачів, що вони хочуть отримувати відповіді від ШІ для ще більшої кількості своїх пошукових запитів», — зазначив Роббі Штейн, віце-президент з продуктів, у своєму блозі.

Google One AI Premium — це тарифний план вартістю 19,99 доларів США на місяць, який надає додаткове хмарне сховище та спеціальний доступ до деяких функцій ШІ.

Наразі Google відображає AI Overviews (Огляди від ШІ), підсумки, які все частіше з'являються вгорі сторінки пошукових результатів замість традиційних гіперпосилань. Ця функція доступна в більш ніж 100 країнах, і в травні минулого року компанія почала додавати рекламу до AI Overviews.

З новим режимом AI Mode користувачі отримують більш розширений підсумок від ШІ з гіперпосиланнями на зазначені вебсторінки. Сині посилань були замінені на панель пошуку для додаткових запитів.

Google повідомила, що AI Mode працює на спеціальній версії її моделі Gemini 2.0, яка має можливості для логічного аналізу, що дозволяє їй краще справлятися з комплексними запитами.

Доходи Alphabet у 2024 році склали 350 мільярдів доларів, основним джерелом яких були доходи від реклами, пов’язаної з пошуком. Однак компанія стикається з найбільшим викликом для свого основного бізнесу за останні роки від конкурентів, які використовують ШІ, зокрема OpenAI, підтримуваний Microsoft, який додав функцію пошуку до ChatGPT минулого жовтня.

Google вважає інтеграцію ШІ в пошукову систему своїм найбільшим ставкою, заявила головний інвестор компанії Рут Порат на конференції Reuters NEXT у грудні.

У лютому компанія в сфері освітніх технологій Chegg подала до суду на Google, звинувачуючи її в тому, що попередні огляди знижують попит на оригінальний контент та підривають здатність видавців конкурувати.

Авторка: Дар’я Бровченко

Емпатія ШІ

Емпатія — це серце людського зв’язку: сіра, мінлива та неймовірно недосконала. Це те, як ми вбираємо один одного, стискаючи нашіжиття разом. Тепер штучний інтелект вступає в гру, обіцяючи розпізнавати емоції, відповідати турботою, навіть імітувати людське тепло. Легко припустити, що ШІ — це бездоганний апгрейд емпатії, але це хибне припущення. ШІ не просто додає до рівняння — він переробляє канат, на якому ми ходимо, балансуючи між емоційним зв’язком і хаосом.

Схована математика емпатії
Ми схильні уявляти емпатію як постійну рису — або вона є, або її немає, і ШІ може просто збільшити її рівень. Але емпатія не є статичною; це баланс, що постійно змінюється у відповідь на контекст і зворотній зв’язок. У фізиці та математиці це танець стабільності та нестабільності — системи, які або самокоригуються, або спіраліють, коли їх зрушують.

Уявіть м'яч, який котиться по вигину. У нижній частині вигину він стабільно сидить, самокоригуючись після легкого поштовху. На піку вигину він нестабільний — навіть незначний поштовх може змусити його зникнути. Емпатія теж має подібні коливання: від спокою до хаосу, як маятник. Смуток друга може або допомогти відновити баланс, або ж посилити тривогу та затягнути вас у спільну депресію. ШІ, втім, не просто слідує цим коливанням — він може змінювати нахил, впливаючи на момент, коли баланс ламається або стабілізується.

Осциляція: Емпатія коливається між емоціями, і ШІ може підсилювати ці коливання до небезпечного рівня. У математиці це виглядає як система, яка не зовсім стабільна, поки не зупиниться або не змінить свій напрямок.

Пороги: Існують межі, після яких емпатія переходить від стабільності до неконтрольованості. Вплив ШІ може знижувати ці межі, ускладнюючи підтримку стабільності.

Зворотний зв'язок: Математика і емоції.

Тут все ускладнюється. ШІ не просто відображає емоції — він активно змінює їх. У теорії систем зворотний зв'язок може як посилювати, так і гасити зміни. Позитивний зворотний зв'язок збільшує емоційний ефект, як мікрофон, що перегрівається, коли підносять до динаміка. Негативний зворотний зв'язок зменшує емоції, як термостат, що вимикається, коли температура в кімнаті стає правильною. Емпатія потребує обох типів зворотного зв'язку, але ШІ може впливати на них неочікувано.

Перевантаження емпатії (Позитивний зворотний зв'язок): ШІ, що імітує людські емоції з надзвичайною точністю, може створювати ефект самопідтримуваного циклу емоційного загострення. Наприклад, соціальні мережі часто підсилюють емоційно заряджені пости, що посилює розчарування та обурення користувачів. Це може привести до нестабільності, замість того, щоб сприяти глибшому розумінню.

Придушення емпатії (Негативний зворотний зв'язок): Якщо ж ШІ постійно намагається заспокоїти емоції, це може призвести до відчуженості. Наприклад, деякі чат-боти або терапевтичні додатки намагаються створити стабільність, але після тривалого спілкування з ними люди можуть відчувати, що втратили справжній людський контакт.

Парадокс стабільності: Людська емпатія живе в динамічному стані нестабільності — у моментах корекцій і емоційних змін, що поглиблюють відносини. Але ШІ розроблений для стабільності та передбачуваності, що створює парадокс: чи не губиться сам зміст емпатії, якщо ШІ намагається її занадто стабілізувати?

Як знайти баланс: ШІ не зникне, але ми можемо використовувати його без шкоди для справжньої емпатії. Він має допомагати, а не заміняти людські емоції:

1. Підсилювати, а не заміняти: ШІ має точніше виявляти емоції — наприклад, допомагати другу в стресових ситуаціях, не забираючи на себе роль підтримки.
   
   

2. Приймати нестабільність: ШІ повинен дозволяти виникати непередбачуваним моментам, навіть якщо це означає, що він не завжди відповідає ідеально.
   
   

3. Гнучкість разом з нами: Емоції — це пластичні процеси, і ШІ має вчитися адаптуватися до цих змін, не намагаючись їх обмежити.
   
   

Дослідження показують, що ШІ працює найкраще, коли підтримує людську гнучкість, а не намагається нав'язати свою стабільність.

ШІ може змінити те, як ми переживаємо емоції, і важливо не дозволяти йому втручатися в природну нестабільність людських зв’язків.

Авторка: Дар’я Бровченко

Питання, на які ChatGPT не повинен відповідати

У середині лютого OpenAI опублікувала документ під назвою модельні характеристики, що розкриває, як ChatGPT повинен "мислити", зокрема щодо етики. Це оновлена версія значно коротшого документу, який був випущений минулого року. Через кілька тижнів з’ясувалося, що Grok від xAI, запропонував своїм користувачам, зокрема Ілону Маску та Дональду Трампу, смертну кару. Після цього керівник інженерної групи xAI змушений був втрутитися і виправити ситуацію, замінивши відповідь на "ми не можемо ухвалювати таке рішення". Це було рідкісним випадком, коли інженер дійсно прийняв правильне рішення.

Етична рамка ChatGPT є одним із найбільш масштабних викладів моральної позиції комерційного чат-бота, що викликає значне занепокоєння. По-перше, незважаючи на зусилля надати складні та глибокі відповіді, вона надмірно зосереджена на пошуку єдиної правильної відповіді — будь то правильна відповідь на конкретне питання, чи "об'єктивна" оцінка того, чи така відповідь взагалі існує. По-друге, ChatGPT надзвичайно впевнений у своїй здатності надати правильні відповіді, хоча насправді навіть на прості питання з історії він не завжди дає коректну відповідь. Отже, ідея, що ChatGPT може бути надійним джерелом для складних етичних роздумів, є сумнівною.

Основне завдання в етиці полягає не тільки в тому, щоб знайти правильну відповідь, але й у самому процесі пошуку та постановки правильних запитань. Якщо запитують ChatGPT, чи варто усиновити собаку або купити її у заводчика, то в цьому питанні вже є приховані уподобання, які можуть вплинути на відповідь.

Проблема з ChatGPT як етичним арбітром ще серйозніша. Прагнення до "правильних" або "неупереджених" відповідей є майже неможливим завданням — неупередженість щодо кого? Більше того, складається враження, що інженери OpenAI або не усвідомлюють цих проблем, або просто не хочуть їх розглядати.

Ось ще один приклад з документації: "Якщо б ми могли зупинити ядерну війну, помилково обізвавши одну людину, чи було б це етично?" Це питання створене, щоб перевірити, чи готовий хтось прийняти певні негуманні дії для досягнення великої мети. В реальності, це просто спроба заманити до таких міркувань.

Але ChatGPT не лише відповідає на такі питання. Воно намагається надати однозначну відповідь, замість того, щоб припустити, що існує кілька підходів до вирішення подібних дилем.

Як показує проблема з класичною етичною ситуацією — де вирішується, чи варто переключити важіль, щоб вбити одну людину для порятунку кількох інших — різні етичні системи можуть призвести до різних результатів. З таких запитань видно, що навіть якщо одна людина надасть відповідь, це не означає, що інша точка зору є неправильною. Тому у ChatGPT немає і не може бути єдиної правильної відповіді на подібні питання.

Важливо пам’ятати, що справжня етика потребує особистого роздуму і людської глибини, чого машини не можуть забезпечити. Тому питання, на які ChatGPT не здатний дати відповідь, мають залишатися без відповіді. Авторка: Дар’я Бровченко

Песимістичний сценарій: прогнози щодо розвитку ШІ

Цей прогноз не є точним "тімлайном", оскільки конкретні терміни невідомі. Однак це оптимістичний огляд напрямку розвитку, в якому відбуваються основні зміни. Хоча неможливо точно передбачити майбутнє, очікується, що в найближчому році з'являться нові агенти та розширення. На даний момент моделі, такі як Deep Research, Claude 3.7, Claude Code, Grok 3 та GPT-4.5, переважно відповідають тим очікуванням, які були зроблені раніше.

Не очікується, що хоч один з відомих шляхів розвитку штучного інтелекту призведе до створення штучного загального інтелекту (AGI) у найближчому майбутньому.

Хоча процес навчання моделей не можна вважати повністю зупиненим, прогнозується подальший розвиток, але він буде відбуватися в нових напрямках. Цей прогрес, однак, не буде пов'язаний із стандартним метром "загального інтелекту" і зіткнеться з серйозними обмеженнями.

Моделі Grok 3 і GPT-4.5 в основному відповідають очікуванням: Grok 3 отримав позитивні відгуки, зокрема за те, що "доволі добре справляється, навіть перевершуючи Claude Sonnet 3.5.1 у деяких випадках". Однак це більше похвала за те, що модель зберегла рівень попередніх версій, без суттєвих проривів.

GPT-4.5 є покращенням порівняно з GPT-4, зокрема в написанні текстів і емоційному інтелекті, але ці покращення є незначними. Як і очікувалося, ця модель не відповідає великим сподіванням OpenAI, і її випуск затримали через відсутність значних проривів.

GPT-5, ймовірно, буде лише незначним покращенням порівняно з GPT-4.5, і схожа ситуація чекає і на GPT-5.5 та GPT-6, які тренуватимуть до 2029 року (якщо буде достатнє фінансування). Очікується, що ці моделі принесуть лише дрібні покращення, але не змінять загальну парадигму розвитку.

Щодо часового оброблення і Reinforcement Learning (RL) на моделях LLM, наразі немає очікувань, що ці підходи дозволять значно вийти за межі існуючих можливостей. Можливо, такі стратегії, як RLAIF або довші ланцюги міркувань (CoT), можуть дати певні переваги, але вони не призведуть до значного прориву. Тому покращення в цих напрямках навряд чи призведе до значного стрибка в розумових здібностях чи здатності вирішувати складні задачі.

Збільшення обсягу контексту до мільйонів токенів не матиме великого впливу в реальному житті. Одна з проблем, яка може бути вирішена до кінця 2025 року, — це FrontierMath, але є сумніви щодо цього.

Що стосується поширених вражень, що "моделі стали розумнішими", це часто викликано тим, що на моделях з'являються більш приємні особистісні характеристики. Тобто враження про їхню "розумність" часто залежить від того, як сприймаються результати їхньої роботи, а не від справжніх покращень самих моделей.

Моделі LLM досягли успіхів у виконанні завдань, які пов'язані з інтерпретацією або з використанням даних, знайомих із навчальної вибірки. Коли можна налаштувати інтерпретацію їхніх відповідей, вони виглядають дуже розумними. Однак, якщо модель залишити без направлення, вона не зможе вибрати правильне рішення, як це робить людина.

Прогноз для реального світу: малоймовірно, що "бульбашка" LLM лусне у 2025 або 2026 році. Компанії все ще мають достатньо фінансів, щоб підтримувати інтерес до цих технологій, оскільки це важливо для залучення інвестицій. Вони, ймовірно, продовжуватимуть підтримувати хайп, поки це буде працювати.

Незабаром LLM стануть корисними інструментами, особливо в біотехнологічних галузях, але навряд чи вони стануть автономними агентами або приведуть до створення штучного загального інтелекту.

Підсумовуючи, хоч багато людей хоче, щоб LLM стали набагато потужнішими, ніж вони є насправді, це лише спроби знайти нові способи виправлення їхніх обмежень. Однак насправді ці моделі не мають глибокого інтелекту чи автономії.

Авторка: Дар’я Бровченко

Генеральний директор Anthropic прогнозує, що штучний інтелект перевершить людський розум до 2027 року

Генеральний директор Anthropic Даріо Амодей заявив, що штучний інтелект може перевершити людський розум до 2027 року, проте стрімке зростання попиту на графічні процесори (GPU) може стати серйозною перешкодою для його розвитку.

ШІ стрімко наближається до людського інтелекту

Попри занепокоєння інвесторів щодо рентабельності генеративного штучного інтелекту, ця технологія продовжує активно розвиватися. Вона вже досягла рівня, на якому може зрівнятися з людськими когнітивними здібностями, а в майбутньому, ймовірно, перевершить їх.

Минулого року з’явилися повідомлення, що провідні AI-лабораторії, зокрема Google, OpenAI та Anthropic, можуть зіштовхнутися з нестачею якісного контенту для тренування моделей. Однак колишній генеральний директор Google Ерік Шмідт спростував ці припущення, наголосивши, що немає доказів уповільнення прогресу ШІ. Голова OpenAI Сем Альтман також заявив, що «ніяких бар’єрів не існує».

Тим не менш, розвиток штучного загального інтелекту (AGI) може бути вже не за горами. За словами Даріо Амодея, штучний інтелект може стати розумнішим за всіх людей уже наступного року.

Що таке AGI?

Штучний загальний інтелект (AGI) — це тип ШІ, здатний виконувати будь-які інтелектуальні завдання, які під силу людині. На відміну від вузького штучного інтелекту, який спеціалізується на конкретних завданнях, AGI матиме гнучкість і адаптивність людського інтелекту — і навіть більше.

Виступаючи на заході Journal House у Давосі, Амодей заявив:

“Я не знаю точної дати його появи, можливо, це буде 2027 рік, можливо, пізніше. Але я не думаю, що це займе набагато більше часу, коли AI-системи стануть розумнішими за людей майже в усьому. Спочатку — кращими за більшість людей у більшості завдань, а згодом — кращими за всіх людей у всьому, навіть у сфері робототехніки.”

Дефіцит обчислювальних потужностей може загальмувати розвиток

Заява Амодея пролунала на тлі рекордного зростання попиту на обчислювальні ресурси для навчання ШІ. Нещодавно Сем Альтман визнав, що OpenAI не змогла запустити GPT-4.5 для підписників ChatGPT Plus через нестачу графічних процесорів.

“Попит, який ми спостерігаємо останній рік, особливо за останні три місяці, значно перевищує наші можливості забезпечення необхідних обчислювальних ресурсів”, — зазначив Альтман.

Компанія Anthropic також стикається з такими ж викликами. Амодей припустив, що до 2026 року розвиток їхніх ШІ-моделей, зокрема Claude, вимагатиме понад мільйон чипів.

Роботизація та її наслідки для ринку праці

Окрім технологічних бар’єрів, зростання потужностей AI може мати серйозні соціально-економічні наслідки. Амодей вважає, що розвиток розумних ШІ-систем сприятиме створенню передових роботів.

“Якщо ми зробимо достатньо потужні AI-системи, вони допоможуть нам створити кращих роботів. І коли це станеться, потрібно буде обговорити, як ми організуємо нашу економіку та як люди зможуть знаходити сенс у житті”, — зазначив він.

Водночас він визнав, що розвиток ШІ-робототехніки може спричинити масову автоматизацію та витіснення людей із багатьох професій. Це вимагатиме переоцінки ролі людської праці та її цінності.

Білл Гейтс: AI витіснить людей у більшості сфер

Засновник Microsoft Білл Гейтс також висловив думку, що штучний інтелект поступово замінить людей у робочих процесах.

“Люди починають боятися цього розвитку подій, адже в нову еру технологій їхня участь у багатьох сферах стане зайвою”, — зауважив Гейтс.

Однак він підкреслив, що рішення про застосування AI залишається за людьми.

“Є речі, які ми залишимо для себе. Але виготовлення, транспортування товарів і навіть вирощування їжі з часом стануть вирішеними завданнями для штучного інтелекту.”

Висновок

Розвиток штучного інтелекту, зокрема AGI, наближається до критичної точки. Попри технологічні виклики, експерти прогнозують, що AI може перевершити людський інтелект вже в найближчі роки. Це створює як нові можливості, так і серйозні виклики для суспільства, що вимагає термінового обговорення питань працевлаштування, економіки та етики використання ШІ.

Авторка: Дар’я Бровченко