Baidu приєднується до руху відкритого коду — моделі Ernie 4.5 стали публічно доступні

Пекінська компанія Baidu, одна з перших технологічних фірм Китаю, що розробляла великі мовні моделі (LLM), зробила різкий поворот і відкрила свої моделі у відкритий доступ.

Китайський технологічний гігант Baidu в понеділок офіційно увійшов у конкурентний сектор відкритих AI-систем, відкривши для завантаження свої флагманські моделі Ernie 4.5 на платформі Hugging Face.

Baidu оприлюднила десять варіантів мультимодальної моделі Ernie 4.5 — від легких моделей з 0,3 млрд параметрів до “важковаговиків” з 424 млрд параметрів, йдеться у заяві компанії.

Раніше Baidu, одна з перших компаній Китаю, що почала розробляти великі мовні моделі після виходу ChatGPT у листопаді 2022 року, наполягала на тому, що її Ernie, як і моделі OpenAI, будуть потужнішими за відкриті. Проте цього року компанія кардинально змінила курс і відкрила свої моделі.

Поштовхом став успіх стартапу DeepSeek, який на початку року вразив AI-спільноту своїми відкритими моделями. Китайські технологічні гіганти, зокрема Alibaba, також активізували розвиток відкритих моделей: Qwen від Alibaba — одні з найпопулярніших у розробників.

За даними Baidu, їхня модель Ernie 4.5 з 300 млрд параметрів за низкою тестів перевершує модель DeepSeek V3, що має вдвічі більше параметрів. Ці результати демонструють значний прогрес Baidu після оголошення про перехід до відкритого коду на початку року.

У технічному звіті Baidu виділяє три ключові інновації, що допомогли покращити продуктивність моделей:

• Гетерогенна структура mixture-of-experts, яка покращує розуміння тексту, генерацію, розпізнавання зображень і крос-модальне мислення.
  
  

• Інфраструктура AI, що забезпечує ефективне масштабування моделей завдяки низці інженерних рішень.
  

Компанія підкреслює, що моделі демонструють стабільно високі результати в інструктажі, запам’ятовуванні світових знань, візуальному розумінні та мультимодальному аналізі.

Комерційна версія Ernie 4.5 була представлена в березні, а відкриті моделі доступні під ліцензією Apache 2.0, що дозволяє вільно використовувати, модифікувати і поширювати їх.

Зараз відкриті моделі Baidu доступні на Hugging Face — найбільшій у світі спільноті відкритого AI.

Хоч Baidu й була піонером генеративного AI в Китаї, компанія втрачає перевагу першопрохідця через посилення конкуренції. Все більше локальних гравців відмовляються від суворої закритості своїх моделей. Так, Shanghai MiniMax і Beijing Moonshot AI активно діляться своїми науковими розробками.

У понеділок також Huawei відкрила дві свої моделі Pangu AI, заявивши, що вони не поступаються світовим лідерам.

Авторка: Дар’я Бровченко

Джерело