Чому існує так багато моделей штучного інтелекту?

Коли люди говорять про штучний інтелект, вони часто висловлюються так, ніби існує єдина система, яка з часом вдосконалюється. Насправді екосистема штучного інтелекту складається з багатьох сімейств моделей, кожне з яких розроблено різними командами, навчено з різними цілями та випущено в різних версіях.

GPT, Llama, Mistral, Gemma та Qwen — це приклади сімейств моделей, а не окремих готових продуктів. Кожне сімейство може містити базові моделі, моделі, налаштовані під конкретні інструкції, моделі для програмування, моделі, що поєднують обробку зображень та обробку мови, менші моделі для роботи на пристроях та експериментальні контрольні точки.

Саме тому кількість моделей штучного інтелекту зростає так швидко. Одне нове сімейство моделей може породити безліч офіційних варіантів, і кожен із цих варіантів згодом може стати відправною точкою для доопрацювань, що здійснюються спільнотою, адаптацій під конкретні галузі та оптимізованих версій для розгортання.

Базова модель — це універсальна модель, навчена на великому масиві даних, що дозволяє використовувати її в багатьох подальших застосуваннях. Зазвичай вона не є кінцевою версією, яка використовується в кожному продукті. Натомість вона стає платформою, яку інші команди адаптують, оцінюють та спеціалізують.

Наприклад, загальна мовна модель може стати помічником у програмуванні, моделлю для узагальнення медичної інформації, класифікатором юридичних документів, багатомовною моделлю перекладу або помічником у службі підтримки клієнтів. Хоча їхня базова архітектура може бути схожою, отримані моделі поводяться по-різному, оскільки вони налаштовані на виконання різних завдань.

Цей ефект екосистеми є однією з головних причин великої кількості моделей. Важливою одиницею є не лише вихідна базова модель, а й численні практичні версії, що з’являються навколо неї для конкретних мов, галузей, політик безпеки, цільових показників затримки та апаратних середовищ.

Точне налаштування означає, що існуючу модель піддають подальшому навчанню на більш конкретних прикладах. Замість того, щоб починати з нуля, розробники беруть за основу модель, яка вже розуміє мову, код, зображення чи інші шаблони, а потім адаптують її до більш вузької мети.

LoRA та інші методи адаптерів роблять цей процес дешевшим і доступнішим. Вони дають змогу командам налаштовувати модель під конкретне завдання без необхідності перенавчання кожного параметра в оригінальній системі. Результат можна опублікувати як нову модель або як адаптер, що модифікує базову модель.

Лікарня, банк, науково-дослідна лабораторія, ігрова студія чи компанія з розробки робототехніки — кожна з цих організацій може потребувати моделі, що поводиться по-різному. Завдяки можливості тонкого налаштування вони можуть створювати спеціалізовані версії, адаптовані до їхнього словника, документів, обмежень та робочих процесів. Кожна корисна адаптація може стати ще одним елементом у відкритій екосистемі моделей.

Відкриті платформи для моделей значно прискорюють процес їх створення. Hugging Face спрощує публікацію, пошук та повторне використання моделей. GitHub дозволяє легко ділитися кодом для навчання, скриптами для оцінювання, інструментами обробки даних та прикладами розгортання.

Спільноти з відкритим кодом також знижують бар’єри для експериментів. Невелика команда може взяти за основу загальнодоступну модель, протестувати новий набір даних, покращити ефективність для однієї мови, стиснути модель для здешевлення інференції або створити версію, яка працюватиме на споживчому обладнанні.

Це не означає, що кожна загальнодоступна модель має однакову важливість або готова до впровадження у виробництво. Багато з них — це експерименти, тестові зразки, форки або поступові вдосконалення. Однак відкрита екосистема цінна тим, що перетворює розробку моделей на спільний процес, а не на закриту діяльність, що відбувається лише в кількох великих лабораторіях.

Велика кількість моделей не означає, що у світі існують сотні тисяч систем, порівнянних із найбільшими моделями «фронтиру». Більшість моделей не є системами масштабу GPT-4, навченими з нуля за допомогою величезних бюджетів та потужної приватної інфраструктури.

Багато публічних моделей мають менший розмір, є спеціалізованими або створені на основі існуючих розробок. Деякі з них — це класифікатори, моделі вбудовування, моделі розпізнавання мови, моделі обробки зображень, моделі перекладу, моделі пошуку, контрольні точки для досліджень або налаштовані варіанти більшої базової моделі.

Ця відмінність має значення під час аналізу показників у сфері штучного інтелекту. Реєстр моделей вимірює активність в екосистемі, а не кількість передових лабораторій. Він показує, скільки артефактів, придатних для повторного використання, публікується, адаптується та тестується в широкому співтоваристві фахівців з машинного навчання.

Спеціалізовані моделі є корисними, оскільки в різних галузях діють різні вимоги. Медичній моделі може знадобитися розуміння клінічної термінології, тоді як фінансовій моделі — обробка документації, термінології, пов’язаної з ризиками, та структурованої ринкової інформації.

Моделі робототехніки можуть поєднувати сприйняття з фізичними діями. Моделі перекладу можуть бути орієнтовані на мови з обмеженими ресурсами. Моделі обробки зображень можуть виявляти промислові дефекти, особливості супутникових знімків або медичні зображення. Єдина універсальна модель може вражати, але не завжди є найкращим або найдешевшим інструментом для кожного завдання.

Таке різноманіття робить екосистему штучного інтелекту більш стійкою та практичною. Замість того, щоб одна модель намагалася задовольнити потреби кожного користувача, можна оптимізувати безліч моделей з урахуванням точності, швидкості, конфіденційності, вартості, мовного охоплення, обмежень пристроїв або нормативних вимог.

Цілком ймовірно, що кількість загальнодоступних моделей продовжуватиме зростати. Якщо створення та адаптація моделей стануть простішими, все більше команд публікуватимуть версії, призначені для конкретних галузей, мов, пристроїв, робочих процесів та дослідницьких завдань.

Зростання може не бути лінійним. Деякі моделі стануть застарілими, деякі будуть об’єднані, а на деяких платформах можуть бути видалені дублікати або неактивні репозиторії. Водночас вдосконалення інструментарію може зробити створення моделей таким же звичним процесом, як і публікація програмних пакетів.

Найголовніше питання полягає не в тому, чи сягне ця цифра сотні тисяч чи мільйонів. Набагато корисніше запитати, скільки моделей є надійними, добре задокументованими, перевіреними та придатними для реального використання. Кількість свідчить про активність екосистеми, а якість визначає її довгострокову цінність.