Почему существует так много моделей искусственного интеллекта?

Когда люди говорят об ИИ, они часто высказываются так, будто существует какая-то единая система, которая со временем совершенствуется. На самом деле экосистема ИИ состоит из множества семейств моделей, каждое из которых создано разными командами, обучено с учетом разных целей и выпускается в разных версиях.

GPT, Llama, Mistral, Gemma и Qwen — это примеры семейств моделей, а не отдельных готовых продуктов. Каждое семейство может включать базовые модели, модели, настроенные под выполнение команд, модели для программирования, модели, объединяющие зрительное восприятие и язык, более компактные модели для работы на устройствах, а также экспериментальные контрольные точки.

Именно поэтому количество моделей искусственного интеллекта растет так быстро. Одно новое семейство моделей может породить множество официальных вариантов, и каждый из этих вариантов впоследствии может стать отправной точкой для доработок со стороны сообщества, адаптации под конкретные области применения и оптимизированных версий для развертывания.

Базовая модель — это универсальная модель, обученная на обширном массиве данных, что позволяет ей использоваться в различных последующих задачах. Обычно она не является конечной версией, применяемой во всех продуктах. Напротив, она служит платформой, которую другие команды адаптируют, оценивают и специализируют.

Например, общая языковая модель может стать помощником в программировании, моделью для составления медицинских резюме, классификатором юридических документов, моделью для многоязыкового перевода или помощником службы поддержки клиентов. Базовая архитектура этих моделей может быть схожей, но конечные модели ведут себя по-разному, поскольку они настроены для выполнения разных задач.

Этот «эффект экосистемы» является одной из основных причин большого количества моделей. Важную роль играет не только исходная базовая модель, но и множество практических версий, которые появляются вокруг неё для конкретных языков, предметных областей, политик безопасности, целевых значений задержки и аппаратных сред.

Тонкая настройка подразумевает использование существующей модели и её дальнейшее обучение на более конкретных примерах. Вместо того чтобы начинать с нуля, разработчики берут за основу модель, которая уже понимает язык, код, изображения или другие паттерны, а затем адаптируют её для решения более узкой задачи.

LoRA и другие методы адаптации делают этот процесс менее затратным и более доступным. Они позволяют командам настраивать модель под конкретную задачу без повторного обучения всех параметров исходной системы. Результат можно опубликовать в виде новой модели или адаптера, модифицирующего базовую модель.

Больница, банк, исследовательская лаборатория, игровая студия или компания, занимающаяся робототехникой, — все они могут нуждаться в модели, которая будет вести себя по-разному. Благодаря тонкой настройке они могут создавать специализированные версии с учетом своих словарей, документов, ограничений и рабочих процессов. Каждая полезная адаптация может стать еще одной составляющей экосистемы общедоступных моделей.

Открытые платформы для моделей значительно ускоряют процесс появления новых моделей. Hugging Face упрощает публикацию, поиск и повторное использование моделей. GitHub облегчает обмен кодом для обучения, скриптами оценки, инструментами обработки данных и примерами развертывания.

Сообщества открытого исходного кода также снижают барьеры для экспериментов. Небольшая команда может взять за основу общедоступную модель, протестировать новый набор данных, улучшить производительность для одного из языков, сжать модель для удешевления вычислений или создать версию, работающую на потребительском оборудовании.

Это не означает, что все общедоступные модели одинаково важны или готовы к использованию в реальных условиях. Многие из них представляют собой эксперименты, тестовые наборы данных, форки или постепенные усовершенствования. Однако открытая экосистема ценна тем, что превращает разработку моделей в совместный процесс, а не в закрытую деятельность, осуществляемую лишь в нескольких крупных лабораториях.

Большое количество моделей не означает, что в мире существуют сотни тысяч систем, сопоставимых с крупнейшими передовыми моделями. Большинство моделей не являются системами масштаба GPT-4, обученными с нуля с использованием огромных бюджетов и масштабной частной инфраструктуры.

Многие общедоступные модели имеют меньший размер, являются специализированными или созданы на основе существующих разработок. Некоторые из них представляют собой классификаторы, модели вложения, речевые модели, модели обработки изображений, модели перевода, модели поиска, контрольные точки научных исследований или варианты более крупных базовых моделей, прошедшие тонкую настройку.

Это различие имеет значение при анализе показателей в области ИИ. Реестр моделей отражает активность в экосистеме, а не количество передовых исследовательских лабораторий. Он показывает, сколько готовых к использованию артефактов публикуется, адаптируется и тестируется в рамках более широкого сообщества специалистов по машинному обучению.

Специализированные модели полезны, поскольку в разных областях действуют разные требования. Медицинская модель, например, должна понимать клиническую терминологию, а финансовая — обрабатывать отчетную документацию, формулировки, касающиеся рисков, и структурированную рыночную информацию.

Модели в области робототехники могут связывать восприятие с физическими действиями. Модели машинного перевода могут быть ориентированы на языки с ограниченными ресурсами. Модели компьютерного зрения могут выявлять производственные дефекты, особенности спутниковых снимков или медицинские изображения. Единая универсальная модель может выглядеть впечатляюще, но она не всегда является лучшим или самым экономичным инструментом для решения любой задачи.

Такое разнообразие делает экосистему искусственного интеллекта более устойчивой и практичной. Вместо того чтобы одна модель пыталась удовлетворить потребности всех пользователей, множество моделей можно оптимизировать с учетом таких факторов, как точность, скорость, конфиденциальность, стоимость, языковой охват, ограничения устройств или нормативные требования.

Вполне вероятно, что количество общедоступных моделей будет продолжать расти. Если создание и адаптация моделей станут проще, всё больше команд будут публиковать версии, предназначенные для конкретных отраслей, языков, устройств, рабочих процессов и исследовательских задач.

Рост может не носить линейный характер. Некоторые модели устареют, некоторые будут объединены, а на некоторых платформах могут быть удалены дубликаты или неактивные репозитории. В то же время появление более совершенных инструментов может сделать создание моделей таким же рутинным процессом, как и публикация программных пакетов.

Самый важный вопрос заключается не в том, достигнет ли это число сотен тысяч или миллионов. Более актуальным вопросом является то, сколько моделей являются надежными, хорошо документированными, прошедшими оценку и пригодными для реального применения. Количество свидетельствует об активности экосистемы; качество определяет её долгосрочную ценность.