Por que razão existem tantos modelos de IA?

Quando as pessoas falam sobre IA, muitas vezes falam como se houvesse um único sistema que fosse melhorando ao longo do tempo. Na realidade, o ecossistema da IA é composto por muitas famílias de modelos, cada uma desenvolvida por equipas diferentes, treinada com objetivos distintos e lançada em versões diferentes.

O GPT, o Llama, o Mistral, o Gemma e o Qwen são exemplos de famílias de modelos, e não de produtos únicos e fixos. Cada família pode incluir modelos de base, modelos otimizados para instruções, modelos de codificação, modelos de visão-linguagem, modelos mais pequenos para utilização no dispositivo e pontos de verificação experimentais.

É por isso que o número de modelos de IA cresce tão rapidamente. Uma nova família pode dar origem a muitas variantes oficiais, e cada uma dessas variantes pode, posteriormente, tornar-se o ponto de partida para ajustes finos realizados pela comunidade, adaptações específicas a cada domínio e versões otimizadas para implementação.

Um modelo de base é um modelo de uso geral, treinado com um vasto conjunto de dados, para que possa servir de suporte a diversas aplicações a jusante. Normalmente, não é a forma final utilizada em todos os produtos. Em vez disso, torna-se uma plataforma que outras equipas adaptam, avaliam e especializam.

Por exemplo, um modelo de linguagem geral pode tornar-se um assistente de programação, um modelo de resumo médico, um classificador de documentos jurídicos, um modelo de tradução multilingue ou um assistente de apoio ao cliente. A arquitetura subjacente pode ser semelhante, mas os modelos resultantes comportam-se de forma diferente, uma vez que são otimizados para tarefas distintas.

Este efeito de ecossistema é uma das principais razões para o elevado número de modelos. O elemento importante não é apenas o modelo base original, mas também as inúmeras versões práticas que surgem em torno dele para línguas, domínios, políticas de segurança, objetivos de latência e ambientes de hardware específicos.

O ajuste fino consiste em pegar num modelo existente e treiná-lo ainda mais com exemplos mais específicos. Em vez de começarem do zero, os programadores partem de um modelo que já compreende a linguagem, o código, as imagens ou outros padrões e, em seguida, adaptam-no a um objetivo mais específico.

O LoRA e outras técnicas de adaptador tornam este processo mais económico e mais acessível. Permitem que as equipas ajustem um modelo para uma tarefa específica sem terem de treinar novamente todos os parâmetros do sistema original. O resultado pode ser publicado como um novo modelo ou como um adaptador que modifica um modelo de base.

Um hospital, um banco, um laboratório de investigação, um estúdio de jogos ou uma empresa de robótica podem, todos, necessitar de um modelo que se comporte de forma diferente. O ajuste fino permite-lhes criar versões especializadas para o seu vocabulário, documentos, restrições e fluxos de trabalho. Cada adaptação útil pode tornar-se mais uma entrada no ecossistema de modelos públicos.

As plataformas de modelos abertas aumentam drasticamente a velocidade com que os modelos são disponibilizados. O Hugging Face simplifica a publicação, a descoberta e a reutilização de modelos. O GitHub facilita a partilha de código de treino, scripts de avaliação, ferramentas de processamento de dados e exemplos de implementação.

As comunidades de código aberto também reduzem as barreiras à experimentação. Uma equipa pequena pode partir de um modelo público, testar um novo conjunto de dados, melhorar o desempenho para uma determinada língua, comprimir o modelo para uma inferência mais económica ou criar uma versão que funcione em hardware de consumo.

Isto não significa que todos os modelos públicos tenham a mesma importância ou estejam prontos para a produção. Muitos são experiências, testes de desempenho, bifurcações ou melhorias incrementais. Mas o ecossistema aberto é valioso porque transforma o desenvolvimento de modelos num processo partilhado, em vez de uma atividade fechada restrita a alguns grandes laboratórios.

O facto de haver um grande número de modelos não significa que existam no mundo centenas de milhares de sistemas comparáveis aos maiores modelos de vanguarda. A maioria dos modelos não são sistemas da envergadura do GPT-4, treinados a partir do zero com orçamentos avultados e uma infraestrutura privada de grande dimensão.

Muitos modelos públicos são mais pequenos, especializados ou derivados de trabalhos já existentes. Alguns são classificadores, modelos de incorporação, modelos de voz, modelos de imagem, modelos de tradução, modelos de recuperação, pontos de verificação de investigação ou variantes aperfeiçoadas de um modelo de base maior.

Esta distinção é importante na análise dos indicadores de IA. Um registo de modelos mede a atividade no ecossistema, e não o número de laboratórios de ponta. Mostra quantos artefactos reutilizáveis estão a ser publicados, adaptados e testados em toda a comunidade de aprendizagem automática.

Os modelos especializados são úteis porque cada área tem requisitos diferentes. Um modelo médico pode ter de compreender terminologia clínica, enquanto um modelo financeiro pode ter de processar documentos, linguagem relacionada com o risco e intreino estruturada sobre o mercado.

Os modelos de robótica podem associar a perceção a ações físicas. Os modelos de tradução podem centrar-se em línguas com poucos recursos. Os modelos de visão podem detetar defeitos industriais, características de imagens de satélite ou imagens médicas. Um único modelo geral pode ser impressionante, mas nem sempre é a melhor ferramenta, nem a mais económica, para todas as tarefas.

Esta diversidade torna o ecossistema da IA mais resiliente e prático. Em vez de um único modelo tentar atender a todos os utilizadores, é possível otimizar vários modelos em termos de precisão, velocidade, privacidade, custo, cobertura linguística, limitações dos dispositivos ou requisitos regulamentares.

É provável que o número de modelos públicos continue a aumentar. Se a criação e a adaptação de modelos se tornarem mais fáceis, mais equipas publicarão versões destinadas a setores específicos, línguas, dispositivos, fluxos de trabalho e questões de investigação.

O crescimento pode não ser linear. Alguns modelos tornar-se-ão obsoletos, outros serão fundidos e algumas plataformas poderão eliminar duplicados ou repositórios inativos. Ao mesmo tempo, ferramentas mais avançadas poderão tornar a criação de modelos tão rotineira como a publicação de pacotes de software.

A questão mais importante não é se o número chega às centenas de milhares ou aos milhões. A questão mais relevante é quantos modelos são fiáveis, bem documentados, avaliados e adequados para utilização na prática. A quantidade reflete a atividade do ecossistema; a qualidade determina o valor a longo prazo.