¿Por qué hay tantos modelos de IA?

Cuando se habla de IA, a menudo se da por sentado que existe un único sistema que va mejorando con el tiempo. En realidad, el ecosistema de la IA está formado por numerosas familias de modelos, cada una de ellas desarrollada por equipos distintos, entrenada con objetivos diferentes y lanzada en distintas versiones.

GPT, Llama, Mistral, Gemma y Qwen son ejemplos de familias de modelos, más que de productos individuales fijos. Cada familia puede incluir modelos básicos, modelos entrenados con instrucciones, modelos de programación, modelos de visión y lenguaje, modelos más pequeños para dispositivos y puntos de control experimentales.

Por eso el número de modelos de IA crece tan rápidamente. Una nueva familia puede generar numerosas variantes oficiales, y cada una de esas variantes puede convertirse posteriormente en el punto de partida para ajustes realizados por la comunidad, adaptaciones específicas para cada ámbito y versiones optimizadas para su implementación.

Un modelo fundacional es un modelo de uso general entrenado con una amplia variedad de datos, de modo que pueda dar lugar a múltiples aplicaciones posteriores. Por lo general, no es la versión final que se utiliza en todos los productos. Más bien, se convierte en una plataforma que otros equipos adaptan, evalúan y especializan.

Por ejemplo, un modelo de lenguaje general puede convertirse en un asistente de programación, un modelo de resumen médico, un clasificador de documentos jurídicos, un modelo de traducción multilingüe o un asistente de atención al cliente. Aunque la arquitectura subyacente pueda ser similar, los modelos resultantes se comportan de forma diferente, ya que están optimizados para tareas distintas.

Este efecto de ecosistema es una de las principales razones por las que el número de modelos es tan elevado. Lo importante no es solo el modelo fundacional original, sino también las numerosas versiones prácticas que surgen en torno a él para idiomas, ámbitos, políticas de seguridad, objetivos de latencia y entornos de hardware específicos.

El fine-tuning consiste en tomar un modelo ya existente y seguir entrenándolo con ejemplos más específicos. En lugar de empezar desde cero, los desarrolladores parten de un modelo que ya entiende el lenguaje, el código, las imágenes u otros patrones, y luego lo adaptan a un objetivo más concreto.

LoRA y otras técnicas de adaptador hacen que este proceso resulte más económico y accesible. Permiten a los equipos adaptar un modelo a una tarea concreta sin necesidad de volver a entrenar todos los parámetros del sistema original. El resultado puede publicarse como un nuevo modelo o como un adaptador que modifica un modelo fundacional.

Un hospital, un banco, un laboratorio de investigación, un estudio de videojuegos o una empresa de robótica pueden necesitar un modelo que se comporte de forma diferente. El fine-tuning les permite crear versiones especializadas adaptadas a su vocabulario, sus documentos, sus restricciones y sus flujos de trabajo. Cada adaptación útil puede convertirse en una nueva entrada en el ecosistema de modelos públicos.

Las plataformas de modelos abiertas aumentan considerablemente la velocidad a la que se publican los modelos. Hugging Face facilita la publicación, el descubrimiento y la reutilización de modelos. GitHub facilita el intercambio de código de entrenamiento, scripts de evaluación, herramientas de procesamiento de datos y ejemplos de implementación.

Las comunidades de código abierto también reducen las barreras a la experimentación. Un equipo pequeño puede partir de un modelo público, probar un nuevo conjunto de datos, mejorar el rendimiento para un idioma concreto, comprimir el modelo para que la inferencia resulte más económica o crear una versión que funcione en hardware de consumo.

Esto no significa que todos los modelos públicos tengan la misma importancia o estén listos para su uso en producción. Muchos de ellos son experimentos, pruebas de rendimiento, bifurcaciones o mejoras incrementales. Sin embargo, el ecosistema abierto es valioso porque convierte el desarrollo de modelos en un proceso compartido, en lugar de una actividad cerrada que se limita a unos pocos grandes laboratorios.

Que haya un gran número de modelos no significa que haya cientos de miles de sistemas comparables a los modelos de vanguardia más grandes. La mayoría de los modelos no son sistemas a la escala de GPT-4, entrenados desde cero con presupuestos enormes y una infraestructura privada de gran envergadura.

Muchos modelos públicos son más pequeños, están especializados o se derivan de trabajos ya existentes. Algunos son clasificadores, modelos de incrustación, modelos de voz, modelos de imagen, modelos de traducción, modelos de recuperación, puntos de referencia de investigación o variantes ajustadas de un modelo fundacional más grande.

Esta distinción es importante a la hora de interpretar los indicadores de IA. Un registro de modelos mide la actividad en el ecosistema, no el número de laboratorios de vanguardia. Muestra cuántos artefactos reutilizables se publican, adaptan y prueban en el conjunto de la comunidad de aprendizaje automático.

Los modelos especializados resultan útiles porque cada ámbito tiene sus propios requisitos. Un modelo médico puede necesitar comprender la terminología clínica, mientras que un modelo financiero puede tener que procesar documentos de presentación, terminología relacionada con el riesgo e información estructurada sobre los mercados.

Los modelos de robótica pueden vincular la percepción con las acciones físicas. Los modelos de traducción pueden centrarse en lenguas con pocos recursos. Los modelos de visión pueden detectar defectos industriales, características de imágenes de satélite o imágenes médicas. Un único modelo general puede resultar impresionante, pero no siempre es la mejor herramienta ni la más económica para cada tarea.

Esta diversidad hace que el ecosistema de la IA sea más resiliente y práctico. En lugar de que un único modelo intente dar servicio a todos los usuarios, se pueden optimizar muchos modelos en función de la precisión, la velocidad, la privacidad, el coste, la cobertura lingüística, las limitaciones de los dispositivos o los requisitos normativos.

Es probable que el número de modelos públicos siga aumentando. Si crear y adaptar modelos resulta cada vez más fácil, más equipos publicarán versiones para sectores, idiomas, dispositivos, flujos de trabajo y cuestiones de investigación específicos.

Es posible que el crecimiento no sea lineal. Algunos modelos quedarán obsoletos, otros se fusionarán y algunas plataformas podrían eliminar los duplicados o los repositorios inactivos. Al mismo tiempo, la mejora de las herramientas podría hacer que la creación de modelos fuera tan habitual como la publicación de paquetes de software.

La cuestión más importante no es si la cifra asciende a cientos de miles o a millones. La pregunta más útil es cuántos modelos son fiables, están bien documentados, han sido evaluados y son adecuados para su uso en la práctica. La cantidad refleja la actividad del ecosistema; la calidad determina el valor a largo plazo.