왜 AI 모델이 이렇게 많은 걸까요?

사람들이 AI에 대해 이야기할 때, 마치 시간이 지남에 따라 점점 발전해 나가는 단일 시스템이 있는 것처럼 말하는 경우가 많습니다. 하지만 실제로 AI 생태계는 수많은 모델 계열로 구성되어 있으며, 각 모델 계열은 서로 다른 팀이 개발하고, 서로 다른 목표를 가지고 학습시키며, 서로 다른 버전으로 출시됩니다.

GPT, Llama, Mistral, Gemma 및 Qwen은 단일한 고정된 제품이 아니라 모델 제품군의 예시입니다. 각 제품군에는 기본 모델, 지시어 튜닝 모델, 코딩 모델, 비전-언어 모델, 소형 온디바이스 모델 및 실험용 체크포인트가 포함될 수 있습니다.

이것이 바로 AI 모델의 수가 이렇게 빠르게 늘어나는 이유입니다. 새로운 모델 계열 하나만으로도 수많은 공식 변형이 생성될 수 있으며, 이러한 각 변형은 이후 커뮤니티의 파인튜닝, 특정 분야에 맞춘 적용, 최적화된 배포 버전의 출발점이 될 수 있습니다.

파운데이션 모델은 광범위한 데이터로 훈련되어 다양한 하위 용도를 지원할 수 있는 범용 모델입니다. 이 모델은 일반적으로 모든 제품에서 최종 형태로 사용되는 것은 아닙니다. 대신, 다른 팀들이 이를 기반으로 수정하고, 평가하며, 특정 용도에 맞게 특화시키는 플랫폼의 역할을 합니다.

예를 들어, 일반적인 언어 모델은 코딩 보조 도구, 의료 요약 모델, 법률 문서 분류기, 다국어 번역 모델 또는 고객 지원 보조 도구로 활용될 수 있습니다. 기본 아키텍처는 유사할 수 있지만, 각 모델은 서로 다른 작업에 맞춰 조정되었기 때문에 작동 방식이 다릅니다.

이러한 생태계 효과는 모델 수가 많은 주된 이유 중 하나입니다. 중요한 것은 원래의 파운데이션 모델뿐만 아니라, 특정 언어, 분야, 안전 정책, 지연 시간 목표 및 하드웨어 환경에 맞춰 그 주위에서 등장하는 수많은 실용적인 버전들입니다.

파인튜닝(fine-tuning)이란 기존 모델을 활용하여 보다 구체적인 예시를 바탕으로 추가 훈련을 진행하는 것을 의미합니다. 개발자들은 처음부터 새로 시작하는 대신, 이미 언어, 코드, 이미지 또는 기타 패턴을 이해하고 있는 모델을 기반으로 하여, 이를 더 구체적인 목표에 맞게 조정합니다.

LoRA 및 기타 어댑터 기법은 이 과정을 더 저렴하고 접근하기 쉽게 만들어 줍니다. 이를 통해 팀은 기존 시스템의 모든 매개변수를 재훈련하지 않고도 특정 작업에 맞게 모델을 조정할 수 있습니다. 그 결과는 새로운 모델로, 혹은 기본 모델을 수정하는 어댑터로 공개될 수 있습니다.

병원, 은행, 연구소, 게임 스튜디오, 로봇 공학 기업 등 각 기관마다 서로 다른 방식으로 작동하는 모델을 원할 수 있습니다. 파인튜닝을 통해 각 기관은 자사의 어휘, 문서, 제약 조건 및 업무 흐름에 맞춘 맞춤형 버전을 만들 수 있습니다. 이러한 유용한 적용 사례들은 공개 모델 생태계의 또 다른 구성 요소가 될 수 있습니다.

개방형 모델 플랫폼은 모델이 등장하는 속도를 획기적으로 높여줍니다. Hugging Face를 사용하면 모델을 간편하게 공개하고, 찾아보고, 재사용할 수 있습니다. GitHub를 이용하면 훈련 코드, 평가 스크립트, 데이터 처리 도구 및 배포 예제를 손쉽게 공유할 수 있습니다.

오픈소스 커뮤니티는 또한 실험에 대한 진입 장벽을 낮춰줍니다. 소규모 팀이라도 공개된 모델을 바탕으로 새로운 데이터셋을 테스트하거나, 특정 언어에 대한 성능을 개선하거나, 추론 비용을 절감하기 위해 모델을 압축하거나, 일반 소비자용 하드웨어에서 실행되는 버전을 구축할 수 있습니다.

그렇다고 해서 모든 공개 모델이 똑같이 중요하거나 실제 적용이 가능한 것은 아닙니다. 많은 모델이 실험용이거나 벤치마크, 포크, 혹은 점진적인 개선에 불과합니다. 하지만 개방형 생태계는 모델 개발을 소수의 대형 연구소 내에서만 이루어지는 폐쇄적인 활동이 아닌, 모두가 함께 참여하는 과정으로 전환한다는 점에서 가치가 있습니다.

모델 수가 많다고 해서, 세상에 가장 대규모의 프론티어 모델에 필적하는 시스템이 수십만 개나 있다는 뜻은 아닙니다. 대부분의 모델은 막대한 예산과 방대한 사설 인프라를 동원해 처음부터 훈련시킨 GPT-4급 시스템이 아닙니다.

많은 공개 모델은 규모가 더 작거나, 특정 분야에 특화되어 있거나, 기존 연구에서 파생된 것입니다. 일부는 분류기, 임베딩 모델, 음성 모델, 이미지 모델, 번역 모델, 검색 모델, 연구용 체크포인트, 또는 더 큰 기반 모델의 파인튜닝 변형입니다.

AI 카운터를 해석할 때 이러한 구분은 중요합니다. 모델 레지스트리는 최첨단 연구소의 수를 측정하는 것이 아니라 생태계 내의 활동 수준을 측정합니다. 이는 더 넓은 머신러닝 커뮤니티 전반에서 얼마나 많은 재사용 가능한 아티팩트가 공개되고, 수정되며, 테스트되고 있는지를 보여줍니다.

각 분야마다 요구 사항이 다르기 때문에 특화된 모델이 유용합니다. 의료 모델의 경우 임상 용어를 이해해야 할 수 있는 반면, 금융 모델은 신고 서류, 위험 관련 용어 및 구조화된 시장 정보를 처리해야 할 수 있습니다.

로봇 공학 모델은 지각과 물리적 동작을 연결할 수 있습니다. 번역 모델은 자원이 부족한 언어에 중점을 둘 수 있습니다. 비전 모델은 산업 현장의 결함, 위성 이미지 특징 또는 의료 영상을 탐지할 수 있습니다. 단일한 범용 모델이 인상적일 수는 있지만, 모든 작업에 있어 항상 최상의 도구나 가장 저렴한 도구는 아닙니다.

이러한 다양성 덕분에 AI 생태계는 더 탄력적이고 실용적이 됩니다. 하나의 모델이 모든 사용자에게 서비스를 제공하려고 애쓰는 대신, 수많은 모델을 정확도, 속도, 개인정보 보호, 비용, 언어 지원 범위, 기기 제약 조건 또는 규제 요건 등에 맞춰 최적화할 수 있습니다.

공개 모델의 수가 계속 늘어날 가능성이 높습니다. 모델을 만들고 수정하는 것이 더 쉬워진다면, 더 많은 팀이 특정 산업, 언어, 기기, 업무 흐름 및 연구 주제에 맞춘 버전을 공개하게 될 것입니다.

이러한 성장이 반드시 선형적으로 이루어지지는 않을 수도 있습니다. 일부 모델은 더 이상 사용되지 않게 될 것이고, 일부는 통합될 것이며, 일부 플랫폼에서는 중복되거나 비활성 상태인 저장소를 정리할 수도 있습니다. 동시에, 더 나은 도구가 개발된다면 모델 생성이 소프트웨어 패키지를 공개하는 것만큼이나 일상적인 일이 될 수도 있습니다.

가장 중요한 질문은 그 수가 수십만 개가 될지, 수백만 개가 될지 여부가 아닙니다. 더 의미 있는 질문은 신뢰할 수 있고, 문서가 잘 갖춰져 있으며, 평가를 거쳤고, 실제 사용에 적합한 모델이 몇 개나 되는가 하는 것입니다. 양은 생태계의 활기를 보여주지만, 질은 장기적인 가치를 결정합니다.