Zakaj obstaja toliko modelov umetne inteligence?

Ko ljudje govorijo o umetni inteligenci, pogosto govorijo, kot da bi obstajal en sam sistem, ki se sčasoma izboljšuje. V resnici pa je ekosistem umetne inteligence sestavljen iz številnih družin modelov, od katerih je vsako razvilo drugo ekipo, usposobljeno z različnimi cilji in izdano v različnih različicah.

GPT, Llama, Mistral, Gemma in Qwen so primeri družin modelov in ne posameznih fiksnih izdelkov. Vsaka družina lahko vsebuje osnovne modele, modele, prilagojene za izvajanje navodil, modele za kodiranje, modele za vizualno-jezikovno obdelavo, manjše modele za uporabo na napravah ter eksperimentalne kontrolne točke.

Prav zato se število modelov umetne inteligence tako hitro povečuje. Ena nova družina modelov lahko ustvari številne uradne različice, vsaka od teh različic pa lahko kasneje postane izhodišče za izpopolnitve s strani skupnosti, prilagoditve za posamezna področja in optimizirane različice za uporabo.

Osnovni model je splošno namenski model, usposobljen na podlagi obsežnih podatkov, tako da lahko podpira številne nadaljnje uporabe. Običajno ne gre za končno obliko, ki se uporablja v vsakem izdelku. Namesto tega postane platforma, ki jo druge ekipe prilagajajo, ocenjujejo in specializirajo.

Na primer, splošni jezikovni model lahko postane pomočnik pri programiranju, model za povzemanje medicinskih besedil, razvrščevalnik pravnih dokumentov, večjezični prevajalski model ali pomočnik za podporo strankam. Osnovna arhitektura je morda podobna, vendar se končni modeli obnašajo različno, saj so prilagojeni različnim nalogam.

Ta ekosistemski učinek je eden od glavnih razlogov za visoko število modelov. Pomembna enota ni le izvirni osnovni model, temveč tudi številne praktične različice, ki nastajajo okoli njega za posamezne jezike, področja, varnostne politike, ciljne vrednosti zakasnitve in strojna okolja.

Natančno prilagajanje pomeni, da se obstoječi model nadalje usposablja na podlagi bolj specifičnih primerov. Namesto da bi začeli z nič, razvijalci izhajajo iz modela, ki že razume jezik, kodo, slike ali druge vzorce, nato pa ga prilagodijo ožjemu cilju.

LoRA in druge tehnike adapterjev ta proces pocenijo in naredijo dostopnejšega. Omogočajo ekipam, da model prilagodijo za določeno nalogo, ne da bi bilo treba ponovno usposobiti vsak parameter v izvirnem sistemu. Rezultat se lahko objavi kot nov model ali kot adapter, ki spreminja osnovni model.

Bolnišnica, banka, raziskovalni laboratorij, igralni studio ali podjetje za robotiko – vsi ti subjekti lahko potrebujejo model, ki se obnaša drugače. Z natančnim prilagajanjem lahko ustvarijo specializirane različice, prilagojene njihovemu besednjaku, dokumentom, omejitvam in delovnim tokovom. Vsaka koristna prilagoditev lahko postane nov prispevek v javnem ekosistemu modelov.

Odprte platforme za modele bistveno pospešijo pojavljanje novih modelov. Hugging Face omogoča preprosto objavljanje, odkrivanje in ponovno uporabo modelov. GitHub omogoča enostavno deljenje kode za usposabljanje, skriptov za ocenjevanje, orodij za obdelavo podatkov in primerov uvajanja.

Skupnosti odprte kode prav tako zmanjšujejo ovire za eksperimentiranje. Majhna ekipa lahko izhaja iz javno dostopnega modela, preizkusi nov nabor podatkov, izboljša zmogljivost za en jezik, komprimira model za cenejše sklepanje ali razvije različico, ki deluje na potrošniški strojni opremi.

To ne pomeni, da so vsi javno dostopni modeli enako pomembni ali pripravljeni za uporabo v praksi. Mnogi med njimi so eksperimenti, primerjalne študije, razcepi ali postopne izboljšave. Vendar je odprt ekosistem dragocen, saj razvoj modelov spreminja v skupinski proces, namesto da bi bil zaprta dejavnost, omejena na nekaj velikih laboratorijev.

Visoko število modelov še ne pomeni, da na svetu obstaja na stotisoče sistemov, primerljivih z največjimi modeli iz področja »frontier«. Večina modelov ni sistemov v obsegu GPT-4, ki so bili usposobljeni od začetka z ogromnimi proračuni in obsežno zasebno infrastrukturo.

Mnogi javni modeli so manjši, specializirani ali izpeljani iz obstoječih del. Nekateri so klasifikatorji, modeli za vgrajevanje, modeli za obdelavo govora, modeli za obdelavo slik, modeli za prevajanje, modeli za iskanje, raziskovalne kontrolne točke ali natančno prilagojene različice večjega osnovnega modela.

Ta razlika je pomembna pri branju kazalnikov umetne inteligence. Register modelov meri aktivnost v ekosistemu, ne pa števila pionirskih laboratorijev. Prikazuje, koliko ponovno uporabnih artefaktov se objavlja, prilagaja in preizkuša v širši skupnosti strojnega učenja.

Specializirani modeli so koristni, ker imajo različna področja različne zahteve. Medicinski model mora morda razumeti klinično terminologijo, medtem ko mora finančni model morda obdelovati vloge, besedilo o tveganjih in strukturirane tržne informacije.

Robotični modeli lahko povezujejo zaznavanje s fizičnimi dejanji. Prevajalski modeli se lahko osredotočajo na jezike z omejenimi viri. Modeli za obdelavo slik lahko zaznavajo industrijske napake, značilnosti satelitskih posnetkov ali medicinske slike. En sam splošni model je sicer lahko impresiven, vendar ni vedno najboljše ali najcenejše orodje za vsako nalogo.

Ta raznolikost naredi ekosistem umetne inteligence bolj odporen in praktičen. Namesto da bi en sam model poskušal zadovoljiti potrebe vseh uporabnikov, je mogoče številne modele optimizirati glede na natančnost, hitrost, zasebnost, stroške, jezikovno pokritost, omejitve naprav ali zakonske zahteve.

Verjetno je, da se bo število javno dostopnih modelov še naprej povečevalo. Če bo ustvarjanje in prilagajanje modelov postalo lažje, bo več ekip objavljalo različice za posamezne panoge, jezike, naprave, delovne tokove in raziskovalna vprašanja.

Rast morda ne bo linearna. Nekateri modeli bodo postali zastareli, nekateri se bodo združili, nekatere platforme pa bodo morda odstranile podvojene ali neaktivne repozitorije. Hkrati bi lahko boljša orodja ustvarjanje modelov spremenila v rutinsko dejavnost, podobno kot je to pri objavljanju programskih paketov.

Najpomembnejše vprašanje ni, ali bo število doseglo sto tisoč ali milijone. Bolj koristno vprašanje je, koliko modelov je zanesljivih, dobro dokumentiranih, ovrednotenih in primernih za dejansko uporabo. Količina kaže na aktivnost ekosistema; kakovost pa določa dolgoročno vrednost.