Miks on nii palju tehisintellekti mudeleid?

Kui inimesed räägivad tehisintellektist, kõnelevad nad sageli nii, nagu oleks tegemist üheainsa süsteemiga, mis aja jooksul täiustub. Tegelikult koosneb tehisintellekti ökosüsteem paljudest mudeliperekondadest, millest igaühe on loonud erinevad meeskonnad, mida on treenitud erinevate eesmärkide nimel ja mis on välja antud erinevates versioonides.

GPT, Llama, Mistral, Gemma ja Qwen on pigem mudeliperekondade näited kui üksikud kindlad tooted. Iga perekond võib sisaldada baasmudeleid, juhendite järgi häälestatud mudeleid, kodeerimismudeleid, pildi-keele mudeleid, väiksemaid seadmesiseseid mudeleid ja eksperimentaalseid kontrollpunkte.

Just seetõttu kasvab tehisintellekti mudelite arv nii kiiresti. Ühest uuest mudeliperekonnast võib tekkida palju ametlikke variante, millest igaüks võib hiljem saada lähtepunktiks kogukonna poolt läbi viidavatele täpsustustele, valdkonnapõhistele kohandustele ja optimeeritud kasutusversioonidele.

Alusmudel on laiaulatuslikel andmetel treenitud üldotstarbeline mudel, mis võimaldab seda kasutada paljudes järgnevatel rakendustes. Tavaliselt ei ole see lõplik vorm, mida igas tootes kasutatakse. Selle asemel muutub see platvormiks, mida teised meeskonnad kohandavad, hindavad ja spetsialiseerivad.

Näiteks võib üldine keelemudel muutuda programmeerimisabiks, meditsiiniliste kokkuvõtete koostamise mudeliks, juriidiliste dokumentide klassifikaatoriks, mitmekeelseks tõlkemudeliks või klienditoe abiks. Nende aluseks olev arhitektuur võib olla sarnane, kuid tulemuseks olevad mudelid toimivad erinevalt, kuna need on häälestatud erinevate ülesannete jaoks.

See ökosüsteemi mõju on üks peamisi põhjusi, miks mudelite arv on nii suur. Oluline ei ole mitte ainult algne alusmudel, vaid ka paljud selle ümber tekkivad praktilised versioonid, mis on kohandatud konkreetsetele keeltele, valdkondadele, ohutuspõhimõtetele, latentsuse sihtmärkidele ja riistvarakeskkondadele.

Täpsustamine tähendab olemasoleva mudeli võtmist ja selle edasist treenimist konkreetsemate näidete põhjal. Selle asemel, et alustada nullist, võtavad arendajad aluseks mudeli, mis juba mõistab keelt, koodi, pilte või muid mustreid, ning kohandavad seda seejärel kitsamale eesmärgile.

LoRA ja muud adapteritehnikad muudavad selle protsessi odavamaks ja kättesaadavamaks. Need võimaldavad meeskondadel kohandada mudelit konkreetse ülesande jaoks, ilma et oleks vaja uuesti treenida kõiki algse süsteemi parameetreid. Tulemus võib avaldada uue mudelina või adapterina, mis muudab baasmudelit.

Haigla, pank, uurimislabor, mängustuudio või robootikaettevõte võivad kõik vajada mudelit, mis toimib teistmoodi. Täpsustamise abil saavad nad luua spetsiaalselt kohandatud versioone, mis sobivad nende sõnavara, dokumentide, piirangute ja töövoogudega. Iga kasulik kohandus võib saada uueks osaks avalikus mudelite ökosüsteemis.

Avatud mudeliplatvormid kiirendavad märkimisväärselt mudelite avaldamise protsessi. Hugging Face muudab mudelite avaldamise, leidmise ja taaskasutamise lihtsaks. GitHub võimaldab hõlpsasti jagada treeningkoodi, hindamisskripte, andmetöötlusvahendeid ja kasutuselevõtu näiteid.

Avatud lähtekoodiga kogukonnad vähendavad ka katsetamise takistusi. Väike meeskond võib alustada avalikust mudelist, testida uut andmekogumit, parandada mudeli jõudlust ühe keele puhul, kompressida mudelit odavama järeldamise eesmärgil või luua versiooni, mis töötab tavakasutaja riistvaral.

See ei tähenda, et iga avalik mudel oleks võrdselt oluline või valmis kasutusele võtmiseks. Paljud neist on eksperimendid, võrdlusmudelid, harud või järkjärgulised täiustused. Kuid avatud ökosüsteem on väärtuslik, sest see muudab mudelite arendamise ühiseks protsessiks, mitte vaid mõne suure laboratooriumi sisemiseks suletud tegevuseks.

Suur mudelite arv ei tähenda, et maailmas oleks sadu tuhandeid süsteeme, mis oleksid võrreldavad suurimate piirialade mudelitega. Enamik mudeleid ei ole GPT-4-tasemel süsteeme, mida on treenitud nullist, kasutades selleks tohutuid eelarveid ja ulatuslikku erainfrastruktuuri.

Paljud avalikud mudelid on väiksemad, spetsialiseeritud või tulenevad olemasolevatest töödest. Mõned neist on klassifikaatorid, sisseehitatud mudelid, kõnemudelid, pildimudelid, tõlkemudelid, otsingumudelid, teadusuuringute vahe-eesmärgid või suurema baasmudeli täpsustatud variandid.

See eristus on oluline tehisintellekti vastumeetmete analüüsimisel. Mudeliregister mõõdab ökosüsteemi aktiivsust, mitte tipptasemel laborite arvu. See näitab, kui palju taaskasutatavaid artefakte avaldatakse, kohandatakse ja testitakse laiemas masinõppe kogukonnas.

Spetsialiseeritud mudelid on kasulikud, kuna erinevates valdkondades kehtivad erinevad nõuded. Meditsiiniline mudel peab näiteks mõistma kliinilist terminoloogiat, samas kui finantsmudel peab suutma töödelda aruandeid, riskialast terminoloogiat ja struktureeritud turuteavet.

Robootikamudelid võivad ühendada tajumise füüsiliste tegevustega. Tõlkemudelid võivad keskenduda ressursivaestele keeltele. Pilditöötlusmudelid võivad tuvastada tööstuslikke defekte, satelliidipiltide tunnuseid või meditsiinilisi pilte. Üksainus üldine mudel võib olla muljetavaldav, kuid see ei ole alati parim ega odavaim vahend iga ülesande jaoks.

See mitmekesisus muudab tehisintellekti ökosüsteemi vastupidavamaks ja praktilisemaks. Selle asemel, et üks mudel püüaks teenindada kõiki kasutajaid, saab paljusid mudeleid optimeerida täpsuse, kiiruse, privaatsuse, kulude, keelte hõlmatuse, seadmete piirangute või regulatiivsete nõuete seisukohast.

On tõenäoline, et avalikult kättesaadavate mudelite arv kasvab edasi. Kui mudelite loomine ja kohandamine muutub lihtsamaks, hakkab üha rohkem meeskondi avaldama versioone, mis on suunatud konkreetsetele tööstusharudele, keeltele, seadmetele, töövoogudele ja uurimisküsimustele.

Kasv ei pruugi olla lineaarne. Mõned mudelid muutuvad vananenuks, mõned liidetakse kokku ning mõned platvormid võivad eemaldada dubleeritud või mitteaktiivsed hoidlad. Samal ajal võivad paremad tööriistad muuta mudelite loomise sama rutiinseks tegevuseks kui tarkvarapakettide avaldamine.

Kõige olulisem küsimus ei ole see, kas nende arv ulatub sadadesse tuhandetesse või miljonitesse. Palju kasulikum on küsida, kui palju mudeleid on usaldusväärsed, hästi dokumenteeritud, hinnatud ja tegelikuks kasutamiseks sobivad. Kogus näitab ökosüsteemi aktiivsust; kvaliteet määrab pikaajalise väärtuse.