Kāpēc ir tik daudz mākslīgā intelekta modeļu?

Kad cilvēki runā par mākslīgo intelektu, viņi bieži izsakās tā, it kā pastāvētu viena sistēma, kas laika gaitā pilnveidojas. Patiesībā mākslīgā intelekta ekosistēma sastāv no daudzām modeļu grupām, kuras katru izstrādājušas atšķirīgas komandas, apmācījušas ar atšķirīgiem mērķiem un izlaidušas dažādās versijās.

GPT, Llama, Mistral, Gemma un Qwen ir drīzāk modeļu ģimeņu piemēri, nevis atsevišķi gatavi produkti. Katra ģimene var ietvert bāzes modeļus, uz instrukcijām pielāgotus modeļus, kodēšanas modeļus, redzes un valodas modeļus, mazākus ierīcē uzstādītus modeļus un eksperimentālus kontrolpunktus.

Tieši tāpēc mākslīgā intelekta modeļu skaits pieaug tik strauji. Viena jauna modeļu saime var radīt daudzus oficiālus variantus, un katrs no šiem variantiem vēlāk var kļūt par sākumpunktu kopienas veiktajām pielāgošanām, konkrētām jomām pielāgotām versijām un optimizētām ieviešanas versijām.

Pamata modelis ir universāls modelis, kas apmācīts, izmantojot plašu datu kopu, tādējādi nodrošinot atbalstu daudziem turpmākiem lietojumiem. Parasti tas nav galīgais variants, ko izmanto katrā produktā. Drīzāk tas kļūst par platformu, kuru citas komandas pielāgo, novērtē un specializē.

Piemēram, vispārējs valodas modelis var kļūt par programmēšanas palīgu, medicīnisko kopsavilkumu veidošanas modeli, juridisko dokumentu klasifikatoru, daudzvalodu tulkošanas modeli vai klientu atbalsta palīgu. Pamatarhitektūra var būt līdzīga, taču rezultātā iegūtie modeļi darbojas atšķirīgi, jo tie ir pielāgoti dažādiem uzdevumiem.

Šis ekosistēmas efekts ir viens no galvenajiem iemesliem, kāpēc modeļu skaits ir tik liels. Svarīga ir ne tikai sākotnējā pamatmodele, bet arī daudzās praktiskās versijas, kas rodas ap to, pielāgotas konkrētām valodām, jomām, drošības politikām, latences mērķiem un aparatūras vidēm.

Fine-tuning nozīmē to, ka esošo modeli turpina apmācīt, izmantojot konkrētākus piemērus. Tā vietā, lai sāktu no nulles, izstrādātāji izmanto modeli, kas jau saprot valodu, kodu, attēlus vai citus modeļus, un pēc tam to pielāgo šaurākam mērķim.

LoRA un citas adapteru metodes padara šo procesu lētāku un pieejamāku. Tās ļauj komandām pielāgot modeli konkrētam uzdevumam, nepārmācot katru parametru sākotnējā sistēmā. Rezultātu var publicēt kā jaunu modeli vai kā adapteri, kas modificē bāzes modeli.

Slimnīcai, bankai, pētniecības laboratorijai, spēļu studijai vai robotikas uzņēmumam var būt nepieciešams modelis, kas darbojas atšķirīgi. Fine-tuning ļauj tiem izveidot specializētas versijas, kas pielāgotas to vārdnīcai, dokumentiem, ierobežojumiem un darba plūsmām. Katra noderīga pielāgojuma rezultātā var tikt izveidots jauns ieraksts publiskajā modeļu ekosistēmā.

Atvērtās modeļu platformas ievērojami paātrina modeļu parādīšanos. „Hugging Face“ atvieglo modeļu publicēšanu, atklāšanu un atkārtotu izmantošanu. „GitHub“ atvieglo apmācības koda, novērtēšanas skriptu, datu apstrādes rīku un ieviešanas piemēru kopīgošanu.

Atvērtā koda kopienas arī samazina eksperimentēšanas barjeras. Neliela komanda var sākt darbu, izmantojot publiski pieejamu modeli, pārbaudīt jaunu datu kopu, uzlabot veiktspēju konkrētai valodai, kompresēt modeli, lai samazinātu secinājumu izdarīšanas izmaksas, vai izstrādāt versiju, kas darbojas uz parastām patērētāju ierīcēm.

Tas nenozīmē, ka visi publiski pieejamie modeļi ir vienlīdz svarīgi vai gatavi izmantošanai ražošanā. Daudzi no tiem ir eksperimenti, salīdzinošie testi, atzari vai pakāpeniski uzlabojumi. Taču atvērta ekosistēma ir vērtīga tādēļ, ka tā pārvērš modeļu izstrādi par kopīgu procesu, nevis par slēgtu darbību, kas notiek tikai dažās lielās laboratorijās.

Liels modeļu skaits nenozīmē, ka pasaulē ir simtiem tūkstošu sistēmu, kas būtu salīdzināmas ar lielākajiem „frontier” modeļiem. Lielākā daļa modeļu nav GPT-4 mēroga sistēmas, kas apmācītas no nulles, izmantojot milzīgus budžetus un plašu privāto infrastruktūru.

Daudzi publiski pieejamie modeļi ir mazāki, specializēti vai izstrādāti, pamatojoties uz jau esošiem darbiem. Daži no tiem ir klasifikatori, iegultie modeļi, runas modeļi, attēlu modeļi, tulkošanas modeļi, informācijas atlases modeļi, pētniecības starpposma rezultāti vai lielāka bāzes modeļa precīzi pielāgoti varianti.

Šī atšķirība ir svarīga, analizējot AI rādītājus. Modeļu reģistrs mēra aktivitāti ekosistēmā, nevis novatorisko laboratoriju skaitu. Tas parāda, cik daudz atkārtoti izmantojamu artefaktu tiek publicēti, pielāgoti un testēti plašākajā mašīnmācīšanās kopienā.

Specializētie modeļi ir noderīgi, jo dažādās jomās ir atšķirīgas prasības. Medicīnas modelim, iespējams, ir jāizprot klīniskā terminoloģija, savukārt finanšu modelim var būt nepieciešams apstrādāt iesniegtos dokumentus, ar risku saistīto terminoloģiju un strukturētu tirgus informāciju.

Robotikas modeļi var savienot uztveri ar fiziskām darbībām. Tulkošanas modeļi var būt vērsti uz valodām ar ierobežotiem resursiem. Redzes modeļi var atklāt rūpnieciskos defektus, satelītu attēlu pazīmes vai medicīniskos attēlus. Viens vispārējs modelis var būt iespaidīgs, taču tas ne vienmēr ir labākais vai lētākais rīks katram uzdevumam.

Šī daudzveidība padara mākslīgā intelekta ekosistēmu elastīgāku un praktiskāku. Tā vietā, lai viens modelis mēģinātu apkalpot visus lietotājus, daudzus modeļus var optimizēt, ņemot vērā precizitāti, ātrumu, privātumu, izmaksas, valodu klāstu, ierīču ierobežojumus vai normatīvās prasības.

Ir ticams, ka publiski pieejamo modeļu skaits turpinās pieaugt. Ja modeļu izstrāde un pielāgošana kļūs vienkāršāka, arvien vairāk komandu publicēs versijas, kas paredzētas konkrētām nozarēm, valodām, ierīcēm, darba plūsmām un pētniecības jautājumiem.

Izaugsme var nebūt lineāra. Daži modeļi kļūs novecojuši, daži tiks apvienoti, un dažas platformas varētu iztīrīt dublikātus vai neaktīvus repozitorijus. Tajā pašā laikā labāki rīki varētu padarīt modeļu izveidi tikpat ikdienišķu kā programmatūras pakotņu publicēšanu.

Svarīgākais jautājums nav tas, vai to skaits sasniegs simtus tūkstošu vai miljonus. Daudz lietderīgāks jautājums ir — cik daudz modeļu ir uzticami, labi dokumentēti, novērtēti un piemēroti reālai lietošanai. Daudzums liecina par ekosistēmas aktivitāti; kvalitāte nosaka ilgtermiņa vērtību.