Kaj je sklepanje z umetno inteligenco?

Uporaba umetne inteligence poteka po tem, ko je model že bil usposobljen. Uporabnik, aplikacija ali avtomatiziran sistem pošlje nov vnos, usposobljeni model pa uporabi znanje, pridobljeno med usposabljanjem, da ustvari koristen izhod.

Ta vhodni podatek je lahko pisno navodilo, iskalno poizvedbo, slika izdelka, zvočni posnetek, vrstica kode ali vrstica v podatkovni bazi. Izhodni podatek je lahko odgovor, ustvarjena slika, razvrstitev, priporočilo, prevod ali napoved.

Zato vsak odgovor ChatGPT-ja, ustvarjanje slik z umetno inteligenco, rezultat iskalnega pomočnika, priporočevalni sistem in odločitev o moderiranju vsebin vključujejo sklepanje. Model se ne gradi na novo vsakič znova. Namesto tega se izvaja na novih podatkih.

Učenje in sklepanje sta dve različni fazi istega sistema umetne inteligence. Pri učenju se model ustvari ali posodobi z obdelavo obsežnih naborov podatkov, primerjavo napovedi s primeri ter prilagajanjem notranjih parametrov v številnih ponavljajočih se korakih.

Sklepanje se začne, ko je to usposabljanje privedlo do uporabnega modela. Usposobljeni model se namesti na strežnike, prejema nove vhodne podatke in uporablja naučene vzorce, ne da bi bilo treba ponovno opraviti celoten proces usposabljanja.

Razliko si lahko enostavno zapomnite takole: usposabljanje je način, kako se model uči, medtem ko je sklepanje način, kako se model uporablja. Za podrobnejšo razlago prve faze si oglejte vodnik o tem, kako se usposabljajo modeli umetne inteligence.

Natančni koraki so odvisni od vrste modela, vendar je osnovni potek podoben. Prispel je vhodni podatek, sistem ga pripravi v formatu, ki ga model pričakuje, model opravi izračun na podlagi svojih parametrov, sistem pa izhodne podatke modela pretvori v obliko, ki jo uporabnik lahko prebere, si ogleda ali uporabi.

Pri jezikovnem modelu se navodilo običajno razdeli na tokene. Model te tokene ovrednoti in korak za korakom napove verjetne naslednje tokene. Pri slikovnem modelu je lahko vhodno podatkovno besedilo, slika ali oboje, model pa postopoma ustvarja piksle ali vizualne značilnosti, ki ustrezajo zahtevi.

Drugi sistemi lahko razvrščajo dokumente, razvrščajo rezultate iskanja, prepoznavajo predmete na sliki, pretvarjajo govor v pisno besedilo ali priporočajo izdelke. V vsakem primeru je sklepanje tisti korak v realnem času, ki nov vnos pretvori v izhod modela.

Uporaba umetne inteligence ni zgolj preprosto iskanje v podatkovni bazi. Velik model lahko vsebuje milijarde parametrov, njegova uporaba pa zahteva številne matematične operacije za prenos informacij skozi model in izračun naslednjega izhodnega rezultata.

Ta izračun mora pogosto potekati hitro. Odgovor klepetalnega robota, odziv iskalnega pomočnika ali prevod v realnem času morajo priti v nekaj sekundah ali še hitreje, zato so za sisteme za sklepanje pomembni zakasnitev, pasovna širina pomnilnika, obdelava v serijah, velikost modela in izkoriščenost strojne opreme.

Grafične kartice (GPU) in drugi pospeševalniki umetne inteligence so koristni, ker lahko učinkovito izvajajo številne vzporedne operacije. Čim večji je model, čim daljši je kontekst in čim več je hkratnih uporabnikov, tem skrbneje je treba zasnovati infrastrukturo za sklepanje.

Ko chatbot odgovori na vprašanje, izvaja sklepanje. Enako velja, ko generator slik ustvari sliko na podlagi navodila, pomočnik za programiranje predlaga funkcijo ali prevajalsko orodje prevede stavek v drug jezik.

Sklepanje se pojavlja tudi v manj opaznih sistemih. Seznam priporočil, ki razvršča videoposnetke, sistem za odkrivanje goljufij, ki označi sumljivo transakcijo, model za medicinsko slikanje, ki izpostavi območje zanimanja, ali sistem za vizualno nadzorovanje v tovarni, ki zazna napake – vsi ti sistemi uporabljajo usposobljene modele na novih podatkih.

Ti primeri se uporabnikom zdijo različni, vendar imajo enak osnovni vzorec: usposobljen model prejme vhodne podatke, opravi izračun in vrne izhodne podatke, ki podpirajo odločitev, odgovor ali generiran rezultat.

Posamezna zahteva za sklepanje je sicer lahko majhna, vendar sodobni sistemi umetne inteligence delujejo v ogromnem obsegu. Milijoni ali milijarde ukazov, zahtev za slike, priporočil in klicov API lahko ustvarijo neprekinjeno obremenitev grafičnih procesorjev, omrežja, sistemov za shranjevanje in hlajenja.

Zato je sklepanje ključnega pomena za infrastrukturo umetne inteligence. Učenje je morda najbolj opazen računalniški proces, vendar se sklepanje ponavlja vsakič, ko ljudje uporabljajo uvedena orodja umetne inteligence. Na globalni ravni lahko ta ponavljajoča se uporaba postane glavni dejavnik, ki vpliva na povpraševanje po grafičnih procesorjih in porabo električne energije v podatkovnih centrih.

Natančni stroški energije za eno poizvedbo umetne inteligence so odvisni od velikosti modela, strojne opreme, obdelave v serijah, izkoriščenosti, učinkovitosti podatkovnega centra in vrste izhodnih podatkov. Pomembno je, da sklepanje povezuje vsakodnevno uporabo umetne inteligence s fizično infrastrukturo: čipi, strežniki, električno energijo, hlajenjem in podatkovnimi centri.

Ponudniki umetne inteligence vlagajo veliko inženirskega truda v to, da bi sklepanje postalo hitrejše, cenejše in učinkovitejše. Z združevanjem v serije je mogoče hkrati obdelati več zahtevkov, s shranjevanjem v predpomnilnik je mogoče ponovno uporabiti že opravljeno delo, usmerjanje pa omogoča pošiljanje enostavnejših nalog manjšim ali specializiranim modelom.

Druge tehnike zmanjšujejo obseg potrebnih izračunov. Kvantizacija omogoča bolj kompaktno predstavitev vrednosti modela, destilacija omogoča prenos obnašanja v manjši model, medtem ko obrezovanje ali spremembe arhitekture omogočajo odstranitev nepotrebnega dela ob ohranitvi koristne kakovosti.

Pomembna je tudi specializirana strojna oprema. Grafične kartice (GPU), pospeševalniki umetne inteligence, hitra omrežna povezava in pomnilnik z visoko pasovno širino pomagajo razpoloženim modelom zanesljivo delovati v velikem obsegu. Večja učinkovitost sklepanja lahko zmanjša zakasnitev, stroške in porabo električne energije, vendar infrastrukture ne more odpraviti.