Proč existuje tolik modelů umělé inteligence?

Když se lidé baví o umělé inteligenci, často mluví, jako by šlo o jediný systém, který se postupem času zdokonaluje. Ve skutečnosti se ekosystém umělé inteligence skládá z mnoha rodin modelů, z nichž každou vyvinuly jiné týmy, které je trénovaly s odlišnými cíli a vydávaly v různých verzích.

GPT, Llama, Mistral, Gemma a Qwen jsou spíše příklady rodin modelů než jednotlivých hotových produktů. Každá rodina může obsahovat základní modely, modely vyladěné pro konkrétní úkoly, modely pro programování, modely pro zpracování obrazu a jazyka, menší modely určené pro použití na zařízení a experimentální kontrolní body.

Právě proto počet modelů umělé inteligence roste tak rychle. Jedna nová rodina modelů může přinést mnoho oficiálních variant a každá z těchto variant se později může stát výchozím bodem pro komunitní vylepšení, přizpůsobení pro konkrétní oblasti a optimalizované verze pro nasazení.

Základní model je univerzální model vycvičený na rozsáhlém souboru dat, takže může sloužit k mnoha následným účelům. Obvykle se nejedná o finální verzi, která by se používala v každém produktu. Místo toho se stává platformou, kterou ostatní týmy přizpůsobují, vyhodnocují a specializují.

Obecný jazykový model se například může stát pomocníkem při programování, modelem pro shrnování lékařských informací, klasifikátorem právních dokumentů, modelem pro vícejazyčný překlad nebo pomocníkem v zákaznické podpoře. Základní architektura těchto modelů může být podobná, ale výsledné modely se chovají odlišně, protože jsou vyladěny pro různé úkoly.

Tento ekosystémový efekt je jedním z hlavních důvodů vysokého počtu modelů. Důležitou jednotkou není pouze původní základní model, ale také řada praktických verzí, které kolem něj vznikají pro konkrétní jazyky, obory, bezpečnostní zásady, cíle v oblasti latence a hardwarová prostředí.

Dolaďování znamená vzít stávající model a dále ho trénovat na konkrétnějších příkladech. Místo toho, aby začínali od nuly, vývojáři vycházejí z modelu, který již rozumí jazyku, kódu, obrázkům nebo jiným vzorcům, a poté jej přizpůsobují užšímu cíli.

Díky technice LoRA a dalším technikám využívajícím adaptéry je tento proces levnější a dostupnější. Umožňují týmům přizpůsobit model pro konkrétní úkol, aniž by bylo nutné znovu trénovat každý parametr v původním systému. Výsledek lze zveřejnit jako nový model nebo jako adaptér, který upravuje základní model.

Nemocnice, banka, výzkumná laboratoř, herní studio nebo robotická firma – všechny tyto subjekty mohou potřebovat model, který se chová odlišně. Díky fine-tuningu mohou vytvářet specializované verze přizpůsobené jejich slovníku, dokumentům, omezením a pracovním postupům. Každá užitečná úprava se může stát dalším příspěvkem do veřejného ekosystému modelů.

Otevřené platformy pro modely výrazně zrychlují tempo, s jakým se modely objevují. Hugging Face usnadňuje publikování, vyhledávání a opětovné použití modelů. GitHub usnadňuje sdílení trénovacího kódu, skriptů pro vyhodnocování, nástrojů pro zpracování dat a příkladů nasazení.

Komunity otevřeného softwaru rovněž snižují překážky bránící experimentování. Malý tým může vycházet z veřejně dostupného modelu, otestovat nový datový soubor, vylepšit výkon pro jeden jazyk, komprimovat model za účelem levnějšího odvozování výsledků nebo vytvořit verzi, která běží na běžném spotřebitelském hardwaru.

To však neznamená, že každý veřejně dostupný model má stejnou důležitost nebo je připraven k nasazení do produkce. Mnohé z nich jsou experimenty, srovnávací testy, odvozené verze nebo postupná vylepšení. Otevřený ekosystém je však cenný právě proto, že z vývoje modelů činí sdílený proces, nikoli uzavřenou činnost omezenou na několik velkých laboratoří.

Vysoký počet modelů neznamená, že na světě existují stovky tisíc systémů srovnatelných s největšími modely typu „frontier“. Většina modelů nejsou systémy v měřítku GPT-4, které byly vycvičeny od nuly s využitím obrovských rozpočtů a rozsáhlé soukromé infrastruktury.

Mnoho veřejně dostupných modelů je menších, specializovaných nebo odvozených od stávajících prací. Některé z nich jsou klasifikátory, modely pro vkládání, modely pro zpracování řeči, modely pro zpracování obrazu, překladatelské modely, modely pro vyhledávání, výzkumné kontrolní body nebo fine-tuningové varianty většího základního modelu.

Toto rozlišení je důležité při analýze ukazatelů v oblasti umělé inteligence. Registr modelů měří aktivitu v ekosystému, nikoli počet špičkových laboratoří. Ukazuje, kolik opakovaně použitelných artefaktů se v širší komunitě strojového učení publikuje, přizpůsobuje a testuje.

Specializované modely jsou užitečné, protože různá odvětví mají odlišné požadavky. Lékařský model může potřebovat rozumět klinické terminologii, zatímco finanční model může potřebovat zpracovávat podání, terminologii související s riziky a strukturované informace o trhu.

Robotické modely mohou propojovat vnímání s fyzickými akcemi. Překladatelské modely se mohou zaměřovat na jazyky s omezenými zdroji. Modely pro zpracování obrazu mohou detekovat průmyslové vady, charakteristiky satelitních snímků nebo lékařské snímky. Jeden univerzální model může být sice působivý, ale ne vždy je nejlepším nebo nejlevnějším nástrojem pro každý úkol.

Díky této rozmanitosti je ekosystém umělé inteligence odolnější a praktičtější. Namísto jednoho modelu, který by se snažil vyhovět všem uživatelům, lze mnoho modelů optimalizovat z hlediska přesnosti, rychlosti, ochrany soukromí, nákladů, jazykové podpory, omezení daných zařízením či regulačních požadavků.

Je pravděpodobné, že počet veřejně dostupných modelů bude i nadále růst. Pokud se tvorba a přizpůsobování modelů zjednoduší, bude stále více týmů zveřejňovat verze určené pro konkrétní odvětví, jazyky, zařízení, pracovní postupy a výzkumné otázky.

Tento růst nemusí být lineární. Některé modely se stanou zastaralými, jiné budou sloučeny a některé platformy mohou odstranit duplicitní nebo neaktivní repozitáře. Zároveň by díky lepším nástrojům mohlo být vytváření modelů stejně běžnou záležitostí jako vydávání softwarových balíčků.

Nejdůležitější otázkou není, zda se tento počet vyšplhá na stovky tisíc či miliony. Užitečnější je otázka, kolik modelů je spolehlivých, dobře zdokumentovaných, vyhodnocených a vhodných pro praktické použití. Množství odráží aktivitu ekosystému; kvalita určuje dlouhodobou hodnotu.