Czym jest wnioskowanie oparte na sztucznej inteligencji?

Wnioskowanie oparte na sztucznej inteligencji ma miejsce po zakończeniu uczenia modelu. Użytkownik, aplikacja lub zautomatyzowany system przesyła nowe dane wejściowe, a wytrenowany model wykorzystuje wiedzę zdobytą podczas uczenia się, aby wygenerować użyteczne dane wyjściowe.

Dane wejściowe mogą mieć postać pisemnej prośby, zapytania wyszukiwania, zdjęcia produktu, nagrania głosowego, linii kodu lub wiersza w bazie danych. Wynikiem może być odpowiedź, wygenerowany obraz, klasyfikacja, rekomendacja, tłumaczenie lub prognoza.

Właśnie dlatego każda odpowiedź ChatGPT, generowanie obrazów przez sztuczną inteligencję, wynik działania asystenta wyszukiwania, działanie silnika rekomendacji oraz decyzja dotycząca moderacji treści wiąże się z wnioskowaniem. Model nie jest za każdym razem odtwarzany od nowa. Jest on po prostu uruchamiany na nowych danych.

Uczenie i wnioskowanie to dwa różne etapy działania tego samego systemu sztucznej inteligencji. Podczas uczenia model jest tworzony lub aktualizowany poprzez przetwarzanie dużych zbiorów danych, porównywanie prognoz z przykładami oraz dostosowywanie parametrów wewnętrznych w ramach wielu powtarzających się etapów.

Wnioskowanie rozpoczyna się dopiero po tym, jak proces uczenia doprowadził do powstania modelu nadającego się do użytku. Wytrenowany model jest wdrażany na serwerach, otrzymuje nowe dane wejściowe i stosuje wyuczone wzorce bez konieczności ponownego przechodzenia przez cały proces uczenia.

Prosty sposób na zapamiętanie tej różnicy jest następujący: uczenie to proces, w którym model się uczy, natomiast wnioskowanie to sposób, w jaki model jest wykorzystywany. Bardziej szczegółowe wyjaśnienie pierwszej fazy można znaleźć w przewodniku poświęconym uczeniu modeli sztucznej inteligencji.

Dokładne etapy zależą od typu modelu, ale ogólny przebieg procesu jest podobny. System otrzymuje dane wejściowe, przygotowuje je w formacie oczekiwanym przez model, model przeprowadza obliczenia z wykorzystaniem swoich parametrów, a następnie system przekształca wynik działania modelu w formę, którą użytkownik może odczytać, wyświetlić lub wykorzystać.

W przypadku modelu językowego polecenie jest zazwyczaj dzielone na tokeny. Model analizuje te tokeny i krok po kroku przewiduje prawdopodobne kolejne tokeny. W przypadku modelu obrazowego dane wejściowe mogą stanowić tekst, obraz lub oba te elementy, a model stopniowo generuje piksele lub cechy wizualne odpowiadające zapytaniu.

Inne systemy mogą klasyfikować dokumenty, ustalać ranking wyników wyszukiwania, wykrywać obiekty na obrazach, transkrybować mowę lub rekomendować produkty. W każdym z tych przypadków wnioskowanie stanowi etap wykonywania w czasie rzeczywistym, który przekształca nowe dane wejściowe w wynik generowany przez model.

Wnioskowanie oparte na sztucznej inteligencji nie polega na prostym wyszukiwaniu w bazie danych. Duży model może zawierać miliardy parametrów, a jego wykorzystanie wymaga wielu operacji matematycznych służących do przekazywania informacji przez model i obliczania kolejnego wyniku.

Obliczenia te często muszą przebiegać szybko. Odpowiedź chatbota, reakcja asystenta wyszukiwania czy tłumaczenie w czasie rzeczywistym powinny pojawić się w ciągu kilku sekund lub nawet szybciej, dlatego w systemach wnioskowania dużą wagę przywiązuje się do opóźnień, przepustowości pamięci, przetwarzania partiami, rozmiaru modelu oraz wykorzystania sprzętu.

Procesory graficzne (GPU) i inne akceleratory sztucznej inteligencji są przydatne, ponieważ potrafią wydajnie wykonywać wiele operacji równoległych. Im większy model, im dłuższy kontekst i im więcej użytkowników korzysta z systemu jednocześnie, tym staranniej należy zaprojektować infrastrukturę do wnioskowania.

Kiedy chatbot odpowiada na pytanie, dokonuje wnioskowania. To samo ma miejsce, gdy generator obrazów tworzy obraz na podstawie podpowiedzi, asystent programistyczny sugeruje funkcję lub narzędzie tłumaczeniowe przekłada zdanie na inny język.

Wnioskowanie ma również zastosowanie w mniej widocznych systemach. Czy to kanał rekomendacji ustalający ranking filmów, system wykrywania oszustw sygnalizujący podejrzaną transakcję, model obrazowania medycznego zaznaczający obszar zainteresowania, czy też fabryczny system wizyjny wykrywający wady – wszystkie one wykorzystują modele wytrenowane na nowych danych.

Przykłady te wyglądają inaczej z punktu widzenia użytkowników, ale opierają się na tym samym podstawowym schemacie: wyszkolony model otrzymuje dane wejściowe, wykonuje obliczenia i zwraca wynik, który stanowi podstawę do podjęcia decyzji, udzielenia odpowiedzi lub wygenerowania rezultatu.

Pojedyncze żądanie wnioskowania może być niewielkie, ale nowoczesne systemy sztucznej inteligencji działają na ogromną skalę. Miliony lub miliardy poleceń, żądań dotyczących obrazów, rekomendacji i wywołań API mogą generować ciągłe obciążenie procesorów graficznych, sieci, pamięci masowej i systemów chłodzenia.

Właśnie dlatego wnioskowanie odgrywa kluczową rolę w infrastrukturze sztucznej inteligencji. Chociaż uczenie może być najbardziej widocznym procesem obliczeniowym, to wnioskowanie powtarza się za każdym razem, gdy użytkownicy korzystają z wdrożonych narzędzi opartych na sztucznej inteligencji. W skali globalnej takie powtarzające się wykorzystanie może stać się głównym czynnikiem napędzającym popyt na procesory graficzne (GPU) oraz zużycie energii elektrycznej w centrach danych.

Dokładny koszt energetyczny jednego zapytania generowanego przez sztuczną inteligencję zależy od wielkości modelu, sprzętu, sposobu grupowania danych, stopnia wykorzystania zasobów, wydajności centrum danych oraz rodzaju wyniku. Istotne jest to, że proces wnioskowania łączy codzienne wykorzystanie sztucznej inteligencji z infrastrukturą fizyczną: układami scalonymi, serwerami, zasilaniem, systemami chłodzenia i centrami danych.

Dostawcy rozwiązań opartych na sztucznej inteligencji poświęcają wiele wysiłku inżynieryjnego na to, by proces wnioskowania był szybszy, tańszy i bardziej wydajny. Przetwarzanie wsadowe pozwala na jednoczesną obsługę wielu żądań, buforowanie umożliwia ponowne wykorzystanie powtarzających się operacji, a routing pozwala kierować prostsze zadania do mniejszych lub wyspecjalizowanych modeli.

Inne techniki pozwalają zmniejszyć nakład obliczeniowy. Kwantyzacja umożliwia bardziej zwięzłe przedstawienie wartości modelu, destylacja pozwala przenieść zachowanie do mniejszego modelu, a przycinanie lub zmiany architektury pozwalają wyeliminować zbędne operacje przy zachowaniu odpowiedniej jakości.

Istotny jest również specjalistyczny sprzęt. Procesory graficzne (GPU), akceleratory sztucznej inteligencji, szybkie sieci oraz pamięć o dużej przepustowości pomagają wdrożonym modelom niezawodnie działać na dużą skalę. Wyższa wydajność wnioskowania może zmniejszyć opóźnienia, koszty i zużycie energii elektrycznej, ale nie sprawia, że infrastruktura przestaje istnieć.