Τι είναι η συναγωγή τεχνητής νοημοσύνης;

Η εξαγωγή συμπερασμάτων με τεχνητή νοημοσύνη πραγματοποιείται αφού το μοντέλο έχει ήδη εκπαιδευτεί. Ένας χρήστης, μια εφαρμογή ή ένα αυτοματοποιημένο σύστημα στέλνει μια νέα είσοδο, και το εκπαιδευμένο μοντέλο χρησιμοποιεί όσα έμαθε κατά τη διάρκεια της εκπαίδευσης για να παράγει ένα χρήσιμο αποτέλεσμα.

Αυτή η εισροή μπορεί να είναι μια γραπτή εντολή, ένα ερώτημα αναζήτησης, μια εικόνα προϊόντος, μια ηχογράφηση, μια γραμμή κώδικα ή μια σειρά σε μια βάση δεδομένων. Η έξοδος μπορεί να είναι μια απάντηση, μια εικόνα που έχει δημιουργηθεί, μια ταξινόμηση, μια πρόταση, μια μετάφραση ή μια πρόβλεψη.

Γι’ αυτό κάθε απάντηση του ChatGPT, κάθε δημιουργία εικόνας με τεχνητή νοημοσύνη, κάθε αποτέλεσμα του βοηθού αναζήτησης, κάθε μηχανισμός προτάσεων και κάθε απόφαση σχετικά με τον έλεγχο περιεχομένου περιλαμβάνει συλλογιστική. Το μοντέλο δεν ανακατασκευάζεται κάθε φορά. Απλώς εφαρμόζεται σε νέα δεδομένα.

Η εκπαίδευση και η εξαγωγή συμπερασμάτων είναι δύο διαφορετικές φάσεις του ίδιου συστήματος τεχνητής νοημοσύνης. Η εκπαίδευση δημιουργεί ή ενημερώνει το μοντέλο μέσω της επεξεργασίας μεγάλων συνόλων δεδομένων, της σύγκρισης των προβλέψεων με παραδείγματα και της προσαρμογής των εσωτερικών παραμέτρων μέσα από πολλά επαναλαμβανόμενα βήματα.

Η εξαγωγή συμπερασμάτων ξεκινά αφού η διαδικασία εκπαίδευσης έχει οδηγήσει στη δημιουργία ενός λειτουργικού μοντέλου. Το εκπαιδευμένο μοντέλο αναπτύσσεται σε διακομιστές, λαμβάνει νέες εισόδους και εφαρμόζει τα πρότυπα που έχει μάθει, χωρίς να χρειάζεται να επαναληφθεί ολόκληρη η διαδικασία εκπαίδευσης.

Ένας απλός τρόπος για να θυμάστε τη διαφορά είναι ο εξής: η εκπαίδευση αφορά τον τρόπο με τον οποίο το μοντέλο μαθαίνει, ενώ η εξαγωγή συμπερασμάτων αφορά τον τρόπο με τον οποίο χρησιμοποιείται το μοντέλο. Για μια πιο αναλυτική εξήγηση της πρώτης φάσης, ανατρέξτε στον οδηγό σχετικά με τον τρόπο εκπαίδευσης των μοντέλων τεχνητής νοημοσύνης.

Τα ακριβή βήματα εξαρτώνται από τον τύπο του μοντέλου, αλλά η βασική ροή είναι παρόμοια. Λαμβάνεται μια είσοδος, το σύστημα την προετοιμάζει στη μορφή που απαιτεί το μοντέλο, το μοντέλο εκτελεί υπολογισμούς στις παραμέτρους του και το σύστημα μετατρέπει την έξοδο του μοντέλου σε κάτι που ο χρήστης μπορεί να διαβάσει, να δει ή να χρησιμοποιήσει.

Σε ένα γλωσσικό μοντέλο, μια προτροπή χωρίζεται συνήθως σε λέξεις-κλειδιά. Το μοντέλο αναλύει αυτές τις λέξεις-κλειδιά και προβλέπει τις πιθανές επόμενες λέξεις-κλειδιά βήμα προς βήμα. Σε ένα μοντέλο εικόνας, η είσοδος μπορεί να είναι κείμενο, εικόνα ή και τα δύο, και το μοντέλο παράγει σταδιακά εικονοστοιχεία ή οπτικά χαρακτηριστικά που ανταποκρίνονται στο αίτημα.

Άλλα συστήματα μπορεί να ταξινομούν ένα έγγραφο, να κατατάσσουν τα αποτελέσματα αναζήτησης, να ανιχνεύουν αντικείμενα σε μια εικόνα, να μεταγράφουν ομιλία ή να προτείνουν ένα προϊόν. Σε κάθε περίπτωση, η εξαγωγή συμπερασμάτων είναι το στάδιο της εκτέλεσης σε πραγματικό χρόνο που μετατρέπει μια νέα είσοδο σε έξοδο του μοντέλου.

Η εξαγωγή συμπερασμάτων με τεχνητή νοημοσύνη δεν είναι μια απλή αναζήτηση σε μια βάση δεδομένων. Ένα μεγάλο μοντέλο μπορεί να περιέχει δισεκατομμύρια παραμέτρους, και η χρήση του απαιτεί πολλές μαθηματικές πράξεις για τη μεταφορά πληροφοριών μέσα στο μοντέλο και τον υπολογισμό του επόμενου αποτελέσματος.

Αυτός ο υπολογισμός πρέπει συχνά να πραγματοποιείται γρήγορα. Μια απάντηση από ένα chatbot, μια απάντηση από έναν βοηθό αναζήτησης ή μια μετάφραση σε πραγματικό χρόνο πρέπει να παρέχεται σε δευτερόλεπτα ή και λιγότερο, οπότε τα συστήματα εξαγωγής συμπερασμάτων δίνουν ιδιαίτερη σημασία στην καθυστέρηση, το εύρος ζώνης μνήμης, την ομαδοποίηση, το μέγεθος του μοντέλου και τη χρήση του υλικού.

Οι GPU και άλλοι επιταχυντές τεχνητής νοημοσύνης είναι χρήσιμοι επειδή μπορούν να εκτελούν αποτελεσματικά πολλές παράλληλες λειτουργίες. Όσο μεγαλύτερο είναι το μοντέλο, όσο εκτενέστερο είναι το πλαίσιο και όσο περισσότεροι είναι οι ταυτόχρονοι χρήστες, τόσο πιο προσεκτικά πρέπει να σχεδιαστεί η υποδομή συμπερασμού.

Όταν ένα chatbot απαντά σε μια ερώτηση, πραγματοποιεί συλλογιστική. Το ίδιο ισχύει όταν ένας γεννήτρια εικόνων δημιουργεί μια εικόνα βάσει μιας εντολής, ένας βοηθός προγραμματισμού προτείνει μια συνάρτηση ή ένα μεταφραστικό εργαλείο μετατρέπει μια πρόταση σε άλλη γλώσσα.

Η εξαγωγή συμπερασμάτων εμφανίζεται και σε λιγότερο ορατά συστήματα. Μια ροή προτάσεων που κατατάσσει βίντεο, ένα σύστημα ανίχνευσης απάτης που επισημαίνει μια συναλλαγή, ένα μοντέλο ιατρικής απεικόνισης που επισημαίνει μια περιοχή ενδιαφέροντος ή ένα σύστημα οπτικής ανίχνευσης σε εργοστάσιο που εντοπίζει ελαττώματα: όλα αυτά χρησιμοποιούν εκπαιδευμένα μοντέλα σε νέα δεδομένα.

Αυτά τα παραδείγματα φαίνονται διαφορετικά στους χρήστες, αλλά ακολουθούν το ίδιο βασικό μοτίβο: ένα εκπαιδευμένο μοντέλο λαμβάνει μια είσοδο, εκτελεί υπολογισμούς και επιστρέφει μια έξοδο που υποστηρίζει μια απόφαση, μια απάντηση ή ένα παραγόμενο αποτέλεσμα.

Ένα αίτημα εξαγωγής συμπερασμάτων μπορεί να είναι μικρό, αλλά τα σύγχρονα συστήματα τεχνητής νοημοσύνης λειτουργούν σε τεράστια κλίμακα. Εκατομμύρια ή δισεκατομμύρια ερωτήματα, αιτήματα εικόνων, προτάσεις και κλήσεις API μπορούν να δημιουργήσουν συνεχή ζήτηση σε GPU, δίκτυα, συστήματα αποθήκευσης και συστήματα ψύξης.

Γι’ αυτό ακριβώς η εξαγωγή συμπερασμάτων αποτελεί κεντρικό στοιχείο της υποδομής της τεχνητής νοημοσύνης. Η εκπαίδευση μπορεί να είναι η πιο ορατή υπολογιστική διαδικασία, αλλά η εξαγωγή συμπερασμάτων επαναλαμβάνεται κάθε φορά που οι χρήστες χρησιμοποιούν τα εργαλεία τεχνητής νοημοσύνης που έχουν τεθεί σε λειτουργία. Σε παγκόσμια κλίμακα, αυτή η επαναλαμβανόμενη χρήση μπορεί να αποτελέσει σημαντικό παράγοντα που επηρεάζει τη ζήτηση για GPU και την κατανάλωση ηλεκτρικής ενέργειας στα κέντρα δεδομένων.

Το ακριβές ενεργειακό κόστος μιας ερώτησης τεχνητής νοημοσύνης εξαρτάται από το μέγεθος του μοντέλου, τον εξοπλισμό, την ομαδοποίηση, το βαθμό αξιοποίησης, την αποδοτικότητα του κέντρου δεδομένων και τον τύπο του αποτελέσματος. Το σημαντικό είναι ότι η διαδικασία εξαγωγής συμπερασμάτων συνδέει την καθημερινή χρήση της τεχνητής νοημοσύνης με τη φυσική υποδομή: τσιπ, διακομιστές, ηλεκτρική ενέργεια, ψύξη και κέντρα δεδομένων.

Οι πάροχοι τεχνητής νοημοσύνης καταβάλλουν σημαντικές τεχνικές προσπάθειες για να καταστήσουν τη διαδικασία εξαγωγής συμπερασμάτων ταχύτερη, φθηνότερη και αποδοτικότερη. Η επεξεργασία κατά παρτίδες επιτρέπει την ταυτόχρονη επεξεργασία πολλαπλών αιτημάτων, η αποθήκευση στην προσωρινή μνήμη επιτρέπει την επαναχρησιμοποίηση επαναλαμβανόμενων εργασιών, ενώ η δρομολόγηση επιτρέπει την αποστολή απλούστερων εργασιών σε μικρότερα ή εξειδικευμένα μοντέλα.

Άλλες τεχνικές μειώνουν τον απαιτούμενο υπολογιστικό φόρτο. Η κβαντοποίηση επιτρέπει την πιο συμπυκνωμένη αναπαράσταση των τιμών του μοντέλου, η απόσταξη μπορεί να μεταφέρει τη συμπεριφορά σε ένα μικρότερο μοντέλο, ενώ το «κλάδεμα» ή οι αλλαγές στην αρχιτεκτονική μπορούν να εξαλείψουν περιττές εργασίες, διατηρώντας παράλληλα την απαραίτητη ποιότητα.

Ο εξειδικευμένος εξοπλισμός παίζει επίσης σημαντικό ρόλο. Οι GPU, οι επιταχυντές τεχνητής νοημοσύνης, τα γρήγορα δίκτυα και η μνήμη υψηλού εύρους ζώνης βοηθούν τα μοντέλα που έχουν τεθεί σε λειτουργία να ανταποκρίνονται αξιόπιστα σε μεγάλη κλίμακα. Η βελτίωση της αποδοτικότητας της εξαγωγής συμπερασμάτων μπορεί να μειώσει την καθυστέρηση, το κόστος και την κατανάλωση ηλεκτρικής ενέργειας, αλλά δεν καταργεί την ανάγκη για υποδομή.