Σύντομη απάντηση
Το ChatGPT χρησιμοποιεί ηλεκτρική ενέργεια κάθε φορά που επεξεργάζεται τις προτροπές και παράγει απαντήσεις. Η ακριβής ποσότητα δεν δημοσιοποιείται σε πραγματικό χρόνο, οπότε κάθε δημόσια εκτίμηση θα πρέπει να αντιμετωπίζεται ως προσέγγιση και όχι ως ελεγμένη μέτρηση.
Η περισσότερη χρήση του ChatGPT είναι συμπερασματική
Όταν ένας χρήστης στέλνει μια προτροπή, το μοντέλο εκτελεί συμπερασμό: επεξεργάζεται την είσοδο, προβλέπει πιθανές ενδείξεις εξόδου και επιστρέφει μια απάντηση. Κάθε αλληλεπίδραση απαιτεί υπολογισμό, και αυτός ο υπολογισμός εκτελείται σε διακομιστές εξοπλισμένους με εξειδικευμένους επιταχυντές τεχνητής νοημοσύνης.
Η χρήση ηλεκτρικής ενέργειας αυξάνεται με την καθημερινή δραστηριότητα
Ένα μεμονωμένο αίτημα μπορεί να είναι μικρό σε σύγκριση με τη βιομηχανική χρήση ενέργειας, αλλά το ChatGPT λειτουργεί σε παγκόσμια κλίμακα. Εκατομμύρια καθημερινοί χρήστες, επαναλαμβανόμενες προτροπές, μεγαλύτερες συνομιλίες και πολυτροπικά χαρακτηριστικά μπορούν να μετατρέψουν το μικρό ενεργειακό κόστος ανά αίτημα σε σημαντική ζήτηση υποδομής.
Τα κέντρα δεδομένων προσθέτουν γενικά έξοδα
Το αποτύπωμα ηλεκτρικής ενέργειας δεν περιορίζεται στο ίδιο το τσιπ ΤΝ. Οι υποστηρικτικοί διακομιστές, η μνήμη, η δικτύωση, η αποθήκευση, η παροχή ενέργειας και τα συστήματα ψύξης καταναλώνουν επίσης ενέργεια. Αυτός είναι ο λόγος για τον οποίο η αποδοτικότητα του κέντρου δεδομένων έχει σημασία κατά την εκτίμηση της ηλεκτρικής ενέργειας που χρησιμοποιείται από τις υπηρεσίες ΤΝ.
Γιατί οι εκτιμήσεις διαφέρουν
Οι διαφορετικές εκτιμήσεις εξαρτώνται από υποθέσεις σχετικά με την αρχιτεκτονική του μοντέλου, τον τύπο υλικού, τη δέσμη, τη διάρκεια απόκρισης, τη χρήση, την αποδοτικότητα του κέντρου δεδομένων και την προμήθεια ηλεκτρικής ενέργειας. Το TheAIMeters παρουσιάζει κατευθυνόμενες εκτιμήσεις και τις συνδέει με μια διαφανή μεθοδολογία αντί να διεκδικεί ακριβείς μετρήσεις σε πραγματικό χρόνο. Δείτε το Μεθοδολογία.