Ce que cet indicateur mesure
Cet indicateur donne une idée du temps de calcul GPU consommé par les charges de travail liées à l'IA.
Méthode de calcul
L'estimation traduit les signaux d'activité de l'IA en heures de GPU équivalentes en utilisant des hypothèses sur le matériel et la charge de travail.
Formule simplifiée
Heures-GPU ≈ volume de travail de l'IA × temps estimé du GPU par unité de travailSources de données
Les sources peuvent inclure des indicateurs publics d'utilisation de l'IA, des hypothèses de référence, des spécifications de GPU, des rapports d’entraînement de modèles et des recherches sur l'infrastructure.
Limites connues
Le temps réel du GPU varie considérablement en fonction de l'architecture du modèle, de la génération du matériel, de la mise en lots, de l'optimisation et du taux d'utilisation.
Rafraîchissement et interpolation
Le compteur est synchronisé périodiquement côté serveur et interpolé en direct entre les mises à jour.