Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη;

Απάντηση: Η Τεχνητή Νοημοσύνη μπορεί να χρησιμοποιήσει πολύ λίγη ενέργεια για μια απλή εργασία κειμένου, αλλά πολύ περισσότερο όταν οι προτροπές είναι μεγάλες, οι έξοδοι είναι πολυτροπικές ή τα συστήματα λειτουργούν σε τεράστια κλίμακα. Η εκπαίδευση είναι συνήθως η κύρια αρχική ενεργειακή δαπάνη, ενώ η καθημερινή εξαγωγή συμπερασμάτων γίνεται σημαντική καθώς τα αιτήματα συσσωρεύονται.

Βασικά συμπεράσματα:

Συμφραζόμενα : Ορίστε την εργασία, το μοντέλο, το υλικό και την κλίμακα πριν από την αναφορά οποιασδήποτε εκτίμησης ενέργειας.

Εκπαίδευση : Αντιμετωπίστε την εκπαίδευση μοντέλων ως το κύριο αρχικό ενεργειακό συμβάν κατά τον σχεδιασμό προϋπολογισμών.

Συμπερασματολογία : Παρακολουθήστε προσεκτικά την επαναλαμβανόμενη συμπερασματολογία, επειδή το μικρό κόστος ανά αίτημα συσσωρεύεται γρήγορα σε κλίμακα.

Υποδομές : Συμπεριλάβετε την ψύξη, την αποθήκευση, τα δίκτυα και την αδρανή χωρητικότητα σε οποιαδήποτε ρεαλιστική εκτίμηση.

Αποδοτικότητα : Χρησιμοποιήστε μικρότερα μοντέλα, μικρότερες προτροπές, προσωρινή αποθήκευση και ομαδοποίηση για να μειώσετε την κατανάλωση ενέργειας.

Άρθρα που ίσως σας ενδιαφέρουν μετά από αυτό:

🔗 Πώς η Τεχνητή Νοημοσύνη επηρεάζει το περιβάλλον
Εξηγεί το αποτύπωμα άνθρακα της Τεχνητής Νοημοσύνης, την κατανάλωση ενέργειας και τους συμβιβασμούς βιωσιμότητας.

🔗 Είναι η Τεχνητή Νοημοσύνη επιβλαβής για το περιβάλλον;
Αποκαλύπτει το κρυφό περιβαλλοντικό κόστος των μοντέλων τεχνητής νοημοσύνης και των κέντρων δεδομένων.

🔗 Είναι η Τεχνητή Νοημοσύνη καλή ή κακή; Πλεονεκτήματα και μειονεκτήματα
Ισορροπημένη ματιά στα οφέλη, τους κινδύνους, την ηθική και τις πραγματικές επιπτώσεις της Τεχνητής Νοημοσύνης.

🔗 Τι είναι η Τεχνητή Νοημοσύνη; Ένας απλός οδηγός
Μάθετε τα βασικά της Τεχνητής Νοημοσύνης, βασικούς όρους και καθημερινά παραδείγματα σε λίγα λεπτά.

Γιατί αυτή η ερώτηση έχει μεγαλύτερη σημασία από όσο νομίζουν οι άνθρωποι 🔍

Η χρήση ενέργειας από την Τεχνητή Νοημοσύνη δεν είναι απλώς ένα περιβαλλοντικό θέμα συζήτησης. Θίγει μερικά πολύ ουσιαστικά ζητήματα:

• Κόστος ηλεκτρικής ενέργειας - ειδικά για επιχειρήσεις που εκτελούν πολλά αιτήματα τεχνητής νοημοσύνης

• Επιπτώσεις άνθρακα - ανάλογα με την πηγή ενέργειας πίσω από τους διακομιστές

• Καταπόνηση υλικού - τα ισχυρά τσιπ τραβούν σοβαρή ισχύ

• Κλιμάκωση αποφάσεων - μια φθηνή προτροπή μπορεί να μετατραπεί σε εκατομμύρια ακριβές

• Σχεδιασμός προϊόντων - η αποδοτικότητα είναι συχνά ένα καλύτερο χαρακτηριστικό από ό,τι αντιλαμβάνονται οι άνθρωποι ( Google Cloud , Green AI )

Πολλοί άνθρωποι ρωτούν «Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη;» επειδή θέλουν έναν εντυπωσιακό αριθμό. Κάτι τεράστιο. Κάτι φιλικό προς τους τίτλους. Αλλά η καλύτερη ερώτηση είναι η εξής: Για τι είδους χρήση της Τεχνητής Νοημοσύνης μιλάμε; Επειδή αυτό αλλάζει τα πάντα. ( IEA )

Μια μεμονωμένη πρόταση αυτόματης συμπλήρωσης; Αρκετά μικρή.
Εκπαίδευση ενός μοντέλου αιχμής σε τεράστια clusters; Πολύ, πολύ μεγαλύτερη.
Μια ροή εργασίας τεχνητής νοημοσύνης σε μια επιχείρηση που λειτουργεί συνεχώς και αγγίζει εκατομμύρια χρήστες; Ναι, αυτό αθροίζεται γρήγορα... σαν να μετατρέπονται τα χρήματα σε πληρωμή ενοικίου. ( DOE , Google Cloud )

Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη; Η σύντομη απάντηση ⚡

Ορίστε η πρακτική εκδοχή.

Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιήσει οπουδήποτε, από ένα μικροσκοπικό κλάσμα μιας βατώρας για μια ελαφριά εργασία έως τεράστιες ποσότητες ηλεκτρικής ενέργειας για εκπαίδευση και ανάπτυξη μεγάλης κλίμακας. Αυτό το εύρος ακούγεται κωμικά μεγάλο επειδή είναι ευρύ. ( Google Cloud , Strubell et al. )

Με απλά λόγια:

• Απλές εργασίες συμπερασμάτων - συχνά σχετικά μέτριες ανά χρήση

• Μεγάλες συνομιλίες, μεγάλες εξόδους, δημιουργία εικόνας, δημιουργία βίντεο - αισθητά πιο ενεργοβόρα

• Εκπαίδευση μεγάλων μοντέλων - ο πρωταθλητής βαρέων βαρών στην κατανάλωση ενέργειας

• Λειτουργία Τεχνητής Νοημοσύνης σε μεγάλη κλίμακα όλη την ημέρα - όπου το «μικρό ανά αίτημα» γίνεται «μεγάλος συνολικός λογαριασμός» ( Google Cloud , DOE )

Ένας καλός εμπειρικός κανόνας είναι ο εξής:

• Η εκπαίδευση είναι το γιγαντιαίο ενεργειακό γεγονός που προκύπτει από την έναρξη της ζωής 🏭

• Συμπέρασμα είναι ο τρέχων λογαριασμός κοινής ωφέλειας 💡 ( Strubell et al. , Google Research )

Έτσι, όταν κάποιος ρωτάει, Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη;, η άμεση απάντηση είναι, «Όχι μία ποσότητα - αλλά αρκετή ώστε η αποτελεσματικότητα να έχει σημασία, και αρκετή ώστε η κλίμακα να αλλάξει ολόκληρη την ιστορία». ( IEA , Πράσινη Τεχνητή Νοημοσύνη )

Αυτό δεν είναι τόσο πιασάρικο όσο θέλει ο κόσμος, το ξέρω. Αλλά είναι αλήθεια.

Τι κάνει μια εκτίμηση ενέργειας με τεχνητή νοημοσύνη καλή; 🧠

Μια καλή εκτίμηση δεν είναι απλώς ένας εντυπωσιακός αριθμός που αναγράφεται σε ένα γράφημα. Μια πρακτική εκτίμηση περιλαμβάνει και το πλαίσιο. Διαφορετικά, είναι σαν να ζυγίζεις ομίχλη με ζυγαριά μπάνιου. Αρκετά κοντά για να ακούγεται εντυπωσιακό, όχι αρκετά κοντά για να το εμπιστευτείς. ( IEA , Google Cloud )

Μια αξιοπρεπής εκτίμηση ενέργειας από την Τεχνητή Νοημοσύνη θα πρέπει να περιλαμβάνει:

• Ο τύπος εργασίας - κείμενο, εικόνα, ήχος, βίντεο, εκπαίδευση, βελτιστοποίηση

• Το μέγεθος του μοντέλου - τα μεγαλύτερα μοντέλα συνήθως χρειάζονται περισσότερη υπολογιστική ισχύ

• Το υλικό που χρησιμοποιείται - δεν είναι όλα τα τσιπ εξίσου αποτελεσματικά

• Διάρκεια συνεδρίας - οι σύντομες προτροπές και οι μεγάλες ροές εργασίας πολλαπλών βημάτων είναι πολύ διαφορετικές

• Αξιοποίηση - τα συστήματα σε αδράνεια εξακολουθούν να καταναλώνουν ενέργεια

• Ψύξη και υποδομή - ο διακομιστής δεν είναι όλος ο λογαριασμός

• Τοποθεσία και ενεργειακό μείγμα - η ηλεκτρική ενέργεια δεν είναι εξίσου καθαρή παντού ( Google Cloud , IEA )

Αυτός είναι ο λόγος για τον οποίο δύο άτομα μπορούν να διαφωνούν για τη χρήση ηλεκτρικής ενέργειας από την Τεχνητή Νοημοσύνη και οι δύο να ακούγονται σίγουροι ενώ μιλάνε για εντελώς διαφορετικά πράγματα. Το ένα άτομο εννοεί μια απάντηση από ένα μόνο chatbot. Το άλλο εννοεί μια τεράστια προπόνηση. Και οι δύο λένε «Τεχνητή Νοημοσύνη» και ξαφνικά η συζήτηση ξεφεύγει από τον έλεγχο 😅

Συγκριτικός Πίνακας - οι καλύτεροι τρόποι για την εκτίμηση της χρήσης ενέργειας από την Τεχνητή Νοημοσύνη 📊

Ορίστε ένας πρακτικός πίνακας για όποιον προσπαθεί να απαντήσει στην ερώτηση χωρίς να την μετατρέψει σε performance art.

Εργαλείο ή μέθοδος	Καλύτερο κοινό	Τιμή	Γιατί λειτουργεί
Απλή εκτίμηση με βάση τον εμπειρικό κανόνα	Περίεργοι αναγνώστες, μαθητές	Δωρεάν	Γρήγορο, εύκολο, λίγο ασαφές - αλλά αρκετά καλό για πρόχειρες συγκρίσεις
Μετρητής βατ στην πλευρά της συσκευής	Μοναχικοί κατασκευαστές, χομπίστες	Χαμηλός	Μετράει την πραγματική έλξη του μηχανήματος, η οποία είναι αναζωογονητικά σκυρόδεμα
Πίνακας ελέγχου τηλεμετρίας GPU	Μηχανικοί, ομάδες μηχανικής μάθησης	Μέσον	Καλύτερη λεπτομέρεια σε εργασίες που απαιτούν μεγάλη υπολογιστική ισχύ, αν και μπορεί να μην καλύπτει το μεγαλύτερο φόρτο εργασίας της εγκατάστασης
Χρέωση στο cloud + αρχεία καταγραφής χρήσης	Νεοσύστατες επιχειρήσεις, ομάδες επιχειρήσεων	Μέτριο έως υψηλό	Συνδέει τη χρήση της Τεχνητής Νοημοσύνης με τις πραγματικές δαπάνες - δεν είναι τέλεια, αλλά εξακολουθεί να είναι αρκετά πολύτιμη
Αναφορά ενέργειας κέντρου δεδομένων	Επιχειρηματικές ομάδες	Ψηλά	Παρέχει ευρύτερη λειτουργική ορατότητα, η ψύξη και οι υποδομές αρχίζουν να εμφανίζονται εδώ
Πλήρης αξιολόγηση κύκλου ζωής	Ομάδες βιωσιμότητας, μεγάλοι οργανισμοί	Φοβερή, μερικές φορές επώδυνη	Ιδανικό για σοβαρή ανάλυση επειδή ξεπερνά το ίδιο το τσιπ... αλλά είναι αργό και κάπως θηρίο

Δεν υπάρχει τέλεια μέθοδος. Αυτό είναι το ελαφρώς απογοητευτικό κομμάτι. Υπάρχουν όμως επίπεδα αξίας. Και συνήθως, κάτι που μπορεί να λειτουργήσει είναι καλύτερο από το τέλειο. ( Google Cloud )

Ο μεγαλύτερος παράγοντας δεν είναι η μαγεία - είναι οι υπολογιστές και το υλικό 🖥️🔥

Όταν οι άνθρωποι φαντάζονται την κατανάλωση ενέργειας μέσω της Τεχνητής Νοημοσύνης, συχνά φαντάζονται το ίδιο το μοντέλο ως το πράγμα που καταναλώνει ενέργεια. Αλλά το μοντέλο είναι λογική λογισμικού που εκτελείται σε υλικό. Το υλικό είναι το σημείο όπου εμφανίζεται ο λογαριασμός ηλεκτρικού ρεύματος. ( Strubell et al. , Google Cloud )

Οι μεγαλύτερες μεταβλητές συνήθως περιλαμβάνουν:

• Τύπος GPU ή επιταχυντή

• Πόσα τσιπ χρησιμοποιούνται

• Για πόσο καιρό παραμένουν ενεργοί

• Φόρτωση μνήμης

• Μέγεθος παρτίδας και απόδοση

• Είτε το σύστημα είναι καλά βελτιστοποιημένο είτε απλώς επιβάλλει τα πάντα ( Google Cloud , Κβαντοποίηση, Παρτίδα και Στρατηγικές Σέρβις στη Χρήση Ενέργειας LLM )

Ένα εξαιρετικά βελτιστοποιημένο σύστημα μπορεί να κάνει περισσότερη δουλειά με λιγότερη ενέργεια. Ένα πρόχειρο σύστημα μπορεί να σπαταλά ηλεκτρική ενέργεια με εκπληκτική αυτοπεποίθηση. Ξέρετε πώς είναι - μερικές ρυθμίσεις είναι αγωνιστικά αυτοκίνητα, μερικές είναι καρότσια αγορών με πυραύλους κολλημένους με ταινία 🚀🛒

Και ναι, το μέγεθος του μοντέλου έχει σημασία. Τα μεγαλύτερα μοντέλα τείνουν να απαιτούν περισσότερη μνήμη και περισσότερους υπολογισμούς, ειδικά όταν δημιουργούνται μεγάλα αποτελέσματα ή χειρίζονται πολύπλοκους συλλογισμούς. Αλλά τα κόλπα αποδοτικότητας μπορούν να αλλάξουν την εικόνα: ( Πράσινη Τεχνητή Νοημοσύνη , Κβαντοποίηση, Παρτίδα και Στρατηγικές Σερβιρίσματος στη Χρήση Ενέργειας LLM )

• κβαντισμός

• καλύτερη δρομολόγηση

• μικρότερα εξειδικευμένα μοντέλα

• προσωρινή αποθήκευση

• δοσομέτρηση

• εξυπνότερος προγραμματισμός υλικού ( Στρατηγικές κβαντοποίησης, ομαδοποίησης και εξυπηρέτησης στη χρήση ενέργειας LLM )

Επομένως, το ερώτημα δεν είναι μόνο «Πόσο μεγάλο είναι το μοντέλο;» Είναι επίσης «Πόσο έξυπνα λειτουργεί;»

Εκπαίδευση vs συμπερασμός - αυτά είναι διαφορετικά ζώα 🐘🐇

Αυτή είναι η διχογνωμία που μπερδεύει σχεδόν τους πάντες.

Εκπαίδευση

Η εκπαίδευση είναι όταν ένα μοντέλο μαθαίνει μοτίβα από τεράστια σύνολα δεδομένων. Μπορεί να περιλαμβάνει πολλά τσιπ που λειτουργούν για μεγάλα χρονικά διαστήματα, επεξεργαζόμενα γιγάντιους όγκους δεδομένων. Αυτό το στάδιο απαιτεί ενέργεια. Μερικές φορές είναι εξαιρετικά απαιτητικό. ( Strubell et al. )

Η ενέργεια της προπόνησης εξαρτάται από:

• μέγεθος μοντέλου

• μέγεθος συνόλου δεδομένων

• αριθμός προπονήσεων

• αποτυχημένα πειράματα

• τελειοποίηση πάσες

• αποδοτικότητα υλικού

• ψύξη άνω μέρους ( Strubell et al. , Google Research )

Και να το σημείο που συχνά παραβλέπεται από τους ανθρώπους - το κοινό συχνά φαντάζεται μια μεγάλη προπόνηση, που γίνεται μία φορά, τέλος της ιστορίας. Στην πράξη, η ανάπτυξη μπορεί να περιλαμβάνει επαναλαμβανόμενες δοκιμές, συντονισμό, επανεκπαίδευση, αξιολόγηση και όλες τις πεζές αλλά δαπανηρές επαναλήψεις γύρω από το κύριο γεγονός. ( Strubell et al. , Green AI )

Συμπέρασμα

Η συμπερασματολογία είναι το μοντέλο που απαντά σε πραγματικά αιτήματα χρηστών. Ένα αίτημα μπορεί να μην μοιάζει πολύ. Αλλά η συμπερασματολογία συμβαίνει ξανά και ξανά. Εκατομμύρια φορές. Μερικές φορές δισεκατομμύρια. ( Google Research , DOE )

Η ενέργεια συμπερασμού αυξάνεται με:

• μήκος προτροπής

• μήκος εξόδου

• αριθμός χρηστών

• απαιτήσεις καθυστέρησης

• πολυτροπικά χαρακτηριστικά

• προσδοκίες για χρόνο λειτουργίας

• βήματα ασφάλειας και μετεπεξεργασίας ( Google Cloud , Κβαντοποίηση, Παρτίδα και Στρατηγικές Σέρβις στη Χρήση Ενέργειας LLM )

Έτσι, η εκπαίδευση είναι ο σεισμός. Η συμπερασματολογία είναι η παλίρροια. Η μία είναι δραματική, η άλλη είναι επίμονη, και οι δύο μπορούν να αναδιαμορφώσουν λίγο την ακτή. Είναι ίσως μια ασυνήθιστη μεταφορά, αλλά αντέχει... λίγο πολύ.

Το κρυφό κόστος ενέργειας που ξεχνούν οι άνθρωποι 😬

Όταν κάποιος εκτιμά την κατανάλωση ενέργειας από την Τεχνητή Νοημοσύνη κοιτάζοντας μόνο το τσιπ, συνήθως υποεκτιμά την κατανάλωση. Όχι πάντα καταστροφικά, αλλά αρκετά ώστε να έχει σημασία. ( Google Cloud , IEA )

Εδώ είναι τα κρυμμένα κομμάτια:

Ψύξη ❄️

Οι διακομιστές παράγουν θερμότητα. Το ισχυρό υλικό τεχνητής νοημοσύνης παράγει μεγάλη ποσότητα θερμότητας. Η ψύξη δεν είναι προαιρετική. Κάθε watt που καταναλώνεται από τους υπολογισμούς τείνει να προκαλεί περισσότερη χρήση ενέργειας μόνο και μόνο για να διατηρούνται οι θερμοκρασίες λογικές. ( IEA , Google Cloud )

Μετακίνηση δεδομένων 🌐

Η μετακίνηση δεδομένων μέσω αποθηκευτικού χώρου, μνήμης και δικτύων απαιτεί επίσης ενέργεια. Η Τεχνητή Νοημοσύνη δεν είναι απλώς «σκέψη». Ανακατεύει επίσης συνεχώς πληροφορίες. ( IEA )

Χωρητικότητα αδράνειας 💤

Τα συστήματα που έχουν κατασκευαστεί για αιχμή ζήτησης δεν λειτουργούν πάντα σε αιχμή ζήτησης. Οι ανενεργές ή υποχρησιμοποιούμενες υποδομές εξακολουθούν να καταναλώνουν ηλεκτρική ενέργεια. ( Google Cloud )

Πλεονασμός και αξιοπιστία 🧱

Αντίγραφα ασφαλείας, συστήματα failover, διπλότυπες περιοχές, επίπεδα ασφαλείας - όλα πολύτιμα, όλα μέρος της ευρύτερης ενεργειακής εικόνας. ( IEA )

Αποθήκευση 📦

Δεδομένα εκπαίδευσης, ενσωματώσεις, αρχεία καταγραφής, σημεία ελέγχου, παραγόμενα αποτελέσματα - όλα αυτά βρίσκονται κάπου. Η αποθήκευση είναι φθηνότερη από την υπολογιστική, σίγουρα, αλλά όχι δωρεάν από ενεργειακής άποψης. ( IEA )

Αυτός είναι ο λόγος για τον οποίο το ερώτημα " Πόση ενέργεια χρησιμοποιεί η τεχνητή νοημοσύνη;" δεν μπορεί να απαντηθεί σωστά κοιτάζοντας ένα μόνο γράφημα αναφοράς. Η πλήρης στοίβα μετράει. ( Google Cloud , IEA )

Γιατί μια προτροπή τεχνητής νοημοσύνης μπορεί να είναι μικροσκοπική - και η επόμενη μπορεί να είναι ένα τέρας 📝➡️🎬

Δεν είναι όλες οι προτροπές ίδιες. Ένα σύντομο αίτημα για επανεγγραφή πρότασης δεν είναι συγκρίσιμο με το αίτημα για μια μακρά ανάλυση, μια συνεδρία κωδικοποίησης πολλαπλών βημάτων ή τη δημιουργία εικόνας υψηλής ανάλυσης. ( Google Cloud )

Πράγματα που τείνουν να αυξάνουν την κατανάλωση ενέργειας ανά αλληλεπίδραση:

• Μεγαλύτερα παράθυρα περιβάλλοντος

• Μεγαλύτερες απαντήσεις

• Βήματα χρήσης και ανάκτησης εργαλείων

• Πολλαπλά περάσματα για συλλογισμό ή επικύρωση

• Δημιουργία εικόνας, ήχου ή βίντεο

• Υψηλότερη ταυτόχρονη χρήση

• Στόχοι χαμηλότερης καθυστέρησης ( Google Cloud , Κβαντοποίηση, Παρτίδα και Στρατηγικές Εξυπηρέτησης στη Χρήση Ενέργειας LLM )

Μια απλή απάντηση μέσω κειμένου μπορεί να είναι σχετικά φθηνή. Μια γιγαντιαία πολυτροπική ροή εργασίας μπορεί, λοιπόν, να μην είναι φθηνή. Είναι λίγο σαν την παραγγελία καφέ έναντι της τροφοδοσίας ενός γάμου. Και τα δύο θεωρούνται «υπηρεσία εστίασης», τεχνικά. Το ένα δεν είναι σαν το άλλο ☕🎉

Αυτό έχει ιδιαίτερη σημασία για τις ομάδες προϊόντων. Μια λειτουργία που φαίνεται ακίνδυνη με χαμηλή χρήση μπορεί να γίνει ακριβή σε μεγάλη κλίμακα εάν κάθε συνεδρία χρήστη γίνει μεγαλύτερη, πιο πλούσια και απαιτητική σε υπολογιστικές απαιτήσεις. ( DOE , Google Cloud )

Η Τεχνητή Νοημοσύνη Καταναλωτών και η Τεχνητή Νοημοσύνη Επιχειρήσεων δεν είναι το ίδιο πράγμα 🏢📱

Ο μέσος άνθρωπος που χρησιμοποιεί την Τεχνητή Νοημοσύνη περιστασιακά μπορεί να υποθέσει ότι οι περιστασιακές του προτροπές είναι το μεγάλο πρόβλημα. Συνήθως, δεν είναι εκεί που βρίσκεται η κύρια ενεργειακή ιστορία. ( Google Cloud )

Η χρήση σε επιχειρήσεις αλλάζει τα μαθηματικά:

• χιλιάδες εργαζόμενοι

• πάντα σε λειτουργία συγκυβερνήτες

• αυτοματοποιημένη επεξεργασία εγγράφων

• σύνοψη κλήσεων

• ανάλυση εικόνας

• εργαλεία αναθεώρησης κώδικα

• πράκτορες υποβάθρου που λειτουργούν συνεχώς

Εκεί αρχίζει να έχει μεγάλη σημασία η συνολική χρήση ενέργειας. Όχι επειδή κάθε ενέργεια είναι αποκαλυπτική, αλλά επειδή η επανάληψη είναι πολλαπλασιαστής. ( DOE , IEA )

Στις δικές μου δοκιμές και αξιολογήσεις ροής εργασίας, εδώ είναι που οι άνθρωποι εκπλήσσονται. Εστιάζουν στο όνομα του μοντέλου ή στην εντυπωσιακή επίδειξη και αγνοούν την ένταση του ήχου. Η ένταση του ήχου είναι συχνά ο πραγματικός παράγοντας - ή η σωτηρία, ανάλογα με το αν χρεώνετε τους πελάτες ή πληρώνετε τον λογαριασμό κοινής ωφέλειας 😅

Για τους καταναλωτές, ο αντίκτυπος μπορεί να φαίνεται αφηρημένος. Για τις επιχειρήσεις, γίνεται συγκεκριμένος πολύ γρήγορα:

• μεγαλύτεροι λογαριασμοί υποδομών

• μεγαλύτερη πίεση για βελτιστοποίηση

• μεγαλύτερη ανάγκη για μικρότερα μοντέλα όπου είναι δυνατόν

• εσωτερική αναφορά βιωσιμότητας

• περισσότερη προσοχή στην προσωρινή αποθήκευση και τη δρομολόγηση ( Google Cloud , Green AI )

Πώς να μειώσετε την κατανάλωση ενέργειας από την Τεχνητή Νοημοσύνη χωρίς να εγκαταλείψετε την Τεχνητή Νοημοσύνη 🌱

Αυτό το μέρος έχει σημασία επειδή ο στόχος δεν είναι «να σταματήσουμε να χρησιμοποιούμε την Τεχνητή Νοημοσύνη». Συνήθως αυτό δεν είναι ρεαλιστικό, ούτε καν απαραίτητο. Η καλύτερη χρήση είναι η πιο έξυπνη οδός.

Εδώ είναι οι μεγαλύτεροι μοχλοί:

1. Χρησιμοποιήστε το μικρότερο μοντέλο που κάνει τη δουλειά

Δεν χρειάζονται όλες οι εργασίες την επιλογή "βαριάς ποιότητας". Ένα ελαφρύτερο μοντέλο για ταξινόμηση ή σύνοψη μπορεί να μειώσει γρήγορα την σπατάλη. ( Πράσινη Τεχνητή Νοημοσύνη , Google Cloud )

2. Συντομεύστε τις προτροπές και τις εξόδους

Λεπτομερής εισαγωγή, λεπτομερής εξαγωγή. Επιπλέον διακριτικά σημαίνουν επιπλέον υπολογισμό. Μερικές φορές η περικοπή της προτροπής είναι η ευκολότερη νίκη. ( Στρατηγικές κβαντοποίησης, δέσμης και εξυπηρέτησης στη χρήση ενέργειας LLM , Google Cloud )

3. Αποθήκευση επαναλαμβανόμενων αποτελεσμάτων στην προσωρινή μνήμη

Εάν το ίδιο ερώτημα εμφανίζεται συνεχώς, μην το αναδημιουργείτε κάθε φορά. Αυτό είναι σχεδόν προφανές, ωστόσο παραβλέπεται. ( Google Cloud )

4. Μαζικές εργασίες όταν είναι δυνατόν

Η εκτέλεση εργασιών σε παρτίδες μπορεί να βελτιώσει την αξιοποίηση και να μειώσει τα απόβλητα. ( Στρατηγικές κβαντοποίησης, παρτίδας και σερβιρίσματος στη χρήση ενέργειας LLM )

5. Δρομολογήστε εργασίες έξυπνα

Χρησιμοποιήστε μεγάλα μοντέλα μόνο όταν μειώνεται η εμπιστοσύνη ή αυξάνεται η πολυπλοκότητα της εργασίας. ( Πράσινη Τεχνητή Νοημοσύνη , Google Cloud )

6. Βελτιστοποίηση υποδομών

Καλύτερος προγραμματισμός, καλύτερο υλικό, καλύτερη στρατηγική ψύξης - απλά πράγματα, τεράστια απόδοση. ( Google Cloud , DOE )

7. Μετρήστε πριν υποθέσετε

Πολλές ομάδες νομίζουν ότι ξέρουν πού πηγαίνει η ενέργεια. Μετά κάνουν μετρήσεις και να που το ακριβό κομμάτι βρίσκεται κάπου αλλού. ( Google Cloud )

Η εργασία που βασίζεται στην αποδοτικότητα δεν είναι λαμπερή. Σπάνια επαινείται. Αλλά είναι ένας από τους καλύτερους τρόπους για να γίνει η Τεχνητή Νοημοσύνη πιο προσιτή και πιο εύχρηστη σε μεγάλη κλίμακα 👍

Κοινοί μύθοι σχετικά με τη χρήση ηλεκτρικής ενέργειας από τεχνητή νοημοσύνη 🚫

Ας ξεκαθαρίσουμε μερικούς μύθους, γιατί αυτό το θέμα μπερδεύεται γρήγορα.

Μύθος 1 - Κάθε ερώτημα τεχνητής νοημοσύνης είναι εξαιρετικά σπάταλο

Όχι απαραίτητα. Μερικά είναι μέτρια. Η κλίμακα και ο τύπος της εργασίας έχουν μεγάλη σημασία. ( Google Cloud )

Μύθος 2 - Η εκπαίδευση είναι το μόνο πράγμα που έχει σημασία

Όχι. Η συμπερασματική ανάλυση μπορεί να κυριαρχήσει με την πάροδο του χρόνου όταν η χρήση είναι τεράστια. ( Google Research , DOE )

Μύθος 3 - Μεγαλύτερο μοντέλο σημαίνει πάντα καλύτερο αποτέλεσμα

Μερικές φορές ναι, μερικές φορές όχι. Πολλές εργασίες λειτουργούν καλά με μικρότερα συστήματα. ( Πράσινη Τεχνητή Νοημοσύνη )

Μύθος 4 - Η χρήση ενέργειας ισοδυναμεί αυτόματα με τις επιπτώσεις του άνθρακα

Όχι ακριβώς. Ο άνθρακας εξαρτάται και από την πηγή ενέργειας. ( IEA , Strubell et al. )

Μύθος 5 - Μπορείτε να βρείτε έναν καθολικό αριθμό για τη χρήση ενέργειας από την Τεχνητή Νοημοσύνη

Δεν μπορείτε, τουλάχιστον όχι με μια μορφή που να παραμένει ουσιαστική. Ή μπορείτε, αλλά θα υπολογιστεί με τέτοιο τρόπο που θα πάψει να έχει αξία. ( IEA )

Γι' αυτό το λόγο, η ερώτηση " Πόση ενέργεια χρησιμοποιεί η τεχνητή νοημοσύνη;" είναι έξυπνη - αλλά μόνο αν είστε έτοιμοι για μια πολυεπίπεδη απάντηση αντί για ένα σλόγκαν.

Λοιπόν... πόση ενέργεια χρησιμοποιεί πραγματικά η Τεχνητή Νοημοσύνη; 🤔

Ιδού το τεκμηριωμένο συμπέρασμα.

Η Τεχνητή Νοημοσύνη χρησιμοποιεί:

• λίγο , για μερικές απλές εργασίες

• πολύ περισσότερα , για βαριά πολυτροπική παραγωγή

• ένα πολύ μεγάλο ποσό , για εκπαίδευση μοντέλων μεγάλης κλίμακας

• ένα τεράστιο ποσό συνολικά , όταν εκατομμύρια αιτήματα συσσωρεύονται με την πάροδο του χρόνου ( Google Cloud , DOE )

Αυτό είναι το σχήμα του.

Το κλειδί δεν είναι να ισοπεδώσουμε ολόκληρο το ζήτημα σε έναν τρομακτικό αριθμό ή σε ένα αδιάφορο αδιάφορο αδιάφορο αδιάφορο αδιέξοδο. Η χρήση ενέργειας από την Τεχνητή Νοημοσύνη είναι πραγματική. Έχει σημασία. Μπορεί να βελτιωθεί. Και ο καλύτερος τρόπος να μιλήσουμε γι' αυτό είναι με βάση τα συμφραζόμενα, όχι με θεατρικά γραφικά. ( IEA , Πράσινη Τεχνητή Νοημοσύνη )

Πολλές από τις δημόσιες συζητήσεις κυμαίνονται μεταξύ άκρων - από τη μία πλευρά, «η τεχνητή νοημοσύνη είναι ουσιαστικά δωρεάν» και από την άλλη, «η τεχνητή νοημοσύνη είναι μια ηλεκτρική αποκάλυψη». Η πραγματικότητα είναι πιο συνηθισμένη, γεγονός που την καθιστά πιο κατατοπιστική. Είναι ένα πρόβλημα συστημάτων. Υλικό, λογισμικό, χρήση, κλίμακα, ψύξη, επιλογές σχεδιασμού. Πεζοδρομημένο; Λίγο. Σημαντικό; Πολύ. ( IEA , Google Cloud )

Βασικά σημεία για να τα πάρετε μαζί σας ⚡🧾

Αν ήρθατε εδώ ρωτώντας, Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη;, ιδού το συμπέρασμα:

• Δεν υπάρχει ένας ενιαίος αριθμός που να ταιριάζει σε όλους

• Η προπόνηση συνήθως καταναλώνει την περισσότερη ενέργεια εκ των προτέρων

• Η συμπερασματολογία γίνεται ένας σημαντικός παράγοντας σε κλίμακα

• Το μέγεθος του μοντέλου, το υλικό, ο φόρτος εργασίας και η ψύξη έχουν όλα σημασία

• Οι μικρές βελτιστοποιήσεις μπορούν να κάνουν μια εκπληκτικά μεγάλη διαφορά

• Η πιο έξυπνη ερώτηση δεν είναι μόνο «πόσο», αλλά και «για ποια εργασία, σε ποιο σύστημα, σε ποια κλίμακα;» ( IEA , Google Cloud )

Ναι, λοιπόν, η Τεχνητή Νοημοσύνη χρησιμοποιεί πραγματική ενέργεια. Αρκετή για να αξίζει την προσοχή. Αρκετή για να δικαιολογήσει καλύτερη μηχανική. Αλλά όχι με έναν καρτουνίστικο, μονοσήμαντο τρόπο.

Συχνές ερωτήσεις

Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη για μία μόνο προτροπή;

Δεν υπάρχει καθολικός αριθμός για μία μόνο προτροπή, επειδή η κατανάλωση ενέργειας εξαρτάται από το μοντέλο, το υλικό, το μήκος της προτροπής, το μήκος της εξόδου και οποιαδήποτε επιπλέον χρήση εργαλείου που εμπλέκεται. Μια σύντομη απάντηση κειμένου μπορεί να είναι σχετικά μέτρια, ενώ μια μεγάλη πολυτροπική εργασία μπορεί να καταναλώσει αισθητά περισσότερο. Η πιο ουσιαστική απάντηση δεν είναι ένας μόνο αριθμός τίτλου, αλλά το πλαίσιο που περιβάλλει την εργασία.

Γιατί οι εκτιμήσεις για τη χρήση ισχύος της τεχνητής νοημοσύνης ποικίλλουν τόσο πολύ;

Οι εκτιμήσεις ποικίλλουν επειδή οι άνθρωποι συχνά συγκρίνουν πολύ διαφορετικά πράγματα με την ενιαία ετικέτα της Τεχνητής Νοημοσύνης. Μια εκτίμηση μπορεί να περιγράφει μια ελαφριά απάντηση chatbot, ενώ μια άλλη μπορεί να καλύπτει τη δημιουργία εικόνων, το βίντεο ή την εκπαίδευση μοντέλων μεγάλης κλίμακας. Για να έχει νόημα μια εκτίμηση, χρειάζεται ένα πλαίσιο όπως ο τύπος εργασίας, το μέγεθος του μοντέλου, το υλικό, η αξιοποίηση, η ψύξη και η τοποθεσία.

Είναι η εκπαίδευση της Τεχνητής Νοημοσύνης ή η καθημερινή λειτουργία της Τεχνητής Νοημοσύνης το μεγαλύτερο ενεργειακό κόστος;

Η εκπαίδευση είναι συνήθως το μεγάλο αρχικό ενεργειακό συμβάν, επειδή μπορεί να περιλαμβάνει πολλά τσιπ που λειτουργούν για μεγάλα χρονικά διαστήματα σε τεράστια σύνολα δεδομένων. Η συμπερασματολογία είναι το συνεχές κόστος που εμφανίζεται κάθε φορά που οι χρήστες στέλνουν αιτήματα και, σε κλίμακα, μπορεί επίσης να γίνει πολύ μεγάλο. Στην πράξη, και τα δύο έχουν σημασία, αν και έχουν σημασία με διαφορετικούς τρόπους.

Τι κάνει ένα αίτημα τεχνητής νοημοσύνης πολύ πιο ενεργοβόρο από ένα άλλο;

Μεγαλύτερα παράθυρα περιβάλλοντος, μεγαλύτερες εξόδους, επαναλαμβανόμενες συλλογιστικές διαδικασίες, κλήσεις εργαλείων, βήματα ανάκτησης και πολυτροπική παραγωγή τείνουν να αυξάνουν την κατανάλωση ενέργειας ανά αλληλεπίδραση. Οι στόχοι καθυστέρησης έχουν επίσης σημασία, επειδή οι απαιτήσεις ταχύτερης απόκρισης μπορούν να μειώσουν την αποδοτικότητα. Ένα μικρό αίτημα επανεγγραφής και μια μεγάλη ροή εργασίας κωδικοποίησης ή εικόνας απλά δεν είναι συγκρίσιμα.

Ποιο κρυφό ενεργειακό κόστος παραβλέπεται από τους ανθρώπους όταν ρωτούν πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη;

Πολλοί άνθρωποι επικεντρώνονται μόνο στο τσιπ, αλλά αυτό παραβλέπει την ψύξη, την κίνηση δεδομένων, την αποθήκευση, την αδρανή χωρητικότητα και τα συστήματα αξιοπιστίας, όπως τα αντίγραφα ασφαλείας ή τις περιοχές ανακατεύθυνσης. Αυτά τα υποστηρικτικά επίπεδα μπορούν να αλλάξουν ουσιαστικά το συνολικό αποτύπωμα. Αυτός είναι ο λόγος για τον οποίο ένα benchmark από μόνο του σπάνια αποτυπώνει την πλήρη ενεργειακή εικόνα.

Ένα μεγαλύτερο μοντέλο τεχνητής νοημοσύνης καταναλώνει πάντα περισσότερη ενέργεια;

Τα μεγαλύτερα μοντέλα συνήθως απαιτούν περισσότερη υπολογιστική ισχύ και μνήμη, ειδικά για μεγάλες ή σύνθετες εξόδους, επομένως συχνά καταναλώνουν περισσότερη ενέργεια. Αλλά το μεγαλύτερο δεν σημαίνει αυτόματα και καλύτερο για κάθε εργασία, και η βελτιστοποίηση μπορεί να αλλάξει σημαντικά την εικόνα. Τα μικρότερα εξειδικευμένα μοντέλα, η κβαντοποίηση, η ομαδοποίηση, η προσωρινή αποθήκευση και η πιο έξυπνη δρομολόγηση μπορούν να βελτιώσουν την αποδοτικότητα.

Είναι η τεχνητή νοημοσύνη (ΤΝ) των καταναλωτών το κύριο ενεργειακό πρόβλημα ή μήπως η τεχνητή νοημοσύνη των επιχειρήσεων το μεγαλύτερο πρόβλημα;

Η περιστασιακή χρήση από τους καταναλωτές μπορεί να συσσωρευτεί, αλλά η ευρύτερη ιστορία της ενέργειας εμφανίζεται συχνά σε εταιρικές αναπτύξεις. Οι συνεχώς ενεργοί συνοδηγοί, η επεξεργασία εγγράφων, η σύνοψη κλήσεων, η αναθεώρηση κώδικα και οι πράκτορες υποβάθρου δημιουργούν επαναλαμβανόμενη ζήτηση σε μεγάλες βάσεις χρηστών. Το ζήτημα συνήθως αφορά λιγότερο μια δραματική ενέργεια και περισσότερο τον διατηρήσιμο όγκο με την πάροδο του χρόνου.

Πόση ενέργεια χρησιμοποιεί η Τεχνητή Νοημοσύνη όταν συμπεριλαμβάνονται κέντρα δεδομένων και ψύξη;

Μόλις συμπεριληφθεί το ευρύτερο σύστημα, η απάντηση γίνεται πιο ρεαλιστική και συνήθως είναι μεγαλύτερη από ό,τι υποδηλώνουν οι εκτιμήσεις που βασίζονται μόνο σε τσιπ. Τα κέντρα δεδομένων χρειάζονται ενέργεια όχι μόνο για υπολογισμούς, αλλά και για ψύξη, δικτύωση, αποθήκευση και διατήρηση εφεδρικής χωρητικότητας. Αυτός είναι ο λόγος για τον οποίο ο σχεδιασμός υποδομών και η αποδοτικότητα των εγκαταστάσεων έχουν σχεδόν την ίδια σημασία με τον σχεδιασμό του μοντέλου.

Ποιος είναι ο πιο πρακτικός τρόπος μέτρησης της κατανάλωσης ενέργειας από την Τεχνητή Νοημοσύνη σε μια πραγματική ροή εργασίας;

Η καλύτερη μέθοδος εξαρτάται από το ποιος κάνει τις μετρήσεις και για ποιο σκοπό. Ένας γενικός κανόνας μπορεί να βοηθήσει με γρήγορες συγκρίσεις, ενώ τα βατόμετρα, η τηλεμετρία GPU, τα αρχεία καταγραφής χρέωσης cloud και η αναφορά κέντρων δεδομένων παρέχουν προοδευτικά ισχυρότερη λειτουργική εικόνα. Για σοβαρές εργασίες βιωσιμότητας, μια πληρέστερη εικόνα του κύκλου ζωής είναι ακόμη ισχυρότερη, αν και είναι πιο αργή και πιο απαιτητική.

Πώς μπορούν οι ομάδες να μειώσουν την κατανάλωση ενέργειας από την Τεχνητή Νοημοσύνη χωρίς να εγκαταλείψουν χρήσιμες λειτουργίες της Τεχνητής Νοημοσύνης;

Τα μεγαλύτερα οφέλη συνήθως προέρχονται από τη χρήση του μικρότερου μοντέλου που εξακολουθεί να κάνει τη δουλειά, τη συντόμευση των προτροπών και των εξόδων, την προσωρινή αποθήκευση επαναλαμβανόμενων αποτελεσμάτων, την ομαδοποίηση της εργασίας και τη δρομολόγηση μόνο των πιο δύσκολων εργασιών σε μεγαλύτερα μοντέλα. Η βελτιστοποίηση της υποδομής έχει επίσης σημασία, ειδικά ο προγραμματισμός και η αποδοτικότητα του υλικού. Σε πολλά pipeline, η μέτρηση πρώτα βοηθά στην αποτροπή της βελτιστοποίησης λάθος πραγμάτων από τις ομάδες.

Αναφορές

1. Διεθνής Οργανισμός Ενέργειας (IEA) - Ζήτηση ενέργειας από την Τεχνητή Νοημοσύνη - ie.org

2. Υπουργείο Ενέργειας των ΗΠΑ (DOE) - Το DOE δημοσιεύει νέα έκθεση που αξιολογεί τα κέντρα δεδομένων για την αύξηση της ζήτησης ηλεκτρικής ενέργειας - energy.gov

3. Google Cloud - Μέτρηση των περιβαλλοντικών επιπτώσεων της συμπερασματολογίας από την Τεχνητή Νοημοσύνη - cloud.google.com

4. Google Research - Καλά νέα για το αποτύπωμα άνθρακα της εκπαίδευσης μηχανικής μάθησης - research.google

5. Google Research - Το αποτύπωμα άνθρακα της εκπαίδευσης μηχανικής μάθησης θα εξισορροπηθεί και στη συνέχεια θα μειωθεί - research.google

6. arXiv - Πράσινη Τεχνητή Νοημοσύνη - arxiv.org

7. arXiv - Strubell et al. - arxiv.org

8. arXiv - Στρατηγικές Κβαντοποίησης, Παραγωγής και Σερβιρίσματος στη Χρήση Ενέργειας LLM - arxiv.org

Βρείτε την τελευταία λέξη της Τεχνητής Νοημοσύνης στο επίσημο κατάστημα βοηθών τεχνητής νοημοσύνης

Σχετικά με εμάς