Όταν σκέφτεστε ένα κέντρο δεδομένων τεχνητής νοημοσύνης, οι περισσότεροι άνθρωποι φαντάζονται γιγάντιους διακομιστές γεμάτους με κάρτες γραφικών NVIDIA πολλών εκατομμυρίων δολαρίων. Αλλά μια κινεζική νεοσύστατη επιχείρηση έδειξε ότι υπάρχει ένας εντελώς διαφορετικός τρόπος. Αντί για αποκλειστικούς διακομιστές τεχνητής νοημοσύνης, έχει κατασκευάσει μια υποδομή περίπου 1.000 υπολογιστών. Mac mini με τσιπ Apple M4Ο στόχος είναι απλός – η τεχνητή νοημοσύνη να λειτουργεί φθηνότερα, πιο αποτελεσματικά και χωρίς καμίαoneτέλη για cloudυπηρεσίες email.
Apple Mac mini Το M4 σίγουρα δεν σχεδιάστηκε ως διακομιστής κέντρου δεδομένων, αλλά κερδίζει έδαφος μεταξύ των προγραμματιστών τεχνητής νοημοσύνης χάρη στον συνδυασμό χαμηλής τιμής, υψηλής απόδοσης και εξαιρετικά χαμηλής κατανάλωσης ενέργειας. Βασική διαμόρφωση Mac. mini Το M4 κοστίζει 599 δολάρια και καταναλώνει περίπου 10 έως 30 watt ισχύος σε τυπικά φόρτα εργασίας τεχνητής νοημοσύνης. Αυτό είναι σημαντικά λιγότερο από τους dedicated servers με ισχυρές GPU, οι οποίοι συνήθως καταναλώνουν εκατοντάδες watt ανά κάρτα. Στην περίπτωση της κινεζικής νεοσύστατης εταιρείας, αυτό είχε ως αποτέλεσμα μια φάρμα περίπου χιλίων Mac. mini, τα οποία από κοινού εξυπηρετούν τις απαιτήσεις για τη λειτουργία μεγάλων γλωσσικών μοντέλων.
Μπορεί να σας ενδιαφέρει
Δεν πρόκειται για εκπαίδευση της Τεχνητής Νοημοσύνης, πρόκειται για τη λειτουργία της
Είναι σημαντικό να σημειωθεί ότι τέτοια υποδομή δεν χρησιμοποιείται για την εκπαίδευση των μεγαλύτερων μοντέλων τεχνητής νοημοσύνης. Αυτός ο τομέας εξακολουθεί να κυριαρχείται από επιταχυντές γραφικών NVIDIA, όπως η H100 ή οι νεότερες γενιές Blackwell. Mac mini αλλά έχει διαφορετική αποστολή. Είναι ιδανικό για την λεγόμενη συμπερασματολογία τεχνητής νοημοσύνης, δηλαδή μια κατάσταση όπου ένα ήδη εκπαιδευμένο μοντέλο απαντά σε ερωτήματα χρήστη ή εκτελεί συγκεκριμένες εργασίες. Εδώ είναι που η υψηλή ενεργειακή απόδοση μπορεί να είναι πολύ πιο σημαντική από την απόλυτη απόδοση. Ένα από τα μεγαλύτερα πλεονεκτήματα του τσιπ Apple Το M4 είναι μια αρχιτεκτονική ενοποιημένης μνήμης. Η CPU και η GPU μοιράζονται την ίδια λειτουργική μνήμη, επομένως δεν χρειάζεται να αντιγράφονται συνεχώς δεδομένα μεταξύ μεμονωμένων τμημάτων του συστήματος. Αυτό προσφέρει μεγαλύτερη αποτελεσματικότητα κατά την εργασία με μεγάλα γλωσσικά μοντέλα και μειώνει την κατανάλωση ενέργειας ολόκληρου του συστήματος. Αυτός ακριβώς είναι ο λόγος για τον οποίο Mac mini έχει κερδίσει δημοτικότητα μεταξύ των προγραμματιστών που χρησιμοποιούν εργαλεία για τοπικές λειτουργίες τεχνητής νοημοσύνης.
Ένας από τους κύριους λόγους για τους οποίους οι εταιρείες κατασκευάζουν τέτοια έργα είναι το αυξανόμενο κόστος cloudΗλεκτρονικές υπηρεσίες. Κάθε ερώτημα που αποστέλλεται σε ένα απομακρυσμένο μοντέλο τεχνητής νοημοσύνης συνεπάγεται επιπλέον χρέωση. Όσο περισσότεροι χρήστες χρησιμοποιούν την υπηρεσία, τόσο υψηλότερο είναι το μηνιαίο κόστος. Ωστόσο, εάν η εταιρεία διαθέτει δικό της υλικό, η κατάσταση αλλάζει. Μετά την πληρωμή του κόστους απόκτησης, πληρώνει κυρίως για την ηλεκτρική ενέργεια και την τακτική διαχείριση της υποδομής. Το κόστος για μεμονωμένα ερωτήματα τεχνητής νοημοσύνης μπορεί επομένως να είναι σημαντικά χαμηλότερο.
Προβολή ανάρτησης στο Instagram
Τα σύγχρονα εργαλεία ανοιχτού κώδικα συμβάλλουν επίσης στην επέκταση παρόμοιων λύσεων. Μία από τις πιο διάσημες είναι η Ollama, η οποία επιτρέπει την εκτέλεση μεγάλων γλωσσικών μοντέλων απευθείας σε τοπικούς υπολογιστές. Μεμονωμένοι υπολογιστές Mac μπορούν να συνδεθούν σε μία μόνο μονάδα και να εξυπηρετούν μαζί αιτήματα μέσω ενός τοπικού δικτύου. Έτσι, οι προγραμματιστές αποκτούν τη δική τους υποδομή τεχνητής νοημοσύνης χωρίς να χρειάζεται να βασίζονται σε απομακρυσμένες λύσεις. cloudυπηρεσίες. Το 2025 και το 2026, θα υπάρχει μια ολοένα και συχνότερη τάση οι εταιρείες να σταματούν να ενοικιάζουν υπολογιστική ισχύ από μεγάλες εταιρείες σε μακροπρόθεσμη βάση. cloudεταιρείες και να αρχίσουν να επενδύουν στο δικό τους υλικό. Ο λόγος είναι απλός. Μόλις πληρωθεί η υποδομή, ο λογαριασμός για cloud αυξάνεται κάθε μήνα. Pro Για εταιρείες με μεγάλο αριθμό ερωτημάτων τεχνητής νοημοσύνης, αυτό μπορεί να αποτελέσει σημαντική οικονομική εξοικονόμηση. Mac mini Επιπλέον, κλιμακώνεται πολύ καλά λόγω του μεγέθους του. Στον χώρο που κανονικά θα καταλάμβαναν αρκετοί μεγάλοι διακομιστές, μπορούν να τοποθετηθούν δεκάδες μικροί υπολογιστές, των οποίων η κατανάλωση ενέργειας παραμένει σχετικά χαμηλή.
Αν και Apple ποτέ δεν παρουσίασε τους υπολογιστές της ως λύση για κέντρα δεδομένων, η έλευση της τοπικής τεχνητής νοημοσύνης είναι αυτή που ανοίγει νέες δυνατότητες για τη χρήση τους. Mac mini γίνεται σταδιακά μια ενδιαφέρουσα εναλλακτική λύση για εταιρείες που πρέπει να λειτουργούν τα δικά τους μοντέλα Τεχνητής Νοημοσύνης αποτελεσματικά, φθηνά και χωρίς εξάρτηση από cloudυπηρεσίες. Είναι απίθανο τα Mac να αντικατασταθούν από τους πιο ισχυρούς διακομιστές με επιταχυντές γραφικών NVIDIA στο άμεσο μέλλον. Αλλά δείχνουν ότι για πολλές εργασίες, δεν χρειάζεται πάντα εξαιρετικά ακριβό υλικό. Μερικές φορές μπορεί να είναι πιο επικερδές η κατασκευή μιας υποδομής από έναν μεγάλο αριθμό μικρών, ενεργειακά αποδοτικών υπολογιστών. Και αυτό ακριβώς απέδειξε μια κινεζική νεοσύστατη εταιρεία. Αντί για μερικούς τερατώδεις διακομιστές τεχνητής νοημοσύνης, δημιούργησε ένα κέντρο δεδομένων που αποτελείται από χίλιους Mac. miniΕάν μια παρόμοια προσέγγιση αποδειχθεί επιτυχής σε άλλες εταιρείες, θα μπορούσε να είναι μια από τις πιο ενδιαφέρουσες κατευθύνσεις που θα ακολουθήσει η τεχνητή νοημοσύνη τα επόμενα χρόνια.
