Apabila anda memikirkan pusat data AI, kebanyakan orang membayangkan pelayan gergasi yang dipenuhi dengan kad grafik NVIDIA bernilai berjuta-juta dolar. Tetapi sebuah syarikat baharu China telah menunjukkan bahawa terdapat cara yang sama sekali berbeza. Daripada pelayan AI khusus, ia telah membina infrastruktur sekitar 1,000 komputer. Mac mini dengan cip Apple M4Matlamatnya mudah – untuk menjalankan kecerdasan buatan dengan lebih murah, lebih cekap dan tanpa sebarangoneyuran untuk cloudperkhidmatan e-mel.
Apple Mac mini M4 sememangnya tidak direka bentuk sebagai pelayan pusat data, tetapi ia semakin mendapat perhatian dalam kalangan pembangun AI hasil daripada gabungan harga yang rendah, prestasi tinggi dan penggunaan kuasa yang sangat rendah. Konfigurasi Mac Asas mini M4 berharga $599 dan menggunakan kira-kira 10 hingga 30 watt kuasa di bawah beban kerja AI biasa. Itu jauh lebih rendah daripada pelayan khusus dengan GPU berkuasa, yang biasanya menggunakan ratusan watt setiap kad. Dalam kes syarikat baharu China, ini menghasilkan ladang kira-kira seribu Mac. mini, yang bersama-sama memenuhi keperluan untuk mengendalikan model bahasa yang besar.
Anda mungkin berminat
Ia bukan tentang melatih AI, ia tentang menjalankannya
Adalah penting untuk ambil perhatian bahawa infrastruktur sedemikian tidak digunakan untuk melatih model AI terbesar. Kawasan ini masih didominasi oleh pemecut grafik NVIDIA seperti H100 atau generasi Blackwell yang lebih baharu. Mac mini tetapi ia mempunyai misi yang berbeza. Ia sesuai untuk apa yang dipanggil inferens AI, iaitu situasi di mana model yang telah terlatih menjawab pertanyaan pengguna atau melaksanakan tugas tertentu. Di sinilah kecekapan tenaga yang tinggi boleh menjadi jauh lebih penting daripada prestasi mutlak. Salah satu kelebihan terbesar cip tersebut Apple M4 ialah seni bina Memori Bersepadu. CPU dan GPU berkongsi memori operasi yang sama, jadi tidak perlu sentiasa menyalin data antara bahagian individu sistem. Ini memberikan kecekapan yang lebih tinggi apabila bekerja dengan model bahasa yang besar dan mengurangkan penggunaan tenaga keseluruhan sistem. Inilah sebabnya Mac mini telah mendapat populariti dalam kalangan pembangun yang menggunakan alatan untuk operasi AI tempatan.
Salah satu sebab utama mengapa syarikat membina projek sedemikian adalah peningkatan kos cloude-perkhidmatan. Setiap pertanyaan yang dihantar kepada model AI jarak jauh bermakna yuran tambahan. Lebih ramai pengguna menggunakan perkhidmatan tersebut, lebih tinggi kos bulanan. Walau bagaimanapun, jika syarikat memiliki perkakasannya sendiri, keadaan akan berubah. Selepas membayar kos pemerolehan, ia terutamanya membayar elektrik dan pengurusan infrastruktur tetap. Oleh itu, kos untuk pertanyaan AI individu boleh menjadi jauh lebih rendah.
Lihat siaran di Instagram
Alat sumber terbuka moden juga menyumbang kepada pengembangan penyelesaian yang serupa. Salah satu yang paling terkenal ialah Ollama, yang membolehkan model bahasa besar dijalankan secara langsung pada komputer tempatan. Mac individu boleh disambungkan ke dalam satu unit dan bersama-sama melayani permintaan melalui rangkaian tempatan. Oleh itu, pembangun memperoleh infrastruktur AI mereka sendiri tanpa perlu bergantung pada alat kawalan jauh. cloudperkhidmatan. Pada tahun 2025 dan 2026, akan terdapat trend yang semakin kerap di mana syarikat berhenti menyewa kuasa pengkomputeran daripada syarikat besar untuk jangka masa panjang. cloudsyarikat dan mula melabur dalam perkakasan mereka sendiri. Sebabnya mudah. Sebaik sahaja infrastruktur dibayar, bil untuk cloud berkembang setiap bulan. Pro Bagi syarikat yang mempunyai bilangan pertanyaan AI yang tinggi, ini boleh menjadi penjimatan kewangan yang ketara. Mac mini Tambahan pula, ia boleh diskalakan dengan sangat baik kerana saiznya. Dalam ruang yang biasanya diduduki oleh beberapa pelayan besar, berpuluh-puluh komputer kecil boleh diletakkan, yang penggunaan kuasanya masih agak rendah.
Walaupun Apple tidak pernah mempersembahkan komputernya sebagai penyelesaian untuk pusat data, kemunculan kecerdasan buatan tempatanlah yang membuka kemungkinan baharu untuk penggunaannya. Mac mini secara beransur-ansur menjadi alternatif yang menarik bagi syarikat yang perlu menjalankan model AI mereka sendiri dengan cekap, murah dan tanpa bergantung kepada cloudperkhidmatan. Mac tidak mungkin akan digantikan oleh pelayan paling berkuasa dengan pemecut grafik NVIDIA pada masa hadapan. Tetapi ia menunjukkan bahawa untuk banyak tugas, perkakasan yang sangat mahal tidak selalu diperlukan. Kadangkala ia boleh menjadi lebih menguntungkan untuk membina infrastruktur daripada sebilangan besar komputer kecil yang cekap tenaga. Dan itulah yang telah ditunjukkan oleh syarikat baharu China. Daripada beberapa pelayan AI yang besar, ia mencipta pusat data yang terdiri daripada seribu Mac miniJika pendekatan yang serupa terbukti berjaya dalam syarikat lain, ia mungkin menjadi salah satu hala tuju paling menarik yang akan diambil oleh kecerdasan buatan pada tahun-tahun akan datang.
