När man tänker på ett AI-datacenter föreställer sig de flesta gigantiska servrar packade med NVIDIA-grafikkort värda flera miljoner dollar. Men en kinesisk startup har visat att det finns ett helt annat sätt. Istället för dedikerade AI-servrar har de byggt en infrastruktur med cirka 1 000 datorer. Mac mini med chip Apple M4Målet är enkelt – att använda artificiell intelligens billigare, mer effektivt och utanoneavgifter för cloude-posttjänster.
Apple Mac mini M4 var verkligen inte designad som en datacenterserver, men den blir alltmer populär bland AI-utvecklare tack vare sin kombination av lågt pris, hög prestanda och extremt låg strömförbrukning. Grundläggande Mac-konfiguration mini M4 kostar 599 dollar och använder cirka 10 till 30 watt ström under typiska AI-arbetsbelastningar. Det är betydligt mindre än dedikerade servrar med kraftfulla grafikkort, som vanligtvis drar hundratals watt per kort. När det gäller den kinesiska startupen resulterade detta i en strömförbrukning på cirka tusen Mac-datorer. mini, som tillsammans uppfyller kraven för att använda stora språkmodeller.
Du kan vara intresserad av
Det handlar inte om att träna AI, det handlar om att köra den
Det är viktigt att notera att sådan infrastruktur inte används för att träna de största AI-modellerna. Detta område domineras fortfarande av NVIDIA-grafikacceleratorer som H100 eller de nyare Blackwell-generationerna. Mac mini men den har ett annat uppdrag. Den är idealisk för så kallad AI-inferens, d.v.s. en situation där en redan tränad modell svarar på användarfrågor eller utför specifika uppgifter. Det är här hög energieffektivitet kan vara mycket viktigare än absolut prestanda. En av de största fördelarna med chipet är Apple M4 är en Unified Memory-arkitektur. CPU:n och GPU:n delar samma operativsystemminne, så det finns inget behov av att ständigt kopiera data mellan enskilda delar av systemet. Detta ger större effektivitet när man arbetar med stora språkmodeller och minskar energiförbrukningen för hela systemet. Det är just därför Mac mini har vunnit popularitet bland utvecklare som använder verktyg för lokala AI-operationer.
En av de främsta anledningarna till att företag bygger sådana projekt är de stigande kostnaderna för cloude-tjänster. Varje förfrågan som skickas till en fjärrstyrd AI-modell innebär en extra avgift. Ju fler användare som använder tjänsten, desto högre blir månadskostnaderna. Men om företaget äger sin egen hårdvara förändras situationen. Efter att ha betalat anskaffningskostnaderna betalar det huvudsakligen för el och regelbunden infrastrukturförvaltning. Kostnaderna för enskilda AI-förfrågningar kan därför vara betydligt lägre.
Se inlägg på Instagram
Moderna verktyg med öppen källkod bidrar också till utbredningen av liknande lösningar. En av de mest kända är Ollama, som möjliggör körning av stora språkmodeller direkt på lokala datorer. Enskilda Mac-datorer kan anslutas till en enda enhet och tillsammans hantera förfrågningar över ett lokalt nätverk. Utvecklare får därmed sin egen AI-infrastruktur utan att behöva förlita sig på fjärrstyrning. cloudtjänster. Under 2025 och 2026 kommer det att finnas en allt vanligare trend där företag slutar hyra datorkraft från stora företag på lång sikt. cloudföretag och börja investera i sin egen hårdvara. Anledningen är enkel. När infrastrukturen är betald, räkningen för cloud växer varje månad. Pro För företag med ett stort antal AI-förfrågningar kan detta vara en betydande ekonomisk besparing. Mac mini Dessutom skalar den mycket bra tack vare sin storlek. I det utrymme som normalt skulle upptas av flera stora servrar kan dussintals små datorer placeras, vars strömförbrukning förblir relativt låg.
Fastän Apple aldrig presenterat sina datorer som en lösning för datacenter, är det tillkomsten av lokal artificiell intelligens som öppnar upp nya möjligheter för deras användning. Mac mini blir gradvis ett intressant alternativ för företag som behöver köra sina egna AI-modeller effektivt, billigt och utan beroende av cloudtjänster. Det är osannolikt att Mac-datorer kommer att ersättas av de kraftfullaste servrarna med NVIDIA-grafikacceleratorer inom överskådlig framtid. Men de visar att för många uppgifter behövs extremt dyr hårdvara inte alltid. Ibland kan det vara mer lönsamt att bygga en infrastruktur från ett stort antal små, energieffektiva datorer. Och det är precis vad en kinesisk startup har visat. Istället för några monstruösa AI-servrar skapade de ett datacenter bestående av tusen Mac-datorer. miniOm en liknande metod visar sig framgångsrik i andra företag, kan det vara en av de mest intressanta riktningarna artificiell intelligens kommer att ta under de kommande åren.
