Kui mõelda tehisintellekti andmekeskusele, siis enamik inimesi kujutab ette hiiglaslikke servereid, mis on täis mitme miljoni dollari väärtuses NVIDIA graafikakaarte. Kuid üks Hiina idufirma on näidanud, et on olemas hoopis teistsugune lahendus. Spetsiaalsete tehisintellekti serverite asemel on nad ehitanud umbes 1000 arvutist koosneva infrastruktuuri. Mac mini koos kiibiga Apple M4Eesmärk on lihtne – käitada tehisintellekti odavamalt, tõhusamalt ja ilma igasuguste muudatusteta.onetasud cloudmeiliteenused.
Apple Mac mini M4 ei olnud kindlasti loodud andmekeskuse serveriks, kuid tänu madalale hinnale, suurele jõudlusele ja äärmiselt madalale energiatarbimisele on see tehisintellekti arendajate seas populaarsust kogumas. Maci põhikonfiguratsioon mini M4 maksab 599 dollarit ja kasutab tüüpiliste tehisintellekti töökoormuste korral umbes 10–30 vatti energiat. See on oluliselt vähem kui võimsate graafikaprotsessoritega spetsiaalsed serverid, mis tavaliselt tarbivad sadu vatte kaardi kohta. Hiina idufirma puhul oli tulemuseks umbes tuhande Maci farm. mini, mis koos täidavad suurte keelemudelite käitamise nõudeid.
Teid võiks huvitada
Asi pole tehisintellekti treenimises, vaid selle käitamises.
Oluline on märkida, et sellist infrastruktuuri ei kasutata suurimate tehisintellekti mudelite treenimiseks. Selles valdkonnas domineerivad endiselt NVIDIA graafikakiirendid, näiteks H100 või uuemad Blackwelli põlvkonnad. Mac mini aga sellel on teistsugune missioon. See sobib ideaalselt nn tehisintellekti järeldamiseks, st olukorraks, kus juba treenitud mudel vastab kasutaja päringutele või täidab konkreetseid ülesandeid. Siin võib kõrge energiatõhusus olla palju olulisem kui absoluutne jõudlus. Kiibi üks suurimaid eeliseid Apple M4 on ühtne mäluarhitektuur. Protsessor ja graafikaprotsessor jagavad sama operatiivmälu, seega pole vaja andmeid pidevalt süsteemi üksikute osade vahel kopeerida. See suurendab efektiivsust suurte keelemudelitega töötamisel ja vähendab kogu süsteemi energiatarbimist. Just sel põhjusel Mac mini on populaarsust kogunud arendajate seas, kes kasutavad tööriistu kohaliku tehisintellekti toiminguteks.
Üks peamisi põhjuseid, miks ettevõtted selliseid projekte ehitavad, on kasvavad kulud. cloude-teenused. Iga kaugjuhtimisega tehisintellekti mudelile saadetud päring tähendab lisatasu. Mida rohkem kasutajaid teenust kasutab, seda kõrgemad on igakuised kulud. Kui aga ettevõttel on oma riistvara, muutub olukord. Pärast soetuskulude tasumist tasub see peamiselt elektri ja regulaarse taristu haldamise eest. Seega võivad üksikute tehisintellekti päringute kulud olla oluliselt madalamad.
Vaata postitust Instagramis
Sarnaste lahenduste levikule aitavad kaasa ka kaasaegsed avatud lähtekoodiga tööriistad. Üks kuulsamaid on Ollama, mis võimaldab suuri keelemudeleid otse kohalikes arvutites käitada. Üksikud Macid saab ühendada üheks seadmeks ja koos kohaliku võrgu kaudu päringuid teenindada. Arendajad saavad seega oma tehisintellekti infrastruktuuri ilma kaugteenustele lootmata. cloudteenused. Aastatel 2025 ja 2026 on üha sagedasem trend, kus ettevõtted lõpetavad arvutusvõimsuse pikaajalise rentimise suurettevõtetelt. cloudettevõtted ja hakkavad investeerima oma riistvarasse. Põhjus on lihtne. Kui infrastruktuuri eest on tasutud, siis ka selle arve cloud kasvab iga kuuga. Pro Ettevõtete jaoks, kellel on palju tehisintellekti päringuid, võib see olla märkimisväärne rahaline kokkuhoid. Mac mini Lisaks on see oma suuruse tõttu väga hästi skaleeritav. Ruumi, kus tavaliselt asuks mitu suurt serverit, saab paigutada kümneid väikeseid arvuteid, mille energiatarve jääb suhteliselt madalaks.
Kuigi Apple ei esitlenud oma arvuteid kunagi lahendusena andmekeskustele, just kohaliku tehisintellekti tulek avab nende kasutamiseks uusi võimalusi. Mac mini on järk-järgult muutumas huvitavaks alternatiiviks ettevõtetele, kes peavad oma tehisintellekti mudeleid tõhusalt, odavalt ja ilma teistest sõltumata käitama. cloudteenused. On ebatõenäoline, et Macid lähitulevikus asendatakse võimsaimate NVIDIA graafikakiirendiga serveritega. Kuid need näitavad, et paljude ülesannete jaoks pole alati vaja äärmiselt kallist riistvara. Mõnikord võib olla tulusam ehitada infrastruktuur suurest hulgast väikestest ja energiatõhusatest arvutitest. Ja just seda on üks Hiina idufirma demonstreerinud. Mõne koletu tehisintellekti serveri asemel lõi see tuhandest Macist koosneva andmekeskuse. miniKui sarnane lähenemine osutub edukaks ka teistes ettevõtetes, võib see olla üks huvitavamaid suundi, mida tehisintellekt lähiaastatel võtab.
