YouTuber Dave Lee Dave2D-kanavalta näytti, miten uusi Mac Studio sirun kanssa M3 Ultra voi käyttää tehokkaasti DeepSeek R1 AI -mallia, jos laite on varustettu maxjonka muistikapasiteetti on enintään 512 Gt. Hänen testien mukaan mallin versiota, jossa on 671 miljardia parametria, on mahdollista ajaa suoraan tällä työasemalla, mutta se vaatii merkittäviä muistiresursseja, mukaan lukien 404 Gt tallennustilaa ja 448 Gt video-RAM-muistin manuaalinen allokointi päätteen komentojen avulla.
Saatat olla kiinnostunut
Avaintekijä onnistuneessa toiminnassa on sirun yhtenäinen muistiarkkitehtuuri M3 Ultra, joka mahdollistaa DeepSeek R4 -mallin kvantisoidun 1-bittisen version tehokkaan käsittelyn. Tämä kvantisointi heikentää hieman tarkkuutta, mutta samalla säilyttää kaikki parametrit ja tarjoaa noin 17–18 tokenia sekunnissa, mikä riittää useimpiin käytännön sovelluksiin. Energiatehokkuus on myös vaikuttava. Mac Studio Se onnistuu käyttämään mallia alle 200 watin virrankulutuksella, mikä on jyrkkä kontrasti perinteisiin PC-järjestelmiin, joissa samanlainen suorituskyky vaatisi useita näytönohjainkortteja jopa kymmenkertaisella virrankulutuksella. Mahdollisuus ajaa edistyneitä tekoälymalleja paikallisesti tuo merkittäviä etuja erityisesti alueilla, joilla tietoturva on tärkeää, kuten terveydenhuolto tai yrityssovellukset.
Fotogalerie
Tällainen suoritus maksaa kuitenkin paljon rahaa. Mac Studio s M3 Ultra ja 512 Gt RAM-muistia alkaa noin 10 16 dollarista. Täysin varustettu kokoonpano XNUMX Tt:n SSD:llä ja sirulla M3 Ultra 32-ytimisellä prosessorilla, 80-ytimisellä GPU:lla ja 32-ytimisellä neuromoottorilla se maksaa 14 099 dollaria.Apple sanoo että M3 Ultra on Mac-historian tehokkain siru tähän mennessä, ja sen suorituskyky on saavutettu yhdistämällä kaksi M3-sirua Max tekniikan kautta UltraFusion, joka kaksinkertaistaa niiden tekniset tiedot.
