Lo YouTuber Dave Lee del canale Dave2D ha mostrato come il nuovo Mac Studio con cippato M3 Ultra può eseguire efficacemente il modello DeepSeek R1 AI se il dispositivo è dotato di maxcon una capacità massima di 512 GB di memoria. Secondo i suoi test, è possibile eseguire una versione del modello con 671 miliardi di parametri direttamente su questa workstation, ma ciò richiede notevoli risorse di memoria, tra cui 404 GB di spazio di archiviazione e l'allocazione manuale di 448 GB di RAM video tramite comandi nel terminale.
Potrebbe interessarti
Un elemento chiave per un funzionamento di successo è l'architettura di memoria unificata del chip M3 Ultra, che consente l'elaborazione efficiente della versione quantizzata a 4 bit del modello DeepSeek R1. Questa quantizzazione riduce leggermente la precisione, ma allo stesso tempo preserva tutti i parametri e fornisce una produttività di circa 17-18 token al secondo, sufficiente per la maggior parte delle applicazioni pratiche. Anche l'efficienza energetica è impressionante. Mac Studio Riesce a far funzionare il modello con un consumo energetico inferiore a 200 watt, in netto contrasto con i sistemi PC tradizionali, in cui prestazioni simili richiederebbero più schede grafiche con un consumo energetico fino a dieci volte superiore. La possibilità di eseguire localmente modelli di intelligenza artificiale avanzati comporta notevoli vantaggi, soprattutto in settori in cui la sicurezza dei dati è importante, come l'assistenza sanitaria o le applicazioni aziendali.
Galleria fotografica
Tuttavia, tali prestazioni comportano costi elevati. Mac Studio s M3 Ultra e 512 GB di RAM partono da circa 10 dollari. Configurazione completamente attrezzata con SSD da 16 TB e chip M3 Ultra con una CPU a 32 core, una GPU a 80 core e un Neural Engine a 32 core, costerà 14 dollari.Apple Dillo M3 Ultra è il chip più potente nella storia del Mac fino ad oggi, con prestazioni ottenute combinando due chip M3 Max attraverso la tecnologia UltraFusion, che raddoppia le loro specifiche.
