El YouTuber Dave Lee del canal Dave2D mostró cómo el nuevo Mac Studio con chip M3 Ultra Puede ejecutar eficazmente el modelo de IA DeepSeek R1 si el dispositivo está equipado con maxcon una capacidad máxima de 512 GB de memoria. Según sus pruebas, es posible ejecutar una versión del modelo con 671 mil millones de parámetros directamente en esta estación de trabajo, pero requiere importantes recursos de memoria, incluidos 404 GB de almacenamiento y la asignación manual de 448 GB de RAM de video mediante comandos en la terminal.
Te podría interesar
Un elemento clave para un funcionamiento exitoso es la arquitectura de memoria unificada del chip. M3 Ultra, lo que permite un procesamiento eficiente de la versión cuantificada de 4 bits del modelo DeepSeek R1. Esta cuantificación reduce ligeramente la precisión, pero al mismo tiempo conserva todos los parámetros y proporciona un rendimiento de aproximadamente 17 a 18 tokens por segundo, lo que es suficiente para la mayoría de las aplicaciones prácticas. La eficiencia energética también es impresionante. Mac Studio Logra operar el modelo con menos de 200 vatios de consumo de energía, lo que supone un marcado contraste con los sistemas de PC tradicionales, donde un rendimiento similar requeriría varias tarjetas gráficas con hasta diez veces el consumo de energía. La capacidad de ejecutar modelos de IA avanzados localmente aporta ventajas significativas, especialmente en áreas donde la seguridad de los datos es importante, como la atención médica o las aplicaciones corporativas.
Galería de fotos
Sin embargo, este tipo de actuación cuesta mucho dinero. Mac Studio s M3 Ultra y 512 GB de RAM comienzan en alrededor de $10. Configuración totalmente equipada con SSD de 16 TB y chip M3 Ultra Con una CPU de 32 núcleos, una GPU de 80 núcleos y un Neural Engine de 32 núcleos, costará $14.Apple dice que M3 Ultra Es el chip más potente en la historia de Mac hasta la fecha, y su rendimiento se logra combinando dos chips M3. Max a través de la tecnología UltraFusion, que duplica sus especificaciones.
