Meta har introduceret Muse Spark Open, den mest kraftfulde open-weight-model fra USA. Det er en model med 816 milliarder parametre og et kontekstvindue, der kan bruge en million tokens ad gangen. Modellen er primært bygget til programmører og orkestrering af AI-agenter, som derefter arbejder uafhængigt. Interessant nok har Meta kombineret denne model med Apple optimeret til MLX-frameworket og de nyeste computere Mac Studio og chip M5 UltraHvis du har et par Mac Studio Med 512 delt hukommelse, dvs. 1 TB hukommelse i alt, kan du køre modellen lokalt uden at skulle oprette forbindelse til Meta-servere. Apple Under testene sagde han, at hvis han brugte fire af de nyeste Mac Studio med en chip M5 Ultra tilsammen oversteg modellen en hastighed på 36 tokens i sekundet.
Muse Spark Open er tilgængelig i dag via API-platforme som Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter og Together AI. Modelvægte kan downloades fra platformene. Amazon SageMaker AI, Google Cloud Modelhave, krammende ansigt og Microsoft Foundry-modeller. Modellen fungerer på førende inferensmotorer såsom SGLang, vLLM, TensorRT-LLM, Krammeansigtstransformatorer, Apple MLX, llama.cpp og Unsloth, og inkluderer optimeringer til AMD-hardware, Apple, Intel og NVIDIA.
