Společnost Meta představila Muse Spark Open, což je nejvýkonnější takzvaný open-weight model z USA. Jde o model s 816 miliardami parametrů s tím, že kontexxtové okno může najendou využívat jeden milion tokenů. Model je primárně postaven pro pgramátory a orchestraci AI agentů, které poté pracují samostatně. Zajímavé je, že Meta tento model společně s Apple optimalizovala pro framework MLX a nejnovější počítače Mac Studio a čipem M5 Ultra. Pokud máte dvojici Mac Studio s 512 sdílené paměti, tedy dohromady 1TB paměti, pak můžete model provozovat lokálně, ez nutnosti připojovat se k serverům Meta. Apple při testech uvedl, že pokud používal čtveřici nejnovějších Mac Stuido s čipem M5 Ultra dohromady, překročil model rychlost 36 tokenů za vteřinu.
Muse Spark Open je od dnešního dne dostupný prostřednictvím platforem API, jako jsou Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter a Together AI. Váhy modelu si lze stáhnout z platforem Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face a Microsoft Foundry Models. Model funguje na předních inferenčních enginech, jako jsou SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp a Unsloth, přičemž obsahuje optimalizace pro hardware od společností AMD, Apple, Intel a NVIDIA.
