A Meta lançou o Muse Spark Open, o modelo open-weight mais poderoso dos EUA. Trata-se de um modelo com 816 bilhões de parâmetros e uma janela de contexto que pode usar um milhão de tokens por vez. O modelo foi desenvolvido principalmente para programadores e para a orquestração de agentes de IA, que então operam de forma independente. Curiosamente, a Meta combinou este modelo com Apple Otimizado para o framework MLX e os computadores mais recentes. Mac Studio e chip M5 UltraSe você tiver um casal Mac Studio Com 512 bits de memória compartilhada, ou seja, 1 TB de memória no total, você pode executar o modelo localmente, sem precisar se conectar aos servidores Meta. Apple Durante os testes, ele afirmou que se usasse quatro dos Mac Studio mais recentes com um chip M5 Ultra Em conjunto, o modelo ultrapassou a velocidade de 36 tokens por segundo.
O Muse Spark Open já está disponível por meio de plataformas de API como Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter e Together AI. Os pesos do modelo podem ser baixados dessas plataformas. Amazon SageMaker AI, Google Cloud Jardim Modelo, Abraço Facial e Microsoft Modelos Foundry. O modelo funciona em mecanismos de inferência líderes como SGLang, vLLM, TensorRT-LLM, Transformers que abraçam o rosto, Apple MLX, llama.cpp e Unsloth, incluindo otimizações para hardware AMD, AppleIntel e NVIDIA.
